中新经纬5月24日电 (常涛)某天，你的一位熟人发来借钱的请求，随后对方打来了视频。视频接通后你确认长相和声音就是熟人“本人”，你没有怀疑把钱转了过去。没过多久，你发现自己被骗了，刚才视频里那位“熟人”并不是真的他。这可不是鬼故事，而是已经发生在多位受害者身上的真实案例。
“好友”突然打来视频10分钟被骗430万多人视频会议只有自己是真人被骗2亿港元和“大学同学”视频通话五秒被骗转账3000元……近两年全国发生“AI换脸”诈骗犯罪近百起面对熟悉的面孔和声音任谁都无法立刻联想到诈骗今后当你最亲近的人打来视频电话你会不会怀疑手机那头的人究竟是谁呢？
视频号可能对AI 虚拟主播带货实行最严限制令。南都记者了解获悉，日前为优化视频号橱窗生态，腾讯对《视频号橱窗达人“发布低质量内容”实施细则》进行修订，其中“使用插件、AI等工具生成虚拟形象进行直播”将会被判定为“非真实直播”。
在浙江义乌小商品市场，傅女士的袜子店铺正通过一场静默的“数字革命”改写跨境电商规则。借助AI数字人技术，她仅需录制中文口播视频，即可自动生成阿拉伯语、西班牙语等十余种语言的带货短视频，月播放量突破50万次，跨境销售额突破2000万双。
记者在短视频平台搜索发现，不少非节目官方所发布的切片里夹藏大量“私货”，视频主通过AI技术更换专家语音和字幕，将涉及体重管理、祛湿等保健类商品经过包装成功实现“名人带货”。加句台词综艺切片包装出明星代言“上当受骗了！没想到视频切片里‘专家推荐说辞’居然是AI造假。
“上当受骗了！没想到视频切片里‘专家推荐说辞’居然是AI造假。”00后小高愤怒地将购买的减肥产品扔进垃圾桶。小高告诉新京报贝壳财经记者，自己之所以心动，源于看见《国医少年志》视频切片里推荐了这款减肥产品，结果未见效果反而被包装营销暗算。
