界面新闻记者 | 吕雅萱界面新闻编辑 | 翟瑞民接通微信视频电话，你是否会怀疑屏幕对面说话的“好友”实则是个AI换脸的陌生人？2023年5月8日，内蒙古自治区包头市公安局微信公众号“平安包头”发布了一起使用“AI换脸技术”进行电信诈骗的案件。
摘要:某社交平台上“AI换脸服务”帖子下，回复清一色:“视频，照片，随便换”。某二手平台上，用户仅需提供5秒视频和清晰五官照片，支付9.9元即可获得定制化换脸视频，2.9元的低价安装包也让粗糙的换脸工具触手可及。
福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。手机应用商店有许多“AI换脸”App（页面截图）。
“伪造！该内容疑似生成合成内容！”4月21日，在市公安局刑侦支队，记者在反诈专家窦哲指导下，向“鉴别神器”上传了一段AI合成视频，神器竟然一秒就戳穿“AI换脸术”伎俩。而面对真实拍摄视频和照片，“鉴别神器”也准确给出评判：真实！该内容倾向于人类创作！
央广网北京7月10日消息（记者刘经宇）7月3日，一名拥有670余万粉丝的网红女主播陈岚发布视频称，她遭遇了恶意Ps和AI换脸，照片被人做成了色情照片和视频，并在网上公开出售。陈岚说，她本想搜集相关证据，找出根源，又不想太声张，但随着评论区越来越多人“造谣”，她打算报警。
视觉中国 图一起“AI换脸”著作权侵权案入选最高法典型案例。4月21日，最高人民法院发布《中国法院知识产权司法保护状况（2024年）》，总结过去一年人民法院知识产权司法保护工作的新成果，同时发布8件人民法院知识产权典型案例。
近日，知名模特叶凯薇发视频称，其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警。有媒体从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。利用AI换脸制作淫秽视频，该担何责？AI换脸乱象频现如何治理？
央视新闻客户端 明星现身、专家卖药……一张图片、一段声音，就能生成虚假视频，今年两会期间，雷军等受害者的回应，让AI伪造侵权再次成为热点。换脸拟声合成视频 AI伪造何时休？全国人大代表 雷军：有网友说去年国庆放了7天假，8天被我骂醒。
12月14日，河南小伙在新疆阿勒泰发视频称，自己嚼槟榔8年从“瓜子脸”变“方块脸”，他说自己八年来，已经吃了40多万元的槟榔，正尝试戒掉，建议大家少吃或不吃槟榔。相关话题#小伙嚼槟榔8年瓜子脸变方块脸# #小伙吃槟榔8年花40多万#引发网友热议。
12月14日，河南小伙发视频称自己嚼槟榔8年，从“瓜子脸”变“方块脸”，他说自己八年来已经吃了40多万的槟榔，正尝试戒掉，建议大家少吃或不吃槟榔。对此，不少网友表示担忧，希望他赶紧戒掉槟榔。还有网友感慨，还以为他的脸开了特效。
