利用“AI换脸”伪造身份、智能设备“偷听”、摄像头被操控……AI生成视频、智能管家、刷脸支付等新技术让生活更便利的同时,也隐藏着个人隐私被泄露的风险。如何提升防范意识、保护个人信息安全?深度伪造视频、音频可以轻易制造“幻象”,眼见未必为实。
问题一:AI换脸作为深度合成技术的一种新发展形态,具有哪些特征,存在哪些应用风险?田宏杰:AI换脸技术又称人脸深度伪造技术,是一种基于人工智能深度学习和计算机视觉的前沿技术应用,具有高仿真性、高效自动化、数据依赖性、可扩展性、即时性、大众化等特征。
一次偶然的机会,胡先生发现母亲因轻信AI换脸虚假宣传购买无效保健品,花费万元后,才识破了视频画面中颈部扭曲、声画不同步等漏洞。如今,上传一张照片、一段音频,即可生成动态视频,“AI换脸、拟声”也成为侵权违法的风险高发区。
□ 曹钰当前,AI正在给大众带来持续的便利和乐趣,也有一些人的权益在AI技术的运用过程中受到了损害。目前,专门规范AI的法律尚未出台,但已有当事人遭遇相关纠纷并诉至法院,如何适用现有的法律规范正确界定当事人的权利义务,妥善化解纠纷,成为摆在我们面前必须解决的问题。
随着人工智能和大模型技术的迅猛发展,它们为人们的生活带来了前所未有的便利与变革。从DeepSeek等应用的爆火,到AI PC等端侧AI设备的加速普及,AI 的身影无处不在。然而,AI 技术的滥用也带来了新的安全威胁。