【今日视点】◎本报记者 刘 霞近日，美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛滥，但这些看似细节丰富的图片却与事实毫不相干，这些图片出自人工智能(AI)驱动的图像生成技术。
近期，AI深度合成技术引发的侵权现象引起关注。据报道，多名公众人物的声音和形象未经授权被用于制作恶搞视频或带货广告，这不仅损害了当事人的合法权益，更暴露了当前AI技术在应用过程中面临的种种挑战。AI深度合成技术，通俗来说就是通过人工智能算法实现声音克隆、面容替换等效果。
极目新闻评论员 文清蔓实习生 王金瑞您在刷视频的时候，有没有注意到一些视频旁边标着“本视频为合成内容”，这是什么意思呢？当前，人工智能生成合成内容的逼真程度真假难辨。日前，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》，正面向社会公开征求意见。
9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》）。提出人工智能生成合成内容应当添加显式标识和隐式标识，且对人工智能生成合成内容服务提供者（以下简称“服务提供者”）、网络信息内容传播平台、互联网应用程序分发平台等均提出相应合规要求。
近日，#男子用AI伪造学生同事近7000张裸照#话题冲上热搜。犯罪嫌疑人白某某，原本是一家互联网公司的技术员，他用AI“一键去衣”技术伪造淫秽图片，每张1.5元卖出。图片涉及女性人数多，包括学生、教师、同事。目前白某某已被提起公诉。
据网络安全实验室统计，仅2024年12月1日至2025年2月期间，就出现了超过2000个仿冒DeepSeek的山寨网站，打着“免费内测”“AI暴富课”旗号诱导用户下载恶意软件，造成个人信息泄露甚至资金被盗。
在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。
记者在短视频平台搜索发现，不少非节目官方所发布的切片里夹藏大量“私货”，视频主通过AI技术更换专家语音和字幕，将涉及体重管理、祛湿等保健类商品经过包装成功实现“名人带货”。加句台词综艺切片包装出明星代言“上当受骗了！没想到视频切片里‘专家推荐说辞’居然是AI造假。
