AI一键换脸给你炮制裸照门怎么办？要求平台强制标识是当务之急丨快评

一个侵权案例，再次让AI换脸技术引起人们的关注。

据江苏广电荔枝新闻报道，南京李某是一名短视频博主，拥有几十万粉丝。她发现自己拍摄发布的一段古风汉服短视频成为某“AI视频换脸”小程序上的一款模板。用户只要上传照片，就可以把模板中李某的面容换成自己的。李某认为该小程序侵犯自己的肖像权，将其运营商告上法庭。法院审理支持了李某的诉求，判决小程序运营商删除侵权内容，向李某赔礼道歉并赔偿损失和精神损害抚慰金。

这不是AI换脸技术第一次导致侵权官司。2022年，杭州互联网法院也曾审理过一起类似的案件，被告公司运营的“AI换脸”App未经允许使用了一位汉服模特的视频作为模板，被判侵犯模特的肖像权。

2019年8月，一个换脸App曾火爆一时，虽然因为涉嫌侵权在短时间内被下架，但也被认为展现了其运营公司强大的技术实力。随着AI技术不断发展，“一键换脸”的成本越来越低，效果越来越好。如今网络上类似的应用一抓一大把，普通人都可以秒变好莱坞大片主角。一个普通程序员，也有能力利用开源软件和普通硬件，低成本搭设自己的换脸应用。

而随着生成式AI技术的发展，不仅仅是“换脸”，无中生有地从零生成几可乱真的照片和视频，技术上也完全成为可能。最近，网络上就出现了特斯拉汽车公司总裁马斯克和通用汽车女掌门人Mary Barra手牵手的AI合成照片。马斯克本人对此评论说：“我肯定不会穿这身衣服。”但是，普通人甚至证券分析师都可能会信以为真。

技术本身是中性的，可以为我们带来便利，但是如果被滥用，也可能产生严重的后果。上述侵犯肖像权、版权等权利的案例只是小儿科。试想，普通人的人脸被“换脸”到淫秽色情视频上，会带来什么后果？造黄谣者不再仅仅限于文字谣言了，可以“有图有真相”“有视频有真相”。不法分子可能拿伪造的照片、视频大肆传播，侮辱诽谤别人。甚至生成的人脸可能骗过人脸识别系统，让黑客攻破银行账户，生成的“监控录像”，可能成为栽赃陷害某人“犯罪”的证据。

防患于未然，很有必要。学界、产业界和监管部门都在探讨如何对生成式人工智能进行规制。早在2021年，联合国教科文组织就发布《人工智能伦理建议书》，作为针对人工智能伦理的规范框架。这一建议由专家团队撰写，并在联合国教科文组织大会上获得通过。近日，某知名短视频平台也发布了关于人工智能生成内容的平台规范暨行业倡议，提出AI生成内容标识的水印与元数据规范。OpenAI此前也表示，将考虑在ChatGPT中添加水印，以降低模型被滥用带来的负面影响。

在政府监管方面，国家网信办2022年11月公布了《互联网信息服务深度合成管理规定》，规定深度合成服务提供者应当在涉及人脸、人声等生成内容的合理位置、区域进行显著标识，向公众提示深度合成情况。2023年4月，国家网信办又对“生成式人工智能服务管理办法”征求意见，其中规定生成式AI不得生成侵权信息以及暴力、淫秽色情、虚假信息等。

欧盟有关负责人日前也表示，希望对AI生成的内容进行强制性标注，“人工智能生成的一切，无论是文本还是图像，都有义务告知它们是由人工智能完成的”。美国联邦政府也宣布了首个AI“监管计划”，将发布美国政府使用AI系统的政策指导草案，以确保人工智能的使用保障“美国人民的权利和安全”，同时也要求科技公司确保其产品在公开之前是安全的。

对AI生成内容进行强制标注（即强制对生成内容添加“AI水印”），可以让受众更容易分辨内容是否由AI生成，能够避免误导。但是，如果生成的是文字内容，那重新打一遍字，就可以完全消除水印。不过，文字内容的负面影响相对比较小。更重要的是对AI生成图片、视频的标注。除了人类可见的可视水印之外，有必要在AI硬件的底层就增加为生成内容添加“数字水印”功能，并且难以破解，最好一旦文件中的“数字水印”被删改，则整个文件就会被销毁。但是，如何在技术上实现这一点，还需全社会形成共识和规范。

辛省志