7月6日，被视为全球AI行业风向标的世界人工智能大会在上海开幕，从大模型、芯片到机器人，大会集中展示了当前人工智能技术在各领域的赋能“进度表”。人工智能引领新一轮科技革命和产业变革是它的“A面”，让人赞叹、惊喜，但它的“B面”却正在引发一场看不见的安全攻防战。
2023年5月17日 ~ 2023年5月24日5月24日 |历史上的今天1954年5月24日，晶体管电子计算机诞生。···01AI诈骗10分钟骗走430万5月22日，一起“AI网聊10分钟骗走430万”的典型案例冲上热搜。
·2018年，Google在做BERT大模型的时候，OpenAI坚持用GPT，就是说，坚信所有的问题都可以归结为从上一句预测下一句，简化整个流程。思想非常简单，但是它把这个东西推向一个高度，即不断增加模型的大小，增加数据。这个过程中，它发现了一种涌现能力。
随着人工智能的迅猛发展，诈骗团伙的诈骗手段也越来越科技化，竟然用上了AI换脸技术。近日，包头警方发布一起利用AI实施电信诈骗的典型案例。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金。
视觉中国供图对于滥用生成式人工智能技术的担忧在世界范围内都存在。不仅因为其超越一般技术的“创造能力”和“破坏性”，更因为人们发现，生成式人工智能技术发展的速度极快。目前，世界各国对其风险的预判与防范均处于探索阶段，有赖于法律体系的进一步完善。
界面新闻记者 | 吕雅萱界面新闻编辑 | 翟瑞民接通微信视频电话，你是否会怀疑屏幕对面说话的“好友”实则是个AI换脸的陌生人？2023年5月8日，内蒙古自治区包头市公安局微信公众号“平安包头”发布了一起使用“AI换脸技术”进行电信诈骗的案件。
新京报讯 据@中国日报 消息，公安部网络安全保卫局政委孙劲峰8月10日在新闻发布会上表示， 公安部2020年以来每年组织“净网”专项行动，依法重拳打击侵犯公民个人信息违法犯罪活动，累计侦破案件3.6万起，抓获犯罪嫌疑人6.4万名，查获手机黑卡3000余万张、网络黑号3亿余个。
一个侵权案例，再次让AI换脸技术引起人们的关注。据江苏广电荔枝新闻报道，南京李某是一名短视频博主，拥有几十万粉丝。她发现自己拍摄发布的一段古风汉服短视频成为某“AI视频换脸”小程序上的一款模板。用户只要上传照片，就可以把模板中李某的面容换成自己的。
（图片来源：摄图网）（记者 卢臻）“10分钟被骗430万”，日前，包头警方发布的一起利用AI实施通信诈骗的案例冲上热搜。随着ChatGPT的火爆，关于AI技术的争论就不曾停止过，如何应对人工智能可能带来的安全问题成为各界关注点，也成为网络安全工作的下一个着力点。
今年以来，ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。
近日，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》。其中要求提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认，任何组织和个人不得用技术手段删除、篡改、隐匿相关标识。
在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。
文/羊城晚报全媒体记者 董柳和迪丽热巴“接吻”、与刘亦菲“深情对视”、长得跟马斯克“一模一样”、乘地铁的照片被“一键脱衣”……AI“换脸”“换装”让人“于无声处听惊雷”，屡屡冲上热搜。“AI‘换脸’虽然是一种技术上的进步，但是在使用这种合成技术时容易触犯法律，应谨慎对待。
评论员：陈迪晨近日，杭州互联网法院审理了一起涉黄“AI换脸”案件，被告人虞某社交软件上建群传播“AI换脸”的淫秽视频，还进行有偿“私人定制”，声称“只要能看到脸的都能换”，有人甚至要定制暗恋女生的换脸视频。
