这两年，各类生成式人工智能，如大语言模型、聊天机器人等给人们带来了新鲜的体验和很大的帮助。但是人们在惊叹其强大的同时，也发现这些AI会虚构、造假与欺骗。比较典型的是，有人向AI询问“自己”，结果一眼就找出了不少谬误。
近期，多地公安机关发布了多起利用AI工具实施造谣的相关案件。6月20日，上海市公安局城市轨道和公交总队官方微博@轨交幺幺零发布警情通报：两名营销人员为博取关注造谣地铁站发生持刀伤人的情况，被警方依法处以行政拘留。
【环球时报报道 记者 周扬】据路透社18日报道，美国人身伤害领域知名律师事务所Morgan & Morgan本月向旗下逾千名律师发出紧急邮件，警告称一旦发现律师在法庭文件中使用人工智能（AI）虚构案例，该律师将被解雇。
近日，国家网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》），并面向社会公开征求意见，意见反馈截止时间为10月14日。《征求意见稿》提出，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
AI技术发展迅速，现已成为全球科技领域的热点，一些别有用心之人也趁机将其变为造谣、敛财的工具。8月21日记者从公安部网安局获悉，公安机关依法查处此类网络谣言案，目前已对利用AI编造“大风袭击致人死亡”等网络谣言的相关人员进行了处罚，并发布提示。
近年来，随着人工智能技术的日益火爆，在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今年1月，某网络平台出现一条关于“西安爆炸”的消息。
近日，公安部网安局公布了一批涉谣言典型案例，其中一起由安徽合肥警方破获的案件引发关注。网络博主篡改火灾事实炮制传播谣言今年1月25日，安徽合肥市新站区佳海工业园一栋仓库发生火灾。消防部门接到警情后迅速赶往现场，在消防队员的奋力扑救下，火势很快被控制并扑灭。
来源：公安部网安局 近年来，AI技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。真实案例2024年8月，一则令人震惊的消息在网络上迅速传播。
中新网北京4月1日电(记者 吴涛)在享受AI带来便捷的同时，你是否发现这个问题挥之不去——AI幻觉，一种“看似真实、实则虚构”的内容生成现象，正渗透进我们的生活。它到底是通往更强大智能的阵痛，还是技术发展的“魔性副产物”？未来，AI幻觉能否为我所用？
近日，成都爱益行公益服务中心发布的一则捐赠信息引发争议：一位耄耋之年的老奶奶，用真诚的眼神看着特写镜头，图片配文写着“80多岁的周奶奶照顾瘫痪的老伴，女儿又得重病，帮她筹生活补助”。对此，有博主发文称，该页面疑似使用AI合成照片，涉嫌骗捐。
点击查看一周辟谣1. 广东多地出现冰雹天气，警惕AI制图夸大灾情广东近期强对流天气来袭，多地出现冰雹天气。有网民在社交平台发布“冰雹比鸡蛋还大”“冰雹砸坏汽车” “冰雹砸垮了房屋顶棚”“人们穿着短袖清理满地冰雹”等图片，并配文“广东多地最近下冰雹”。
“我的孩子走丢，你在哪里？都是爸爸的错”“接到帽子叔叔电话称有线索，不日将前往山东菏泽”……10月25日，一抖音名为“你在哪儿”的山西大同网民，先后发布4条寻娃视频，声称自己4岁的女儿不慎走失，作为父亲深感焦虑与自责。这些视频迅速引起网民的广泛关注，众多网民纷纷留言表示同情。
来源：光明日报 【科学随笔·我见AI】最近，四岁的女儿向我“汇报”幼儿园生活时，绘声绘色地描述她与一只霸王龙交朋友的故事：她们一起抓小恐龙，因为跷跷板闹翻，又交换零食和好……逻辑严密，细节丰富——尽管她的幼儿园里连只仓鼠都没有。
2025年4月10日，杭州市公安局滨江区分局在网络巡查工作中发现，某社交平台账号“神秘风铃Y4”发布题为《滨江区发生恶性刑事案 嫌疑人已被刑拘》的虚假信息，引发网络关注。经核查，文中所述"4月7日凌晨滨江区发生恶性案件"等内容纯属虚构。
