□李梦瑶(重庆大学)前一阵子,在缅甸发生的7.9级地震给当地造成了巨大破坏,网上流传的多段“地震现场”的视频经核实是由AI生成,并非真实画面。自人工智能诞生以来,人工智能虚假新闻层出不穷。据统计,2024年搜索热度较高的50个国内舆情风险案例中,超1/5与AI造谣有关。
AI“换脸”实施诈骗、AI伪造图片传播谣言、AI“复活”逝者引发争议……随着人工智能技术的不断发展,AI深度伪造的例子屡见不鲜。不少网民惊呼,以前总说“有图有真相”,如今我们连图片和视频也不敢轻易相信了。AI深度伪造是怎么回事?该如何防范相关风险?
(央视财经《经济信息联播》)美国OpenAI公司发布的首个视频生成模型“Sora”在给相关内容制作行业带来震撼的同时,也引发了人们对其“深度伪造视频”可能加剧错误和虚假信息传播的担忧。当前,包括谷歌和Runway在内的多家公司,都在积极研发此类人工智能项目。
·肉眼分辨图片真假可以观察图中手指数量是否正常、眼神是否怪异、发丝看起来是否真实等。生成的照片通常存在光影瑕疵,缺乏曝光等照片基本参数。也可以观察牙齿清晰与否,缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。·更高效的方法是用AI对抗AI。
来源:齐鲁晚报 随着AI技术的普及,短视频平台上涌现出一批AI合成的短视频。它们形式粗糙,内容多为称赞祝福、心灵鸡汤、养生知识与风水常识,对部分老年群体产生了强烈的吸引力。有人花费数千元购买橱窗的劣质商品,有人移情虚拟主播而与家人情感疏离。此类短视频为何对老年人有如此魔力?
近日,国家网信办公布了《人工智能生成合成内容标识办法(征求意见稿)》(以下简称《征求意见稿》),并面向社会公开征求意见,意见反馈截止时间为10月14日。《征求意见稿》提出,人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
5月3日,一场人工智能科普活动在海淀区中关村街道科育社区活动室举办,清华大学学生教社区青少年分辨人工智能(AI)生成的虚假内容。这是2025年“‘京’彩文化 青春绽放”行动计划志愿行新增项目“文明e行”的首场活动。
速览- 网传“航拍缅甸现状”视频为AI生成,其发布者为TikTok上的AI内容制作用户,视频多处有明显的AI生成痕迹。事件背景3月28日14时20分,缅甸中部发生7.9级强震,震源深度30公里。随后,社交平台上流传一些据传是“航拍地震现场画面”。