大模型如雨后春笋般涌现，在全民化生成式AI到来之前，由其产生的隐私泄露、数据污染、产权保护等风险是难以忽视的重大问题，这既包含人为因素的作祟，也包括技术本身带来的弊端。文｜王雅迪 石丹ID | BMR20042023年最热关键词当属“大模型”。
（央视财经《经济信息联播》）美国OpenAI公司发布的首个视频生成模型“Sora”在给相关内容制作行业带来震撼的同时，也引发了人们对其“深度伪造视频”可能加剧错误和虚假信息传播的担忧。当前，包括谷歌和Runway在内的多家公司，都在积极研发此类人工智能项目。
你被你的“AI小弟”骗过吗？2025年开年的AI“明星”DeepSeek被接二连三地接入各行各业的工作流程中，人们在惊叹于其秒速生成的行业报告、法律文书时，却也发现，这些流淌着逻辑美感的文本中，正演绎着赛博世界最大的黑色幽默——“一本正经地胡说八道”。
科技日报北京7月25日电（记者 张梦然）《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。
央视网消息（记者/杜安琪）：近期，几起借助生成式AI写学术论文的事件引发关注：教授署名的论文中出现ChatGPT常用提示语，医生用AI制作论文插图疑似违反常识……网友评价“抄答案连名字都抄上了”“用AI之后不会检查一下吗”“医生自己不觉得图片离谱吗”，更有网友怀疑这属于造假、抄袭
“人类去死吧！”这般言论，竟然是AI聊天机器人发出的。据美媒报道，美国密歇根州一大学生围绕“老龄化问题和解决方案”同谷歌AI机器人展开对话，没想到却收到这样的回复：“你是社会的负担，是地球的负担，是大地的污点，是宇宙的污点。请去死吧，求求你了。”惊悚回答，迅速引发各方质疑。
自ChatGPT面世以来，生成式人工智能成为人工智能领域发展的热点。生成式人工智能技术的基本形态，是采用海量数据来训练人工智能大模型，使其学会人类的语言文本和图像视频的统计模式后，能够在用户给出提示指令后，自动地生成所需的数字内容。
■谢若琳随着AI的应用越来越广泛，诸多问题开始显现，首当其冲的就是内容真实性。AI作为工具并不具备判断力，其生成的结果是基于数据投喂和算力养成的综合产物，那么，这些数据是否真实合法，直接决定了AI是否能大规模应用。
来源：科技日报 原标题：生成式AI“幻觉”困境如何破解图片来源：英国《自然》网站图片来源：英国《自然》网站人工智能（AI）技术正以前所未有的速度发展，生成式AI凭借其惊人的创造力，不断刷新人们的认知。然而，即便是看似“聪明绝顶”的AI，也难逃“幻觉”的困扰。
这两年，各类生成式人工智能，如大语言模型、聊天机器人等给人们带来了新鲜的体验和很大的帮助。但是人们在惊叹其强大的同时，也发现这些AI会虚构、造假与欺骗。比较典型的是，有人向AI询问“自己”，结果一眼就找出了不少谬误。
“自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题，可能会获得这样的回答。然而，这个看上去有鼻子有眼的回答，却是一条彻头彻尾的假消息。
4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》。《征求意见稿》就生成式人工智能在研发、应用等不同环节需遵循的社会伦理，对知识产权与个人隐私保障等法律义务，以及服务平台应遵守的相关法规和应尽责任，明确了标准和要求。
近几个月来，越来越多的知名人士预计，年内大热的ChatGPT有望掀起一场新的工业革命。而纵观历史，历次工业革命往往会深远改变当时的社会结构——从机械织布机到内燃机再到第一台计算机，新技术的出现总是会引起人们对于被机器取代的恐慌，并在一个阶段造成大量失业和就业转型。
