基于大模型的AI数据训练市场爆发式发展，给数据安全带来的新的挑战。作为训练“燃料”的海量数据，往往包含着大量用户隐私、商业机密、知识产权等重要和敏感信息，在共享、协同和计算过程中迫切需要安全可信的训练计算环境，以保障数据流通和全生命周期安全，防止泄露、篡改或滥用，造成重大损失。
经过一年多的“野蛮生长”，大模型的应用正在聚沙成塔，安全问题也随之引发关注。2024世界人工智能大会暨人工智能全球治理高级别会议发表的《人工智能全球治理上海宣言》明确提出，要确保其发展过程中的安全性、可靠性、可控性和公平性。
来源：【海报新闻】海报新闻记者 孙杰 报道近日，中国信息通信研究院发布大模型安全基准测试AI Safety Bench 2024年Q1的首轮测评报告（下称“测评报告”），结果显示，认知通用大模型360智脑综合排名第一。
当前，数字化转型步入深水期，以大模型为代表的通用人工智能技术正在推动安全行业的创新和变革，也给安全领域带来前所未有的挑战。如何更好将大模型技术与安全业务场景结合，打造“人工智能+安全”的新质生产力，成为行业研究的新热点。3月20日，360发布安全大模型3.0。
21世纪经济报道记者柳宁馨 乌镇报道11月20日，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题的2024年世界互联网大会乌镇峰会在浙江乌镇开幕。今年是世界互联网大会新十年的开始，AI成为重要方向，安全与发展是同等重要的命题。
界面新闻记者 | 黄景源界面新闻编辑 | 彭朋截至2023年底，国内已完成备案的生成式人工智能服务达60余款。人工智能大模型在解放生产力、提高生产效率的同时也带来了一系列问题，例如隐私信息泄漏、版权归属纠纷、内容真实性与合规性等，如何应对随之而来的安全、治理问题？
以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，越来越多的机关、企事业单位开始推进大模型私有化部署，广泛应用于企业办公、科技研发、公共服务等领域。然而技术跃升与安全风险始终伴生演进，如何强化模型全生命周期安全管理，赋能AI行业向好向善发展，成为当前亟须解决的课题。
（记者 安子修）DeepSeek的横空出世，标志中国在人工智能领域取得重大技术突破，吸引了全球关注。与此同时，飞速发展的人工智能技术为安全行业带来新的思考题，即如何利用AI赋能安全攻防，如何确保AI技术本身的安全性。因此，在“卷”大模型技术、应用之外，也要“卷”安全性能。
来源：环球时报 【环球时报报道 记者 郭媛丹 马俊】编者的话：中国人工智能（AI）企业DeepSeek（深度求索）推出的DeepSeek-R1和 DeepSeek-V3模型凭借在数学、代码、自然语言推理等任务上的优异性能而大受欢迎，接连在多个平台上线。
大语言模型是基于深度学习技术构建的，能够处理和生成自然语言文本的复杂系统，当前已成为人工智能领域最引人注目的代表性应用之一，不仅在自然语言处理方面取得了显著成就，还在跨语言交流、智能客服、内容创作等多个领域展现出广阔的应用前景，对于培育和发展新质生产力、抓住新一轮科技革命和产业变
