武功没有正与邪,看用的人是怎么样的。这位程序员明明有很好的技术与前途,偏偏就是不走正道。让我们看看究竟发生了什么事。事件回顾6月17日,央视新闻曝光了一起让人愤怒的“AI脱衣”案件。犯罪嫌疑人白某某是一名24岁的大学本科毕业生,曾是北京某公司的程序员。
来源:环球时报 【环球时报综合报道】据西班牙《20分钟报》20日报道,在西班牙埃斯特雷马杜拉的阿尔门德拉莱霍市,有人恶意传播通过人工智能(AI)技术处理过的镇上未成年女孩们的假裸照。此事在西班牙社会引起巨大反响,西班牙警方已介入调查。
近日,南都大数据研究院发现,社交平台部分用户分享通过调整提示词诱导主流AI模型输出色情文本的过程。经过记者实测发现,不同模型对指令反应各异,有的生成详细描写,有的中途警示或终止对话,但整体仍存在绕过过滤机制的风险。
近日,#男子用AI伪造学生同事近7000张裸照#话题冲上热搜。犯罪嫌疑人白某某,原本是一家互联网公司的技术员,他用AI“一键去衣”技术伪造淫秽图片,每张1.5元卖出。图片涉及女性人数多,包括学生、教师、同事。目前白某某已被提起公诉。
AI技术的发展初衷是为了推动生产力的进步,提高人类生活的便利性。然而,随着技术的普及和应用范围的扩大,一些不法分子开始寻找技术漏洞,将AI技术用于非法目的。AI技术的滥用,不仅损害了受害者的个人形象,更严重地侵犯了人们的隐私权和名誉权。
日前,中央网信办开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动,整治重点聚焦包括“AI换脸”“AI绘图”等在内的新技术新应用风险问题。南都记者调查发现,随着AI技术的普及,其带来的隐患在网络中广泛存在。