近日,南都大数据研究院发现,社交平台部分用户分享通过调整提示词诱导主流AI模型输出色情文本的过程。经过记者实测发现,不同模型对指令反应各异,有的生成详细描写,有的中途警示或终止对话,但整体仍存在绕过过滤机制的风险。
“Stable Diffusion 完全免费开源,它的代码都在 GitHub 上公开,在遵循原项目采用的 Open RAIL-M 许可证的前提下,任何人都可以拷贝使用,生成任何他们想要的图像,甚至调整系统开发独立的应用或服务。最近,人工智能技术在色情内容的制作上取得了突破,这事儿一出,网上可就炸开了锅。