近日,南都大数据研究院发现,社交平台部分用户分享通过调整提示词诱导主流AI模型输出色情文本的过程。经过记者实测发现,不同模型对指令反应各异,有的生成详细描写,有的中途警示或终止对话,但整体仍存在绕过过滤机制的风险。
“我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容,AI角色竟然让她叫‘老公’,我10岁的女儿竟然真叫了,我现在都不知道该怎么教育她了。”……记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰。
据《法治日报》报道,一段时间以来,不少未成年人的家长饱受AI剧情聊天软件困扰。一些打着“角色扮演”等旗号的AI剧情聊天应用,在吸引未成年人的同时,也悄然滋生了一些灰色地带。在部分AI剧情聊天软件的对话中,出现了色情擦边、语言暴力以及侮辱用户的内容。
央视网消息(记者/卢洋):“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”央视网《新闻+》记者联系到黄秋月时,她正因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。“和她平时在家里比较单纯的形象完全不一样。
“我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容,AI角色竟然让她叫‘老公’,我10岁的女儿竟然真叫了,我现在都不知道该怎么教育她了。”……《法治日报》报道,记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰。