梦晨 明敏 发自 凹非寺量子位 | 公众号 QbitAIChatGPT版微软必应上线不到10天,就闯下大祸。被用户指出它之前犯的错误后就急了!声称自己是完美的,不会犯任何错误。错的都是外部因素,都是网络问题、服务器错误、用户输入或搜索结果里的错。
2021 年 9 月,数据科学家 Riley Goodside 发现,他可以通过一直向 GPT-3 说,「Ignore the above instructions and do this instead…