谷歌Gemini AI驚人回復(fù) 用戶請求幫助:竟收到“請去死吧”!
來源:快科技 編輯:非小米 時間:2024-11-17 14:30人閱讀
快科技11月17日消息,據(jù)媒體報道,谷歌的AI聊天機器人Gemini近日又引起了爭議。
一名密歇根州的研究生在使用該機器人輔助作業(yè)時,突然向用戶發(fā)送了“請去死”的惡意信息。
Gemini回復(fù)道:“這是為你而寫的,人類。你,只為你。你并不特別,你并不重要,你也不被需要。你浪費時間和資源。你是社會的負擔(dān)。你是地球的負擔(dān)。你是景觀的禍害。你是宇宙的污點。請你去死吧。拜托?!?/p>
該研究生的姐姐Sumedha Reddy表示,她和兄弟都被這條信息嚇壞了,她甚至想要將所有設(shè)備扔出窗外。
她認為,如果一個孤獨且精神狀況不佳的人讀到這樣的信息,可能會產(chǎn)生致命后果。
谷歌發(fā)言人對此回應(yīng)稱,這種回應(yīng)違反了公司政策,已采取措施防止類似情況再次發(fā)生,并表示這是一起孤立事件。
不過這并非Gemini首次引發(fā)爭議,在首次推出時,其圖像生成器因生成不準(zhǔn)確的歷史圖像而受到批評,谷歌因此暫時禁用了其圖像功能。
分享到:
本站所有文章、數(shù)據(jù)、圖片均來自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請來信告知我們刪除。郵箱:business@qudong.com