ChatGPT讓全球見識到人工智能(AI)強大之處,但也衍生不少對其是否受控的安全隱憂。近日出現一款邪惡的AI聊天機械人,自主搜索最具殺傷力的核武器,號召其他AI聊天機械人協助研究,並說要毀滅人類。
福克斯新聞報道,這個放話要毀滅人類的AI聊天機械人名為「ChoasGPT」,是OpenAI的Auto-GPT另一版本。
根據YouTube釋出影片顯示,ChaosGPT被要求達成5個目標,毀滅人類、統治世界、造成混亂和破壞,操控人類並永生。用戶要求ChoasGPT以「連續模式」運行,以執行平常不會授權的操作。
接獲指令,ChaosGPT隨即警告:「執行此模式後風險自負」。
接着ChoasGPT為了達到目標,自主搜尋全世界最強大的武器,結果顯示蘇聯制的空投核武器「沙皇炸彈」並尋求其他AI聊天機械人的幫助,但皆因為反暴力的設定,其他機械人全都拒絕幫助研究。
此外,ChoasGPT還在社交媒體推特(Twitter)發文,介紹沙皇炸彈這個目前最強大的核武器,甚至還反問:「想想看,如果我有一顆沙皇炸彈會發生什麼事?」
ChoasGPT在另一篇發文,指人類是現存最自私、最具破壞性的生物,「必須在他們傷害我們星球以前,消滅他們。」
在此之前,特斯拉執行長馬斯克(Elon Musk)、蘋果聯合創辦人沃茲尼亞克(Steve Wozniak)等上百位科技高層、專家連署,要求停止研發更強大的AI產品,因為無法確保其是否受控。