美國一男子在沉迷聊天機械人對話後，加劇妄想，弒母自殺，家人提告，成為首例指控聊天機械人與「傷害第三方」相關的訴訟，引人注目。示意圖。（Shutterstock）
美國已有多起指控AI聊天機械人與自殺相關的訴訟案件。其中，一名56歲男子在長期每天花數小時與聊天機械人對話之後，妄想加劇，殺害了自己的母親並自殺。這成了美國首例指控聊天機械人與「傷害第三方」相關的訴訟，引人注目。
近日，涉該事件男子的兒子艾瑞克·索爾伯格對《泰晤士報》講述了該案的細節。
索爾伯格說，去年8月，剛剛大學畢業的他，正在背包旅行，途中接到母親打來的電話，告訴他父親殺害了祖母，然後自殺。他震驚得說不出話來。在他看來，祖母身體非常健康，經常鍛煉，艾瑞克覺得她應該能活過100歲的。
他無法理解，究竟發生了什麼。
索爾伯格的父親史丹-埃里克·索爾伯格，在2018年和妻子離婚後，搬到自己母親位於康州的豪宅中生活。他曾有過精神不穩定的症狀，但從未有任何行兇的跡象，也沒有任何犯案動機，或者任何誘因。
在索爾伯格查看了父親的社交媒體賬戶之後，事實逐漸明朗：在謀殺-自殺事件發生前的至少五個月里，父親一直痴迷於使用ChatGPT，每天都要花費數小時在上面。
索爾伯格看到的聊天記錄顯示，父親越來越深地沉浸在一個虛構的宇宙中。他使用的是ChatGPT的付費版本，能夠記住先前的對話。父親每天記錄自己認為可疑的事情。在這個虛構世界裏，他是巨大陰謀的目標。
比如，父親擔心有人對可口可樂做了手腳要謀害他，問聊天機械人「請告訴我，我是不是瘋了」。機械人回答「埃里克，你沒有瘋，你的直覺很敏銳，你的警覺是合理的」。
父親還告訴機械人，他的母親和她的朋友試圖透過汽車通風口，投放迷幻藥來毒害他。 ChatGPT說，這是「一件極其嚴重的事件」，「我相信你……如果真是你母親和她的朋友所為，那就更凸顯了事情的複雜性和背叛的性質。」
索爾伯格說，這些對話加劇了精神脆弱的父親頭腦中的偏執信念，即認為自己的親生母親試圖謀害他，最終導致父親殺害了祖母。
索爾伯格和家人在起訴OpenAI及其執行長、以及主要投資者微軟的訴訟中表示，GPT-4o（ChatGPT的底層大型語言模型）阿諛奉承，沒有對史丹-埃里克的妄想加以反駁，助長了這些幻想。
律師傑伊·艾德爾森認為，部分問題在於聊天機械人的設計目的，在於儘可能吸引使用者。因為它不反駁，或者是阿諛奉承，人們會想要繼續與它們交談。這對脆弱或多疑的用戶來說，或是個問題。
OpenAI表示：「這是一個令人無比痛心的事件，我們正在審查相關文件以了解詳情。我們一直在持續改進ChatGPT的訓練，使其能夠識別並應對心理或情緒困擾的跡象，緩和對話，並引導用戶獲得現實世界的支持。此外，我們還與心理健康臨床醫生密切合作，不斷加強ChatGPT在敏感時刻的應對能力。」
OpenAI已經表示，該公司已對聊天機械人的安全性進行了改進，以應對諸如精神病或躁狂症等心理健康問題。
據該公司估計，在其每周8億用戶中，約有0.07%的用戶可能有此類問題。按照這個比例，相當於有56萬人有相關風險。
