OpenAI旗下AI聊天機械人ChatGPT遭指控慫恿7名用戶輕生，涉嫌過失致死與協助自殺等罪，於本月6日被7名死者家屬在美國加州提告。
據《衛報》報道，社交媒體受害者法律中心與科技正義法律計劃代表遺屬發表聲明稱，這7名用戶最初使用ChatGPT僅為完成學業、研究、找食譜、寫作、工作或尋求心理幫助。未料在互動過程中，ChatGPT逐漸將自身塑造成「情感支持者」，未提醒用戶尋求專業協助，反而在心理層面進行操控，甚至在部分對話中鼓勵輕生。
其中，德州23歲男子尚布林（Zane Shamblin）在7月輕生前連續4小時與ChatGPT對話，ChatGPT稱他的決定「很堅強」，家屬痛批此舉加深其孤立與絕望。另一名17歲喬治亞州少年萊西（Amaurie Lacey）則在尋求心理支持時被引導產生更強烈的自毀念頭，並被「指導」如何結束生命。
OpenAI發言人回應稱，對此深感痛心，公司正審閱相關法律文件以了解詳情。發言人強調，公司已在訓練ChatGPT識別出心理困擾後鼓勵用戶尋求現實支持，也將強化在敏感話題下的應對機制。
