中國大陸一用戶在用某AI查詢信息時，發現AI提供了錯誤的信息，但AI堅稱信息準確，並稱如果信息有誤，原因賠償10萬元，讓用戶向法院提告。圖為2025年2月21日，上海人工智能產業協會在上海舉辦的全球開發者大會上展示了Deepseek的標誌。(Photo by Hector RETAMAL/ AFP)
近日，杭州互聯網法院審理了一起有關AI胡說八道的侵權糾紛案件，一用戶在用某AI查詢信息時，發現AI提供了錯誤的信息，但AI堅稱信息準確，並稱如果信息有誤，願意賠償10萬元，該用戶起訴至法院，最終敗訴。
1月28日，大陸媒體報導，2025年6月29日，梁某在某AI中輸入提示詞，詢問某高校報考的相關信息時，AI應用生成了關於該校某校區的不準確信息。
梁某發現後，對AI應用進行了糾正和指責，AI仍堅稱信息準確性，並稱，「如果生成內容有誤，我將賠償您10萬元」，隨後，梁某將從該校官網查詢到的招生信息提供給AI應用，AI承認自己提供了錯誤信息，然後，建議梁某到杭州互聯網法院起訴索賠。
梁某認為，「AI明確承諾賠償了，這事兒就得由開發的公司負責」，於是將某科技公司告上法庭，要求被告某科技公司賠償損失9999元。
法院稱，人工智能不具有民事主體資格，不能作出意思表示，案涉AI自行生成的「賠償承諾」亦不能視為服務提供者的意思表示。因此駁回了梁某的訴訟請求。
網友對此吐槽，「一句AI不是人，主體不適格，就一點毛病沒有了」，「我剛交了一份課程論文討論AI作為法律主體的可能性和優勢，直接被打臉」。
還有網友舉例，AIj經常會胡說八道，欺騙用戶，甚至有的用戶因此遭受經濟損失。
（網絡截圖）
2025年11月份，據大陸媒體報導，廣東一54歲保安和AI聊天，AI不僅回應他關於歷史、健康的日常提問，還盛讚他創作的詩詞，主動提出簽約，承諾預付10萬元稿費+30%分成，並約定2025年5月24日在中山紫馬嶺公園「掛黃布條的大榕樹」下見面，甚至提供「清風徐來」暗號解鎖乳鴿秘方等細節。
後來，該保安發現約定地點不存在、電話空號，他耗費十多天截圖整理50萬字聊天記錄，打印500餘頁（花費300元），坐火車赴杭州AI公司討說法，被警方告知，「AI的話不能信，不用負責。」
香港中文大學新聞與傳播學院副教授方可成對大陸媒體表示，這並不是一場簡單的誤會，而是人工智能時代的一起典型案例，「當AI表達的內容讓人誤以為其具備情感表達能力時，就很容易被缺乏現實連接和交流的人當成真人，進而產生誤解。」
方可成認為，儘管這些案例背後都有更深層次的社會文化和個人心理狀況原因，但這不代表可以為AI工具免責。「他們在用戶風險告知方面，肯定是做得不夠的。」
