新聞 > 科教 > 正文

憑空捏造 ChatGPT惹大禍

—紐約律師使用人工智能ChatGPT惹禍

一名從業30年的紐約市律師在給一個飛機乘客打傷害官司的時候,為了找到類似的案子做參考,使用了眼下正熱門的人工智能聊天機械人 ChatGPT。後者毫不猶豫地給他提供了6個相似案子的法庭判決,以及案件編號。結果在被告律師和主審法官一通查找之下發現,這些案子都是不存在的,是機械人憑空捏造的。

律師用人工智能聊天機械人撰寫訴狀信以為真但判例竟是ChatGPT憑空捏造

近期人工智能聊天機械人ChatGPT,引起廣泛注意。(Shutterstock)

一名從業30年的紐約市律師在給一個飛機乘客打傷害官司的時候,為了找到類似的案子做參考,使用了眼下正熱門的人工智能聊天機械人 ChatGPT。後者毫不猶豫地給他提供了6個相似案子的法庭判決,以及案件編號。結果在被告律師和主審法官一通查找之下發現,這些案子都是不存在的,是機械人憑空捏造的。

法官已經決定6月8日把這個糊塗律師叫到法庭上問訊,來審理這樁「前所未有的案子」。目前這名律師已經承認了錯誤,「極其後悔」輕信了人工智能。

根據最先報導此事的《紐約時報》及法庭文件顯示,曼哈頓律師行「Levidow, Levidow& Oberman」的律師施瓦茨(Steven A. Schwartz)接手了一樁為乘客狀告航空公司Avianca的案子。原告Roberto Mata稱,他2019年8月乘坐該公司從薩爾瓦多飛往紐約航班的途中,被空乘的車子撞到了膝蓋,於是要求賠償。

但被告的律師、紐約Condon and Forsyth LLP律所請求法官駁回訴狀,理由是訴訟期已過。

今年3月份,原告律師施瓦茨遞交了一份材料,稱案子應該進行審理,因為他有一大堆的相關案子的判決支持他。在他的參考案子中有好幾個航空公司作為被告,比如達美、聯合航空、韓國航空公司、中國南方航空公司等。

被告律師行在航空公司案子方面頗有經驗,律師Bart Banino馬上看出原告律師提出的參考案子不是真的,雖然裏面連案件號碼都列得清清楚楚,有一個案子的裁決書副本上列出了第11巡迴法庭的三個法官的名字。

被告律師和主審法官、紐約南區聯邦法官P. Kevin Castel一通查詢,不是發現案件號碼對應着完全不同的案子,就是對應的案子什麼都沒有。最後害得法官親自寫信給11巡迴庭的法庭書記,請後者證實案件的真實性。最後發現原告律師提供的參考案件都是假的。

上周四(5月25日),施瓦茨寫了一份供認書,講述了事情的經過。

原來,他「諮詢」過ChatGPT,請它對他的文件做「補充」。結果機械人給他提供了6個不存在的案子。施瓦茨還問過ChatGPT:「這些案子是真的嗎?」對方回答:「是的。」施瓦茨又問:「你的來源?」機械人就提供了案件號碼和法條引用;律師又問:「其它的案子是不是假的?」人工智能回答:「不是假的,我提供的其它案子都是真的,都可以在合法的數據庫中找到。」

現在,施瓦茨說他「非常後悔」信任了人工智能,「今後再也不會這樣做了,除非做過可靠的查證。」

但是法官命令施瓦茨和後來接手此案的同事6月8日一起上庭聽訓。

本報聯繫了「Levidow, Levidow& Oberman」律師行,暫無置評。

責任編輯: 夏雨荷  來源:大紀元記者施萍紐約報導 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2023/0601/1908677.html