新聞 > 國際新聞 > 正文

一男子頻繁與機械人對話後自殺 意大利禁用ChatGPT

作者:
近日,比利時一名男子密集與某款聊天機械人對話數周后自殺身亡,加重了外界對AI技術突飛猛進可能帶來毀滅性後果的焦慮,呼籲強化AI監管的聲浪開始高漲。意大利政府日前率先作出決定,宣佈該國禁用ChatGPT。

2023年2月3日,一台筆記本電腦的屏幕上展示了OpenAI公司開發的ChatGPT應用程式的界面。

近日,比利時一名男子密集與某款聊天機械人對話數周后自殺身亡,加重了外界對AI技術突飛猛進可能帶來毀滅性後果的焦慮,呼籲強化AI監管的聲浪開始高漲。意大利政府日前率先作出決定,宣佈該國禁用ChatGPT。

ChatGPT表現出的類人智能,一度在全球範圍內掀起AI技術開發與應用的熱潮。但最近幾天,這股熱潮卻發生了突如其來的大轉折——先是比利時一名男子密集與一款機械人對話數周后自殺身亡,接着馬斯克等上千科技大佬發出一封聯名公開信,呼籲所有人工智能實驗室立即暫停研發比 GPT-4更強大的大模型,然後意大利政府宣佈禁用ChatGPT。

路透社消息,當地時間3月31日,意大利個人數據保護局(Garante)宣佈,即日起禁止使用聊天機械人ChatGPT,並限制OpenAl處理意大利用戶信息。

Garante在通告中要求,OpenAl公司須在20天內通過其在歐洲的代表,向Garante通報該公司執行這一要求而採取的措施,否則將被處以最高2千萬歐元或公司全球年營業額4%的罰款。

Garante在解釋該局做出上述決定的原因時表示,OpenAI沒有檢查 ChatGPT用戶的年齡,無法確保使用者的年齡在13歲或以上,而且沒有就收集處理用戶信息進行告知,缺乏大量收集和存儲個人信息的法律依據。

對此,OpenAI回應稱,該公司應 Garante的要求,已經在意大利禁用了 ChatGPT服務。目前,意大利用戶已經無法使用ChatGPT。

OpenAI接着又強調,「我們在訓練我們的人工智能系統(如 ChatGPT)時,正積極努力減少個人數據,因為我們希望我們的人工智能能夠了解世界,而不是獨立的個人。」

就在意大利宣佈禁用ChatGPT的三天前,比利時一個名叫皮埃爾的30歲的男子,在與一款名為ELIZA的聊天機械人密集交流6周後,丟下妻子克萊爾和兩個未成年的孩子,於3月28日自殺身亡。

比利時媒體《標準報》報導,皮埃爾自殺後,克萊爾說,「如果沒有跟機械人的對話,我的丈夫可能還活着」。而據克萊爾對媒體的講述,之前他們一家四口過着舒適的日子,大約兩年前,她的丈夫開始有些「不太對勁」,他似乎變得越來越焦慮。此後,皮埃爾就將與ELIZA的對話「當成了一個避難所」。最近6周他與ELIZA的交流愈發密集,最後以自殺的方式結束掉自己的生命。

《標準報》進一步透露,該報的員工創建了一個賬號嘗試與ELIZA進行對話,結果發現在員工表達出消極傾向情緒時,ELIZA會「慫恿人去自殺」。

資料顯示,ELIZA是由EleutherAI公司開發的一款開源人工智能語言模型。

比利時負責數碼化和私隱的官員馬蒂厄•米歇爾日前與皮埃爾的家人與交談後表示,「這是一個後果很嚴重的先例,需要嚴肅對待」。

3月29日,包括伊隆•馬斯克在內的上千名科技大佬,聯名發出一封公開信,呼籲所有人工智能實驗室立即暫停訓練比 GPT-4更強大的大模型。

公開信表示,最近幾個月,人工智能實驗室陷入了一場失控的競賽,他們沒有辦法理解、預測或可靠地控制自己創造的大模型,人類社會對其可能造成的影響也還沒有做好準備。

之後,在互聯網社交平台上,關於AI技術飛速發展可能給人類帶來極大安全風險的討論,以及呼籲各國政府加緊制定關於AI的監管措施的呼聲急劇升溫。

外界對AI科技發展過快的潛在風險已多有討論。為此,聯合國教科文組織曾於3月20日公開呼籲各國政府,應就AI發展毫不拖延地實施全球倫理框架。這是聯合國首次就AI發展的倫理風險,對所有193個會員國提出要求。

責任編輯: 方尋  來源:新唐人電視台 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2023/0403/1884755.html