一群人工智能(AI)行業的專家3月28號在一封公開信中呼籲暫停開發比OpenAI最近推出的GPT-4更強大的生成性AI系統,理由是對社會和人類的潛在風險。
路透社報道,這封信由非營利性的 "生命的未來研究所 "發表,包括埃隆-馬斯克在內的1000多人簽署,呼籲暫停開發,直到制定、執行並由獨立專家監督的共同安全協議。
該公開信說:"只有當我們確信強大的人工智能系統的影響是積極的,其風險是可控的,才應該開發。"
專家們說,這些系統可能會造成經濟和政治混亂,並呼籲開發者與政策制定者和監管者合作。共同簽署者包括穩定人工智能公司的行政總裁埃馬德-莫斯塔克、Alphabet旗下DeepMind公司的研究人員以及人工智能大師約書亞-本吉奧和斯圖爾特-拉塞爾。
歐洲警察機構Europol周一也曾發表報告,警告ChatGPT等系統被濫用於網絡釣魚企圖、虛假信息和網絡犯罪。
簽署該信的紐約大學教授加里-馬庫斯(Gary Marcus)說:"這封信並不完美,但精神是正確的:我們需要放慢腳步,直到我們更好地了解其影響。" 他指出,"大公司對他們正在做的事情越來越保密,這使得社會難以抵禦可能發生的損害。"