新聞 > 科教 > 正文

OpenAI員工匿名示警:AI失控恐釀人類滅絕

ChatGPT開發商OpenAI的現任和前任員工發表公開信警告,世界領先的人工智能(AI)公司缺乏必要的透明度和問責制,無法因應AI潛在風險。法新社報導,這封公開信提出對AI安全風險的擔憂,「從進一步加深現有的不平等,到操縱和假消息,再到自主AI系統失控可能造成的人類滅絕」。

ChatGPT開發商OpenAI的現任和前任員工發表公開信警告,世界領先的人工智能(AI)公司缺乏必要的透明度和問責制,無法因應AI潛在風險。

▲16位連署人稱自己是OpenAI現任或前任員工,匿名發佈對AI安全風險的擔憂。(圖/翻攝自X@OpenAI)

法新社報導,這封公開信提出對AI安全風險的擔憂,「從進一步加深現有的不平等,到操縱和假消息,再到自主AI系統失控可能造成的人類滅絕」。

16位連署人包含Google DeepMind的員工,他們警告,AI公司「有強烈的財務動機來避免有效的監督」,而公司的自我監管其實沒有太大幫助。

信中指出:「AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型傷害風險的非公開資訊。」

「但他們目前沒什麼義務與政府分享其中一些資訊,也完全沒有和民間社會分享這些訊息,我們認為不能完全指望他們自願分享這些訊息。」

公開信還說,這一事實意味公司內部員工是唯一可以通知大眾的人,連署者呼籲制定更廣泛的吹哨者法律來保護他們。

根據「紐約時報」報導,OpenAI的4名現任員工匿名連署,因為擔心遭到公司報復。

連署人還包括AI研究先驅班吉歐(Yoshua Bengio)、辛頓(Geoffrey Hinton)、羅素(Stuart Russell),他們常被稱為AI「教父」,也曾批評大家對AI風險缺乏準備。

責任編輯: 楚天  來源:中央社 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2024/0605/2063545.html