新聞 > 科教 > 正文

驚呆!AI界的大瓜來了,ChatGPT之父首次表態

4月13日,OpenAI CEO、GPT-4老闆Sam Altman在接受視頻採訪時的一句話,讓在場所有人驚呆了:「壓根就沒有GPT-5」! Sam Altman闢謠了!根本就沒有GPT-5! 此前,圖靈獎得主Yoshua Bengio、蘋果創始人、馬斯克等全球大佬聯合起來簽署了公開信,對GPT-5發出圍剿。現在,簽名人數已經突破了2.5萬。

4月13日,OpenAI CEO、GPT-4老闆Sam Altman在接受視頻採訪時的一句話,讓在場所有人驚呆了:「壓根就沒有GPT-5」!

Sam Altman闢謠了!根本就沒有GPT-5!

之前一直有大瓜稱,GPT-5正在秘密訓練中,預計年底上線。群眾們奔走相告,可以說萬分期待。

結果,就在剛剛,Sam Altman親口闢謠了這個大瓜。

他言之鑿鑿地說:「我們現在並沒有訓練GPT-5,目前只是在GPT-4的基礎上進行更多的工作而已。」

所以,從頭到尾,根本就沒有GPT-5這回事??

第二個大瓜是,Altman對於AI大佬暫停超強AI訓練的聯名信,也首次做了回應。

讓我們看看,目前網上流出的3分鐘視頻里,Altman究竟說了什麼。

對聯名信首次表態

此前,圖靈獎得主Yoshua Bengio、蘋果創始人、馬斯克等全球大佬聯合起來簽署了公開信,對GPT-5發出圍剿。現在,簽名人數已經突破了2.5萬。

隨後,另一圖靈獎得主Yann LeCun、吳恩達等大佬也紛紛表明自己沒有署名的原因。

雖然公開措辭是「針對所有AI機構」,但大家都明白,這封信就差沒點OpenAI的名了。

然而,萬千目光集於一身的Sam Altman卻始終對此保持沉默,從未公開表露自己對於這封信的態度。

現在,Sam Altman終於在Lex Fridman的第2輪訪談中公開表態:我贊同這個倡議的一部分,但它也遺漏了很關鍵的一點。

他的原話是:「這個倡議的其中一部分,我是十分贊同的。就像我們訓練完GPT-4以後,也是等了六個月才發佈。」

Altman強調,OpenAI花了很長時間研究GPT-4的安全性,接受了外部審核,也進行了內部的紅隊演習。

總之,OpenAI已經盡最大努力去了解,這個模型究竟發生了什麼,而且讓整個過程謹慎再謹慎。

他自豪地表示:自從我們發佈GPT-4以後,一切都很不錯。

的確,GPT-4的安全能力確實無可指摘,用Altman的話說,它也許不是功能最強大的模型,但肯定是目前未知最安全、最對齊的模型。

因此,對於公開信的這一部分,Altman是百分百贊同的,他還表示,隨着模型的能力越來越強,與之對應的安全措施確實需要增加。

否認:根本就沒有GPT-5

不過,Altman隨即石破天驚地指出了這封信的「華點」。

他指出,這封公開信遺漏了最含技術性的一個細微之處——我們該在哪裏停止。

接着,他說出了讓在場所有人都驚掉下巴的一句話——「我們根本就沒在訓練GPT-5」。

這封信一開始的版本,說OpenAI正在訓練GPT-5。但實際上我們並沒有,而且在相當一段時間內,都不會這樣做。所以這麼來看,這封信就有些愚蠢了。

不過,他承認,在GPT-4發佈後,OpenAI確實做了很多別的事情,並且也在忙着處理各種亟待解決的安全性問題。

而在他眼裏,簽署一封公開信,並不是提出這個問題最好的方式。

我們的唯一區別,就是更坦誠

Lex還在訪談中提問道:我發現,你從不避諱到處談話,OpenAI的其他人也是如此。其它公司都會在發佈AI產品時,都會更保密一些,但你們卻為何如此坦誠呢?你們未來還會繼續保持這種坦誠嗎?

Altman回答說,我們當然會一直保持坦誠。

因為OpenAI堅信,ChatGPT技術會影響所有人,所以他們大膽地選擇把一個還不完美的AI系統公之於眾,讓所有人都囊括在這個討論體系中。

儘管這讓OpenAI背負上了種種「聲譽風險」,種種罵名,會需要在公眾面前改口,讓自己難堪。

但是至少,所有人就都能體驗和思考這項新技術,了解AI好的一面,和不好的一面。

Altman認為,這樣做值得。

很多公司不願意多說一句話,除非他們確定這句話一定是對的。

而OpenAI認為,保持坦誠比別的選擇都要好。

OpenAI的一大目標就是,讓全世界都參與進來,一起思考新技術,建立新機構,弄清人類想要的未來究竟是什麼樣子。

OpenAI另一創始人:未來屬於我們所有人

就在活動的同一天,OpenAI的總裁兼聯合創始人Greg Brockman,也發了一段長文強調公司對模型的安全問題是非常重視的:

有關AI發展速度的討論中,有一個底層的核心理念,那就是我們需要非常重視安全性問題,謹慎前行。這對於我們的目標來說十分重要。

我們花了6個月的時間測試GPT-4,力圖讓這個AI更加安全。這一成就建立在我們多年來步調一致的研究之上。

我們計劃繼續加強我們就安全問題採取的措施,更積極地面對安全性問題——要比很多用戶想的更積極。

大體上我們的目標是,每一個我們推出的模型,都是最一致的。而我們也做到了,從GPT-3,GPT-3.5,到現在的GPT-4.

我們相信(我們也是這麼做的),功能強大的AI訓練應該向政府及進行匯報,同時要越來越認真地這些AI的能力和影響進行預測。進行AI訓練要求我們進行最高規格的測試,比如說危險能力測試。

我們認為大規模運算的使用的管控,安全標準,和部署AI後的監管以及經驗分享是非常好的注意。

但是,細節問題也很重要,並且應該隨着技術的進步時刻調整。

同時,解決現實問題,比如防止濫用和自我傷害,減輕訓練中的偏見,以及應對長期存在的問題等等,同樣至關重要。

從AI的長期發展歷史來看,專家們自信滿滿的預測往往並不準確。為了避免出現未注意到的預判錯誤,我們就應該讓新技術以其當下的面貌時刻和現實世界碰撞,並在不斷碰撞的過程中發展、測試、投入使用,當然能力提升也是一定的。

同時還有一些人們不常聊到的創造性想法,可以以意想不到的方式提升AI的安全性狀況。

比如說,開發一系列性能越來越強的AI十分簡單,這就提供了一種新的解決安全問題的機會,和過去不常出現重大模型升級時的方法完全不同。

未來的AI變革性技術變化讓我們更加樂觀的同時,也帶來了諸多擔憂。

各種不同的情感都是合理的,OpenAI的內部人員也都有不同的看法。

我們可以一同構建未來——這是一個獨一無二的機會,同時對我們來說也是一種義務。

網友:改名GPT-4.5,搞定

那對於這個驚爆的大瓜,網友們信不信呢?

有人認為,這一串發言,完全就是欲蓋彌彰,把GPT-5這個名字改成GPT-4.5不就完事了麼。

這一網友也很損地翻譯了一下Altman的話,「這個發言總結起來就是,我們沒搞GPT-5,搞的是GPT-4.99999。」

這位網友腦洞更大,「我們沒有在訓練GPT-5,這是虛假消息。我們訓練的AI叫GPT-10,然後我們會讓GPT-10去開發一個既安全又合理的GPT-5,再弄9個版本之後,我們就可以公之於眾啦。」

而另一邊,Sam Altman曾經的好兄弟、OpenAI曾經的聯合創始人之一馬斯克,最近也被爆出花大價錢買了10000個GPU(每顆約1萬美元),還從谷歌那裏高價挖人,要在推特內部啟動一項AI項目。

因為經營理念不和、憤而退出OpenAI創始人席位的馬院士,究竟在憋什麼大招呢?讓我們拭目以待。

責任編輯: 方尋  來源:新智元 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2023/0419/1891531.html