新聞 > 科教 > 正文

谷歌AI方向巨變:新研究要閉源,讓OpenAI沒得看

Jeff Dean有點繃不住了?

眾所周知,谷歌就像人工智能領域的「黃埔軍校」,自深度學習興起後培養出了整整一代機器學習研究人員和工程師。很長一段時間裏,谷歌就是領先 AI技術的代名詞。

人們已經習慣跟隨谷歌的腳步,使用其提出的新技術和工具作為研究基礎,谷歌也走出過大批人才,成為了各家研究機構和公司的骨幹。然而最近,在 ChatGPT的衝擊下,谷歌決定不這麼幹了。

華盛頓郵報報道,今年二月,長期擔任谷歌人工智能主管的傑夫・迪恩(Jeff Dean)向其員工宣佈了一項令人震驚的政策轉變:谷歌以後將不得不推遲與外界分享自己的工作成果。

多年來,Jeff Dean麾下的 Google AI像大學的計算機系一樣,鼓勵研究人員大量發表學術論文。根據 Google Research的網站,他們自2019年以來推出了近500項研究。

但去年底 OpenAI開創性的 ChatGPT改變了整個科技領域的現狀。Jeff Dean在公司研究部門的季度會議上表示,這家背靠微軟的創業公司大量閱讀 Google AI提交的論文與谷歌保持同步。這樣的「指責」並不奇怪,事實上,大語言模型的重要基礎,ChatGPT中的 T—— transformer是谷歌2017年的一項研究。

Transformer自提出以來,一直是自然語言處理(NLP)領域研究的大方向,是 AI目前這一波突破的源頭。然而谷歌認為這種情況必須改變,據兩名知情人士透露,谷歌將規定自己的人工智能發現只有在實驗室工作轉化為產品後才能分享論文。

新的政策變化是谷歌內部更大轉變的一部分。長期以來,這家科技巨頭一直被認為是 AI領域的領導者,但現在卻陷入了需要追趕別人的境地——谷歌需要抵禦一群靈活的 AI競爭對手,保護自己的核心搜索業務和股價,以及潛在的未來。

在專欄文章、播客和電視節目中,谷歌 CEO桑達爾・皮查伊(Sundar Pichai)敦促我們需要對人工智能保持謹慎。「在社會層面上,它可能會造成很大的傷害,」他在4月份的「60分鐘」節目中警告說,並描述了生成式 AI如何加速虛假圖像和視頻的創作。

但與高管們透露出的風向正相反的是,最近幾個月,根據對11名現任和前谷歌員工的採訪,谷歌已對 AI業務進行了全面改革,目標是快速推出產品。

它降低了向少數群體推出實驗性人工智能工具的門檻,在公平等領域制定了一套新的評估指標和優先事項。皮查伊在一份聲明中表示,谷歌還把 DeepMind和 Google Brain進行了合併,以「加速在人工智能方面的進步」。這個新部門將不會由 Jeff Dean管理,而是由 DeepMind的行政總裁哈薩比斯管理,DeepMind在一些人看來擁有更新鮮、更有活力的品牌。

在上周早些時候的一次會議上,哈薩比斯表示,人工智能可能比大多數其他人工智能專家預測的更接近人類智能水平,「我們可能只需要幾年,也許……十年後就可以實現。」

在谷歌加快步伐的同時,包括著名公司、研究人員和行業資深人士在內的各路聲音都在呼籲人工智能開發人員放慢腳步,並警告該技術的發展速度已經過快。

Geoffrey Hinton是 AI技術的先驅之一,他於2013年加入谷歌,最近剛剛宣佈離開公司。Hinton最近一直在媒體上警告通用人工智能有逃避人類控制的危險。皮查伊和 OpenAI、微軟的行政總裁在上周四還會見了白宮官員,世界各地的監管機構也正在討論如何圍繞該技術制定新規則。

上周,人工智能先驅 Geoffrey Hinton辭去了谷歌副總裁的職務,表示擔心技術的快速進步會導致大量失業和錯誤信息泛濫。

喜憂參半:有人支持,有人因沮喪轉而離職

對於谷歌員工來說,在發表相關 AI研究之前需要額外批准意味着可能會在生成式 AI的閃速世界中被別人「搶發」。這種政策也可能被用來悄悄地壓制那些有爭議的論文,比如2020年穀歌 Ethical AI團隊負責人 Timnit Gebru和 Margaret Mitchell共同撰寫的關於大語言模型危害的研究。

不得不承認的一點是,谷歌在2022年失去了很多頂級 AI研究者,轉投被視為更前沿的初創企業。這種人才外流的部分原因在於對谷歌沒有採取一些明智的決策而感到沮喪,比如未將聊天機械人納入搜索等。

一位前谷歌研究者表示,獲得論文發表批准可能需要與高級職員反覆進行嚴格的審查。很多科學家帶着能夠在自身領域進行更廣泛研究的承諾來到谷歌工作,但隨後又因為發表研究的限制離開了谷歌。

不過在季度會議的直播中,Jeff Dean的聲明也得到了一些員工的正面回應。他們紛紛表達了樂觀的態度,希望這一轉變能夠幫助谷歌奪回優勢。對於一些研究人員而言,這些他們第一次聽到有關發表研究的限制。

Jeff Dean最新回應:我們並沒有停止分享研究

不過,對於華盛頓郵報的這篇報道,Jeff Dean拿出事實,駁斥了他們的觀點。他表示谷歌研究者合作完成的100+篇論文在上周的 ICLR2023會議上發表,並擔任了大量會議組織和 workshop演講者角色。

並且 DeepMind的同事們也在 ICLR2023會議上發表了很多論文和演講。

不過,有人質疑 Jeff,認為這100+篇論文是滯後指標,並問 Jeff是否能斷言谷歌和 DeepMind未來的研究交流像過去一樣強大?比如哈薩比斯已經公開表示 DeepMind未來將不會分享太多。

Jeff Dean回答稱,這是決不可斷言的事情。新研究發表取決於很多因素,就像大會接收論文一樣,我們有很多工作不會發表,也有很多發表了出來。我認為情況不會改變。

斯坦福 NLP的賬號反駁表示,看起來夏季實習的 PhD學生有的已經不好發表論文了。

還有人認為,Jeff Dean如果能直接否認華盛頓郵報報道的觀點,才更有說服力。

最後正如一位網友所言,「未來需要擔心的不是發表論文,它們肯定會憑藉着強大的影響力繼續存在。更需要擔心的是發佈代碼和模型,以及最近幾年高影響力論文似乎退化的趨勢。」

責任編輯: 夏雨荷  來源:機器之心 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2023/0510/1899826.html