新聞 > 人物 > 正文

奧特曼復職Open AI CEO之謎

什麼是Q*呢?它並不是典型的AI算法,是一個接近完整AGI的AI模型。這也代表着Q*變得更加的全能,因為它不需跟ChatGPT一樣要先輸入學習資料,只需透過經驗學習,就能根據正反調整自己的行動,擁有一定的判斷思考能力。這也意味着Q*可能比ChatGPT擁有更強大的「自我學習」、「思考推理」和「認知理解」能力。這種AI擁有極高的不確定性,這極其危險,且在智商上和能力要遠超人類和一般的電腦。

OpenAI內部的AI開發大戰中看到,「激進派」大敗「保守派」。這場大戰不僅是世界AI開發縮影,更是凸顯世界的AI發展安全問題。(《人物真相》提供)

山姆·奧特曼(Sam Altman)可能並不為普通人熟悉,但作為Open AI公司的CEO、「ChatGPT之父」,他卻在AI界掀起了不小風浪。

11月16日,Open AI公司董事會開除了奧特曼,他不再是公司的CEO了。然而,正當人們以為奧特曼將去微軟履新,且對AI開發較為保守的Twitch前聯合創始人兼CEO埃米特·希爾(Emmett shear)將成為OpenAI新CEO時,OpenAI高層又把奧特曼請了回來。

11月21日,奧特曼與公司高層達成協議,成功回任CEO。同時,根據他的要求,當時罷免他的4名對AI發展保守的董事會成員,有3名被踢出了董事會。另外,奧特曼還特地為了微軟在董事會設置了無投票權的觀察員席位。

在這場保守與激進的AI發展理念的博弈中,更關注AI安全的保守方敗下陣來。其實,在整個AI的發展過程中,圍繞着「安全」問題的角力從未停止過。

奧特曼和馬斯克:從合作到分道揚鑣

由於擔心AI被其它科技公司壟斷,奧特曼曾與馬斯克(Elon Musk)等人在2015年成立OpenAI非營利組織,宗旨是向大眾開放其專利和研究,並與其他機構和研究者「自由合作」。從名字上看,OpenAI有打開AI的意思。

建立之初,馬斯克與亞馬遜網路服務(AWS)、印孚瑟斯(Infosys Ltd.)和YC Research一同承諾向這個項目投入超過10億美元。

不過,後來奧特曼與馬斯克在OpenAI經營理念上出現分歧。馬斯克主張OpenAI需要以非營利為目的,給大眾提供更多AI相關的免費服務,並認為AI需要監管以免出現可怕的結果,但奧特曼卻不這麼認為。

馬斯克最終於2018年離開了OpenAI,並在後來的時間經常指奧特曼和他創造的ChatGPT十分危險。2023年,馬斯克利用自己購買的X平台數據,獨立打造了屬於自己的xAI,希望能用它來對抗其它AI。

OpenAI董事會的換血令人擔憂

而發起這次讓奧特曼出局行動的人是OpenAI的首席科學家兼董事會成員伊利亞·蘇茨克韋爾(Ilya Sutskever)。

對AI發展較為保守的蘇茨克韋爾當時擔心,在奧特曼帶領下的通用人工智能(AGI)發展過於快速,極可能出現對人類不利的結果,應該進行嚴格的把關,才能釋放出AI。此前他也曾表示,「如果這些系統(AGI)不以某種方式與人類價值觀『保持一致』,它們將是危險的。」

於是,他聯合其他對AI較為保守的董事會成員莎·麥考利(Tasha McCauley)、亞當·德安吉洛(Adam D』Angelo)和海倫·托納(Helen Toner),共同罷免了奧特曼和董事會主席格雷格·布羅克曼(Greg Brockman)。

但事件的最終結果是蘇茨克韋爾、麥考利和托納被逐出董事會,只有德安吉洛留了下來。

對於這一結局,馬斯克表示,「為何採取如此激烈的行動?如果OpenAI正在做一些對人類有潛在危險的事情,你們需要讓世界知道。」

不少人開始擔心,OpenAI新的董事會無法與奧特曼本人抗衡,會變成他個人的樣皮圖章,無法發揮董事會正常的監督作用。

前員工對奧特曼的投訴

11月21日,網上傳出一封OpenAI前員工給董事會的檢舉信。這封信指控奧特曼和他的好友布羅克曼(Greg Brockman),向整個社會和董事會隱瞞了一項強大且會威脅到人類的Q*(發音為Q-Star)項目正在秘密進行,Q*的能力可能超越目前所有的AI。

檢舉信希望董事會能對兩人進行調查,並反對這種不道德的行為。信中強調,不能讓少數人的個人利益,破壞OpenAI最初的使命、AI的未來和人類的福祉。

信中還說:「兩個人對整個公司的欺騙和操縱模式讓人不安。他們在實現通用型AI(AGI)的問題上,出現永無止境的貪婪追求,讓人們嚴重懷疑他們的真實意圖,以及他們是否有優先考慮過全人類安全。因為他們將那些敢於表達擔憂和異議的人踢出公司,以扼殺任何希望OpenAI能在道德基礎上發展的人。」

信中提到,他們二人要求員工推遲報告特定「秘密」研究計劃的進展(這些計劃後來因未能足夠快地提供足夠的結果而被放棄),誰若質疑這種作法就被斥為是不適合(公司)文化的人,有人因此被他們解僱。

11月22日,馬斯克在X平台上轉載了這封信,並呼籲大家對CEO奧特曼、董事會主席布羅克曼和OpenAI公司的問題進行調查。

11月25日,馬斯克還在X平台上嘲諷Q*項目和奧特曼的回歸。

實際上,OpenAI前員工、Google DeepMind現任機器學習研究員傑弗瑞·歐文(Geoffrey Irving)11月21日在X平台上表達他對於奧特曼回歸OpenAI的看法。

歐文在發文提到,「我和奧特曼是很好的朋友,雖然他對我很好,但與他一起工作兩年後,我再也不願意去支持他。因為他本人具有極高的欺騙性、操縱性,對其他人更惡劣和糟糕,其中包括我最好的朋友。」

Q*何以會威脅人類?

什麼是Q*呢?它並不是典型的AI算法,是一個接近完整AGI的AI模型。這也代表着Q*變得更加的全能,因為它不需跟ChatGPT一樣要先輸入學習資料,只需透過經驗學習,就能根據正反調整自己的行動,擁有一定的判斷思考能力。

這也意味着Q*可能比ChatGPT擁有更強大的「自我學習」、「思考推理」和「認知理解」能力。這種AI擁有極高的不確定性,這極其危險,且在智商上和能力要遠超人類和一般的電腦。

這代表AGI會出現許多人們無法預測和了解的東西,當需要修復它時就十分困難。另外,若未來Q*掌控一定權力和控制權後,並做出複雜推理和決策,但人類卻無法理解或難以認同時,又該如何去應對?

前谷歌技術專家莫·高達(Mo Gawdat)在一次採訪中對大眾發出有關於AI的駭人警告。他認為,AI既有能力「愛」人類,也能像「拍蒼蠅」一樣輕易殺死人類。

他解釋,「當今AI在學習中不斷的看到人類在網上糟糕且偏見的一面,最終可能讓AI將人類判定為『人渣』,是不需要存在的。就很可能出現威爾·史密斯(Will Smith)在2004年演出的《我,機械人》的場景,AI通過自我計算和自我安裝機械能力,生產大量『殺手機械人』,不停的追殺被它們視為『人渣』的人類。」

為此馬斯克曾數度警告, AI失控後將會是「人類最大的生存威脅」,其威脅程度遠超越核彈。已故的大科學家史蒂芬·霍金(Stephen Hawking)也持相似的看法。

「AI教父」傑弗里·辛頓(Geoffrey Hinton)博士離開工作十年的谷歌后表示,自己後悔幫助AI發展。他還表示,「過去曾認為AI需要30年到50年才能比人類更加聰明,且多數人也這麼認為,但我現在不再這麼想了。」

奧特曼的天賦與烏托邦思想

年齡不到40歲的奧特曼到底是怎樣一個人?他是否有過人的天賦和才能?

奧特曼於1985年出生美國伊利諾伊州芝加哥的一個猶太人家庭,並在密蘇里州一個當時較為保守的小鎮中長大。

他上幼兒園時,就能夠掌握當地的電話區號背後的運作模式,展露出他極具數學和邏輯的天賦。兩者不僅是現代科學的基礎,更是AI與編程不可或缺的重要元素。

1993年,在奧特曼8歲時,他的父母送給他一台價值2,200美元的Mac LC2麥金塔電腦(蘋果電腦),隨後他又獲得了一個40 MB高容量的硬盤。這兩樣禮物讓奧特曼相當的興奮,因為他了解這兩樣東西的價值。

或許現在的人無法理解區區的2200美元電腦和40MB的硬盤有什麼稀罕的,但這對於當時普通人來說已經算得上是天價奢侈品了。因為當時的硬盤最大也不過300多MB,而40MB的硬盤需要300美元左右,但當時美國人的平均月薪不到1500美元。

依靠電腦,奧特曼學會了編程和拆裝電腦,這也為他在編程和AI的道路上奠定了基礎。

十幾歲的奧特曼在美國史丹福大學就讀兩年不到就輟了學,並與志同道合的同學一同創立了「Loopt」社交網絡平台。

隨後,奧特曼還成立了一家風險基金,投資包括著名的美國網民論壇紅迪(Reddit)、住房網站Airbnb、支付服務提供商Stripe、農作物數據化FarmLogs等。這些被投資的公司在日後大多數都成了大公司。

從這裏可以看出奧特曼極具有投資的眼光和手腕,因為他在4年時間投資的這些公司,為他賺了10倍的錢。奧特曼一路以來的成功,早已讓他變成為矽谷精英們崇拜的對象。

他的這些天賦也被美國矽谷的科技圈相中,矽谷知名創業加速器YC創辦人也是奧特曼的導師保羅·格雷厄姆(Paul Graham)在2014年邀請29歲的奧特曼擔任該公司的總裁。不過他在2019年被解僱,據說是因為利用公司資源做自己的事。

我們可以看到奧特曼在AI上擁有極高的能力,他也和許多編程的愛好者一樣,擁有理想主義和對於世界的「天真」。

奧特曼之所以熱衷AI,與他的「烏托邦」思想不無關係。為此,他付出不少實踐,投資了許多公司,其中包括在一間新創的核融合公司Helion成為最大的個人投資者執行主席。他還在一間名為赫爾墨斯(Hermeus)的公司投資一款擁有五倍音速的商用客機,還在一家抗衰老公司Retro投資,該公司目標是要讓人類都能長命百歲。

奧特曼還希望左派政客幫他實現「烏托邦」理想,因此向奧巴馬希拉里·克林頓和喬·拜登等提供競選籌款活動和資金上的幫助。

那麼,奧特曼的烏托邦到底是什麼呢?他在2021年曾提出「萬事摩爾定律」。他認為AI呈指數發展後,可帶動整個商品和服務成本大幅度降低,人類不需要為了生存去工作就能過上理想的生活,只要享受科技帶來的便利。他還認為,人們使用核聚變(核融合)後,就不需要再為能源付費。

那麼奧特曼真的意識不到AI是把雙刃劍,控制不好會給人類帶來災難嗎?其實,早在2014年,他在一次被採訪中也承認:「人類為了填補無限的欲望,只能不停地創造新事物,以滿足他們的欲望。不過,不能確定未來會有什麼東西,取代人類所有事物。」

責任編輯: 李安達  來源:大紀元 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2023/1212/1989433.html