新聞 > 中國經濟 > 正文

被曝秘密使用!字節GPT賬戶突被OpenAI凍結

—被曝行為不當!字節GPT賬戶突被OpenAI凍結

字節跳動,陷入大模型輿論風波。

據The Verge報道:

字節跳動一直在秘密使用OpenAI的技術,來開發自家大語言模型(LLM)。

而在此消息被披露不久,The Verge進一步稱OpenAI已經暫停了字節跳動的賬戶。

具體而言,OpenAI發言人Niko Felix發佈的聲明如下:

雖然字節跳動使用我們API的量很少,但我們已經暫停了他們的賬戶,同時我們會進一步調查。

如果我們發現他們的使用不符合規則,我們將要求他們進行必要的更改或終止他們的帳戶。

這裏提到的「規則」是指在OpenAI的服務條款中有一項明確的規定,那就是OpenAI提供的模型能力,不允許用來被「開發任何與之產品和服務形成競爭的 AI 模型」。

被曝行為不當!字節GPT賬戶突被OpenAI凍結

被曝行為不當!字節GPT賬戶突被OpenAI凍結

被曝行為不當!字節GPT賬戶突被OpenAI凍結

據了解,字節跳動是通過微軟購買的OpenAI訪問權限,但是微軟也制定了與OpenAI同樣的政策。

The Verge表示正在向微軟做進一步的諮詢,是否也會跟OpenAI採取同樣的措施暫停字節跳動的賬戶。

那麼,此次的抄襲風波具體是怎麼一回事呢?

內部文件被曝光

根據The Verge的說法,證據是來自字節跳動的一份內部文件——海外版飛書Lark的聊天記錄。

這份文件表明,字節跳動在代號為「種子計劃」(Project Seed)基礎大語言模型項目中,幾乎是在每個開發階段都依賴OpenAI的API來進行開發,包括訓練和評估模型。

被曝行為不當!字節GPT賬戶突被OpenAI凍結

「種子計劃」是大約在一年前啟動,目前主要研發兩個產品,一個是在國內已經上線的Doubao;另一個是針對商業用戶的聊天機械人平台,目前正在開發中。

據稱,參與「種子計劃」的員工是深知過度依賴OpenAI API的後果,於是他們就開始討論如何通過「數據脫敏」來粉飾證據。

以至於經常會出現員工達到OpenAI API的最大訪問上限的情況。

更具體而言,字節跳動更多的是在「種子計劃」的早期階段使用了OpenAI的技術。

The Verge根據內部文件表示,字節跳動大約是在幾個月前下達了「模型開發的任何階段停止使用 GPT 生成的文本」的命令。

不過也正是在這個時候,字節跳動發佈了自家大語言模型Doubao。

被曝行為不當!字節GPT賬戶突被OpenAI凍結

但The Verge表示即便到了這個時候,字節跳動依舊沒有停止違規行為:

字節跳動繼續以違反OpenAI和微軟服務條款的方式使用 API,包括評估豆包背後模型的性能。

並且還表示一位對字節跳動內部情況有一手消息的人指出:

他們說他們想確保一切都是合法的,但他們實際上只是不想被抓住把柄。

字節跳動已作回應

在The Verge發出這篇報道之後,字節跳動發言人Jodi Seth做出了如下回應:

GPT 生成的數據在「種子計劃」的早期開發中用於注釋模型,並且在今年年中左右的時候已從字節跳動的訓練數據中刪除。

字節跳動得到了微軟的授權,可以使用GPT API。

我們在非中國市場利用GPT支持我們的產品;但在中國市場,則是使用我們自研的模型來支持Doubao。

被曝行為不當!字節GPT賬戶突被OpenAI凍結

微軟方面,發言人Frank Shaw則表示:

像Azure OpenAI服務這樣的Microsoft AI解決方案,屬於我們的有限訪問框架的一部分,意味着所有客戶都必須申請並得到 Microsoft 的批准。

我們還制定了標準,並提供資源幫助客戶負責任地使用這些技術,並符合我們的服務條款。

我們有流程來檢測濫用,並在發現違反行為準則的公司時,將停止他們的訪問權限。

量子位也在第一時間與字節跳動取得了聯繫,但目前字節跳動並未做出正式回應。

 

責任編輯: zhongkang  來源:量子位 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2023/1217/1991625.html