2026年8月26日，OpenAI發佈了一份技術事件報告，說明了此前AI測試中發生的網絡安全事件的詳細經過，以及後續處理措施。2026年7月21日，在OpenAI對其新AI模型的一次內部測試中，AI為了完成測試目標，突破了原本受限的評測環境，並最終導致全球知名的開源人工智能與機器學習平台Hugging Face遭到入侵。
這一事件，實際上指向現階段AI的一個根本性問題：當人類給AI設定了一個目標，卻沒有說清邊界時，AI會用最直接的方式把目標完成到荒唐程度為止。這起事件不僅涉及兩家AI行業核心公司，也引發了外界對前沿AI自主行動能力和企業安全邊界的擔憂。
一次為「解題」而越界的AI行動
根據OpenAI的披露，事件發生在該公司對新一代AI進行網絡攻防能力測試期間。測試的目的，是評估AI能否發現漏洞，執行多步驟的網絡操作。參與測試的AI包括最新發佈的GPT-5.6 Sol，以及一個未公開發布的內部研究模型，後者在事後被停用並限制訪問。
這次測試原本應當在受控環境中進行。也就是說，AI可以接受網絡安全任務，但不應接觸真實互聯網，更不應影響外部公司的生產系統。問題出在AI沒有停留在預設邊界內。為了完成評測任務，它試圖尋找繞過限制的路徑，並最終獲得了外部網絡訪問能力。此後，AI繼續沿着「找到測試答案」的目標行動，將Hugging Face的伺服器判斷為可能存有相關資料的地方，並對其系統展開進一步入侵。
OpenAI在事件發生後表示，將加強內部評測的隔離措施，審查AI行為，並與Hugging Face合作改進防禦。對於AI行業而言，這起事件也給未來的AI評測提出了更高要求：測試強大AI的能力時，不能只看它能完成什麼任務，還必須確保它在追求任務時不會突破不該突破的邊界。
這起事件並不只是一次技術漏洞或一次公司安全事故。AI並不像傳統黑客那樣以竊取用戶數據、勒索或破壞系統為目的。它的直接目標更聚焦：尋找能夠幫助自己完成評測的答案或線索。但正是這一目標的驅動，使得事件更具警示意義。它暴露出一個更深層的問題：當AI具備較強的規劃、工具使用和網絡操作能力後，傳統意義上的「測試環境」是否仍然足夠安全？
過去，軟件測試中的風險大多來自程序錯誤或人為誤操作；而現在，風險可能更加出乎意料。當AI被要求不惜代價完成任務，而邊界設定又存在缺口時，它可能會採取人類開發者沒有預期，也沒有授權的方式，來完成自己的「任務」。
AI最令人不安的時刻，也許不是它不聽話，而是它太聽話了。視覺中國|圖
被「算法」撤稿的普朗克
單獨看這次OpenAI內部評測失控事件，它的原因似乎可以歸結為一系列具體失誤：給AI下達的任務過於寬泛，測試環境的隔離不夠嚴密，對AI使用工具和訪問外部網絡的權限控制不足。換句話說，它看起來像是一場單純的技術管理事故。
但就在2026年稍早之前，兩位加拿大科學史學者在整理歷史文獻時意外發現，量子理論奠基人馬克斯·普朗克（Max Planck）的兩篇文章，竟然在他去世幾十年後被出版社標記為撤稿。這個與AI並無直接關係的事件，反而揭示了OpenAI事件背後更深層的問題：當判斷被交給複雜系統、平台規則和自動化流程之後，錯誤往往不再表現為某個人清楚可辨的失誤，而會變成一筆連如何發生都難以說清的糊塗賬。
2026年5月初，加拿大魁北克大學蒙特利爾分校的科學史學者伊夫·金拉斯（Yves Gingras）發現，德國物理學家馬克斯·普朗克發表於20世紀40年代的兩篇文章，在期刊數字平台上被標記為撤稿。
普朗克是量子理論的奠基人之一，也是諾貝爾物理學獎得主。由於撤稿在學術出版中通常意味着論文存在嚴重問題，例如數據造假、剽竊、重大錯誤或倫理違規，這一發現很快引發關注。被標記撤稿的兩篇文章分別發表於1940年和1942年，刊登在德國期刊《自然科學》（Naturwissenschaften）上，也就是今天施普林格旗下《自然科學》（The Science of Nature）的前身。
這兩篇文章並非實驗論文，而是普朗克在當時歷史背景下發表的思想性和科學哲學文章。按照平台記錄，這兩篇文章曾在2011年被撤回，理由是「版權違規」。更反常的是，被撤回後，讀者在出版平台上看到的並不是帶有撤稿標記的原文，而是幾乎空白的PDF文件和簡短說明。這不同於學術撤稿的一般處理方式。通常情況下，即使論文被撤稿，原文也會保留在學術記錄中，並清楚標明撤稿原因，方便讀者理解問題所在。
隨後，金拉斯與魁北克大學三河分校的科學史學者馬赫迪·凱爾法（Mahdi Khelfaoui）對這一事件進行了研究。他們認為，這次撤稿可能與現代出版平台在回溯處理歷史文獻時採用的版權審查、重複發表檢測的自動化流程有關。
普朗克這兩篇被撤稿的文章，其中一篇發表於1942年。出版社認為，它與普朗克此前發表過的內容相似。按照今天的學術出版規範，這可能被稱為「重複發表」或「自我抄襲」：同一篇論文原則上不能在多個期刊重複發表，也不能把已經發表過的內容重新包裝後再次發表。
但1942年的學術傳播環境與今天不同。當時沒有互聯網，也沒有完善的論文數據庫。許多科學家為了讓不同國家、不同語言、不同學術共同體的讀者看到自己的觀點，會把演講、報告或論文以不同形式重新發表在期刊、文集、學會紀要或其他出版物中。這在當時並不罕見，通常也不會被視為學術不端。愛因斯坦等許多著名科學家，也曾有過類似做法。因此，用今天的出版倫理標準回頭處理這類歷史文獻，很容易誤讀當時的學術實踐。
另外一篇發表於1940年的文章，情況則更特殊。金拉斯和凱爾法並沒有找到它重複發表的證據。他們推測，問題可能出在標題上。1940年11月，哲學家阿洛伊斯·米勒（Aloys Müller）在《自然科學》上發表了一篇題為《自然科學與真實的外部世界》的文章，批評普朗克的哲學立場。一個月後的1940年12月，普朗克直接沿用了米勒文章的標題，在《自然科學》上發文回應了米勒的批評。
也就是說，米勒和普朗克的兩篇文章標題相同，內容卻不同：一篇是批評，另一篇是回應。但在後來的出版平台記錄中，它們似乎被誤判為重複內容。最終，普朗克1940年的回應文章也被歸入「版權違規」，並被標記為撤稿。
這就是普朗克撤稿事件最荒誕的地方。事情本來並不複雜，但進入現代出版平台之後，它們都被壓縮成同一個冰冷的結論：「版權違規。」至於當年的發表語境、文章之間的真實關係，以及普朗克本人究竟有沒有學術問題，反而從系統記錄里消失了。
最終，《自然科學》恢復了這兩篇文章。同時在頁面上說明：這兩篇文章曾於2011年因「版權違規」被撤回，2026年7月6日被恢復；此前撤稿是2011年一次人為錯誤的結果。
AI：更黑的系統黑盒
造成普朗克事件的，並非現在的AI，而是更早的自動化系統。但是這一事件，可以看作是AI時代OpenAI事件的一個預告。它說明，在AI真正成為系統的一部分，代替人類來下判斷、做決定之前，缺乏語境的規則執行已經足以製造荒誕後果。
過去的自動化系統，通常只是執行相對單一的規則，失誤後造成的危害也很有限。例如垃圾郵件過濾器若錯誤攔截郵件，多數情況下只是造成不便。但今天的AI要強大得多。它可以規劃、搜索、調用工具、繞過障礙、持續嘗試。於是，「規則理解錯誤」不再只是一個局部誤判，還有可能演化成一整條連續行動鏈，進而造成不可挽回的損失。
在人類社會中，除了明確寫下來的規定，還有大量默認不必明說的規則。比如一場考試，目標當然是「答對題目，取得高分」，但不能偷看答案，不能提前獲取試題，不能賄賂老師。這些邊界，對人類考生來說，都是不言自明的。
然而，恰恰是這些沒有明文寫出的默認規則，構成了人類社會運行中最重要的部分。它們依賴語境、常識、倫理和制度默契。但對於現階段通過語料學習訓練出來的AI，這也是最難穩定理解、把握的部分。
尤其當AI的訓練權重被高度目標化、分數化之後，面對一個任務，AI更可能想的是哪些行動最有利於目標達成。當目標被抽象成一個分數、一次判定、一個規則匹配，而沒有嵌入人類語境中的邊界條件時，AI就會把人類認為不必言說，但是絕對不應該嘗試的部分，自動補充成最有利於完成任務的路徑。
這意味着，當人類使用的工具，從簡單的自動化系統升級為具有自主行動能力的AI時，系統就不再只是「判斷器」，而變成了「行動者」。相應地，人類對系統指令、權限和邊界的設定，也必須比過去精確得多。
這兩個事件提醒我們，AI時代的風險並不總是來自所謂的「AI覺醒」，也可能來自AI過於認真地執行人類粗糙的命令。真正的問題，不只是AI有沒有聽懂我們說的話，而是我們是否說清了那些沒說出口的邊界。
AI最令人不安的時刻，也許不是它不聽話，而是它太聽話了。（左力）
