近日，OpenAI披露，在一次網絡安全安全評估中，其先進AI模型成功完成了針對代碼託管平台Hugging Face測試環境的攻擊任務。需要強調的是，這並非電影中的「AI失控」，而是在授權環境下進行的安全測試。然而，這則消息真正值得關注的，並不是攻擊本身，而是AI已經能夠自主規劃攻擊路徑、尋找漏洞，並完成複雜任務。
過去幾年，人們討論AI，大多圍繞一個問題：它究竟有多聰明。
今天，這個問題正在發生變化。
真正值得討論的，也許已經變成：當AI越來越能行動時，我們是否還應該沿用過去對開源的理解？
過去，科技界形成了一種廣泛共識：開源促進創新。
Linux、Python、TensorFlow，無數優秀項目證明，開放代碼可以讓更多開發者參與改進，加快技術傳播，也降低整個行業的發展成本。正因為如此，近年來，每當有大型AI公司宣佈開源，總會贏得一片掌聲，仿佛開源天然代表着先進、開放與共享，而閉源則意味着保守與商業利益。
然而，這種思維建立在一個前提之上——技術本身的風險是有限的。
一個聊天模型，一個圖片生成模型，即使能力不斷提高，其潛在危害仍然相對可控。但如果未來公開的，不再只是一個回答問題的模型，而是一個能夠自主尋找漏洞、編寫攻擊程序、執行網絡滲透，甚至控制機械人完成現實任務的智能體，那麼事情便完全不同了。
這次OpenAI披露的測試，正是一個值得認真思考的信號。
它說明，先進AI已經不僅是在「回答」，而是在「執行」。
能力越強，風險也越高。
歷史上，人類並非沒有遇到類似情況。
基礎數學公式公開，沒有問題；核物理基本理論公開，也沒有問題。但真正涉及濃縮鈾技術、核武器製造、生物安全、高危病原體研究，各國都會採取遠比普通科研嚴格得多的管理措施。原因並不是因為這些技術「不先進」，恰恰相反，而是因為它們太先進，先進到一旦被濫用，代價將由整個社會承擔。
AI的發展，也許正在走到類似的階段。
未來，人們真正需要討論的，已經不是簡單的「開源還是閉源」，而是什麼能力可以開放，什麼能力必須謹慎開放。
這一點，並不僅適用於OpenAI。
如果未來Google、Anthropic、Kimi，或者任何一家AI公司，擁有同等級甚至更強的自主網絡攻擊能力，同樣會面對這個問題。
繼續全部開源，意味着更多開發者能夠創新，也意味着更多惡意攻擊者可能獲得強大的工具；選擇更加謹慎，則可能受到「背離開源精神」的批評，卻能夠降低高風險能力被濫用的可能。
這並不是一道容易回答的選擇題。
因此，把「開源」簡單等同於道德高尚，把「閉源」簡單等同於商業自私，都已經無法適應今天AI的發展階段。
真正負責任的態度，應該是根據能力大小決定開放程度，而不是無論能力發展到什麼階段，都堅持同一種答案。
OpenAI這次事件，也許真正提醒我們的，並不是AI已經危險到不可控制，而是它已經成長到了一個新的階段。
過去，人類擔心AI是否足夠聰明；今天，人類更需要思考的是：當AI開始具備越來越強的行動能力之後，是否仍應毫無保留地把這些能力向全世界開放？
科技的發展值得鼓掌，但越是強大的技術，越需要敬畏。先進AI當然可以開源，但能力越先進，越應謹慎。真正值得讚揚的，不是「為了開源而開源」，而是在推動創新與守住安全之間，找到那個負責任的平衡點。
