2026年6月10日，一部智能手機螢幕上顯示由美國人工智能安全與研究公司Anthropic開發的AI助手「Claude Mythos」標誌。(Nicolas Tucat/AFP via Getty Images)
周四（9月10日），美國頂級人工智能公司Anthropic發佈近150頁的威脅情報報告稱，生成式人工智能（AI）已從實驗性工具進入黑客攻擊、國家監控、武器研發及高風險生物研究等現實場景。報告多次點名中共相關惡意活動。
報告稱，過去8個月，公司發現多類行動者透過虛假或被盜賬戶、VPN及中介服務規避地域和安全限制，使用Claude自動化網絡攻擊、監控、宣傳、武器研究及可能具有生物安全風險的科研工作。Anthropic表示，已中斷報告所列所有案例、封禁涉事賬戶，並向相關政府機構和業界組織通報。
報告多次點名中國相關的惡意行動。Anthropic稱，與中共安全機構相關的行動者利用Claude，大規模分析境內社交媒體內容、篩選政治敏感訊息及鎖定潛在監控對象。
Anthropic威脅情報主管雅各布‧克萊因（Jacob Klein）表示，公司發佈報告的目的不是誇大風險，而是警示當前技術已被部分實體惡意濫用。
「如今，專制國家正在利用AI進行監控、鎮壓和影響力行動。」克萊因說，「這已不再是假設。」
報告警告說，國家監控、武器工程、網絡攻擊及危險科研所需的專業門檻，正因生成式AI而下降；而這一趨勢已不再局限於下一代最強模型，而是出現在已經商業化、廣泛可得的AI系統之中。而且當Anthropic識別並中斷惡意活動後，部分行為體沒有停止，只是轉向開源模型。
中國案例：從人工分析轉向AI輔助監控
Anthropic發現，監控國家正將AI從實驗性工具融入國家監控的日常運作。
報告提到，中共某國家安全部門甚至制定了內部手冊，說明如何使用AI進行監控行動，還有其他官員利用Claude自動生成日常情報報告並查詢政府監控數據庫。
報告舉例說，中共一個宗教事務情報部門利用Claude協助搜集和分析資料，將原先需要「多個分析團隊」完成的工作，縮減為一個辦公室，利用AI每月完成數千份調查報告。
Anthropic披露了一項「以中國為基地的宗教事務情報行動」（追蹤編號為 GTG-14020），該行動針對中共長期監控的宗教群體，包括天主教、藏傳佛教、法輪功及台灣的基督教群體。中共利用Claude處理大量公開網絡資訊，例如搜集網站、社交平台及其它公開來源資料，進行翻譯、摘要、分類、人物與組織關聯分析，從而形成可供持續檢索和研判的宗教社群情報。
Anthropic威脅情報主管Jacob Klein介紹說，AI被這些實體用來從事監控工作，變得更便捷、更快速，也更容易擴大規模。
報告稱，中共相關行動者曾使用Claude分析大量境內社交媒體資料，判斷帖文的政治敏感程度，並挑選可能需要「控制」（control）的對象。
Anthropic稱，與政府有關聯的人員也在馬里和伊朗使用Claude輔助監控行動。
武器研發以及生物安全擔憂
Anthropic稱，已阻止一批位於也門北部的行動者使用Claude參與3個武器的研發項目，涉及導引火箭、多級彈道導彈和高超音速滑翔導彈。公司亦披露，一名位於俄羅斯的「自由接案」行動者試圖利用Claude研發可自主執行自殺式攻擊的無人機。
Anthropic表示，其發現多宗利用Claude協助常規武器設計、開發或支援採購與情報工作的案例。在公開披露的6宗個案中，有3宗發生在中國、2宗與俄羅斯有關、1宗涉及也門。
Anthropic同時披露，今年發現五宗來自未具名外國地區的高風險生物研究案例，涉事人員疑似利用Claude研究危險病原體。
其中一宗涉及蚊媒致命病毒的功能增益研究資助申請。Anthropic稱，相關研究或可用於疫苗研發，但因計劃在軍事研究機構進行，而引起關注。其它案例包括研究可同時用於治療用途或製成毒劑的化合物，以及一名美國境外研究者長時間研究高致病性禽流感病毒的適應性實驗。
報告稱，涉事者規避地理限制，並試圖模糊研究目的以繞過安全防護，因此引發警訊。
Anthropic前沿紅隊（Frontier Red Team）的負責人洛根‧格雷厄姆（Logan Graham）表示，格外關注報告中提到的生物濫用案例。
「我們已經到了這樣一個時刻：（缺乏保障和監控的）人工智能確實構成了國家安全風險。」他在社交媒體X上寫道。
「我們正努力阻止這種情況發生。但在一個擴散的世界裏，我們需要迅速建立防禦體系來應對它。」格雷厄姆補充說。他領導團隊，負責壓力測試Anthropic最先進的AI系統。
中國公司大規模非法蒸餾
Anthropic稱，Claude在中國、俄羅斯和伊朗等地受到地域限制，但涉事者透過VPN、欺詐或被盜賬戶，以及協助用戶繞過地理和安全限制的中介服務取得模型能力。這反映AI風險並不只取決於模型是否公開發布，也與賬戶驗證、雲端服務、代理網絡與跨境中介服務是否被濫用有關。
Anthropic說，自從二月首次披露針對Claude的「蒸餾攻擊」（distillation attacks）以來，已發現並阻止了來自中國七個實驗室的更多蒸餾行動。
所謂蒸餾攻擊，是指行動者大量向先進模型提出結構化問題、搜集輸出，以嘗試提取或複製模型的能力，用於訓練競爭性系統。
被Anthropic點名的中國公司有阿里巴巴、Moonshot、DeepSeek、智譜AI、商湯科技、MiniMax等。
克萊恩表示，Anthropic已對所有被發現與監控行動有關的賬戶採取封禁措施，並根據案例強化安全防護。
