AI預測錯了誰負責誰在承擔代價
政務資料並不是社會現實自然留下的痕跡。哪些事件可以被登記，哪些問題被算作風險，哪些投訴被歸入重複信訪，哪些失業者被稱為靈活就業，哪些企業問題需要上報，都是政治與行政選擇的結果。資料在進入模型以前，已歷經幹部考核、部門利益、平台審查和對上負責的層層加工。
換句話說，AI模型可以讀到的未必是中國社會，而是中國官僚體系允許被寫進表格的中國。
這會形成一個非常危險的回饋循環。地方政府先為了考核清洗資料，模型再根據清洗後的資料作出高置信度判斷；上級把模型輸出視為客觀證據，進而要求地方依照模型分配資源與處置風險；不符合模型判斷的現實，則更難進入下一輪資料。最後不是模型逐漸接近現實，而是現實被迫向模型靠攏。這裏面的差距，就是治理的風險。
預測模型還可能製造另一種自我證明。系統把某家企業列為討薪風險，政府提前介入，最終沒有發生抗議，部門便可以把結果記作模型預測成功。但事件本來是否會發生，沒有人知道；企業和工人是否因錯誤預警承受額外監控、約談或污名，也很少進入績效報表。因此AI介入會成為一個單向「棘輪」，出現AI預測的風險，介入解決證明了AI的有效；出現了AI未預測到的風險，這不證明AI無效，反而是需要更大力度使用AI的證明。
系統和黨考量的是「避免了多少危險」，個人承擔的則是那些被定義為危險的代價。
這使中國AI治理最重要的問題變得非常簡單：模型預測錯了，誰負責？一個人被列為風險對象後，能不能申訴？
現有政策已經開始要求全流程管理、人工覆核與「人工兜底」（由專人負責善後）。這些原則並非毫無意義，但它們主要回答政府應當如何安全使用模型，並沒有清楚回答被模型判錯的人如何恢復權利。誰必須提供解釋？資料錯誤由誰更正？行政處分能否暫停？名譽、工作與經濟損失如何補償？在一個本來就幾乎沒有任何問責性的社會，AI偏誤的行政問責同樣難如登天。
更麻煩的是，「人工覆核」很容易成為一種形式，AI產出大量中間成果，官僚會像進入用Vibe Coding的人一樣，面對AI寫下的幾千字確認文檔閉眼點擊「確認」。
對一名基層幹部而言，依照模型處置，即使後來出錯，也可以說自己遵循了系統；否定模型，若事件真的發生，責任卻可能完全落到自己身上。在這種考核結構中，人工不會自然成為模型的糾錯者，反而很可能成為替模型簽字的人。
這就是自動化偏誤：人類名義上仍然作出最後決定，實際上卻因模型的權威、工作壓力與責任風險而跟隨系統。AI沒有消滅官僚責任，只是讓責任更容易被轉移。
而最容易承擔代價的，通常也是申訴能力最低的人。欠薪工人、小微企業、負債家庭、上訪者與其他被視為不穩定的人群，留下的行政資料更多，更容易被分類，也更難要求政府公開分類依據。風險治理看似面向所有人，代價卻會不均等地落在政治資源最少的人身上。
國家不再只命令而是住進日常生活
借用社會學家Michael Mann對「專斷權力」與「基礎設施權力」的區分，我願意把中國國家能力改寫成兩種形式。
第一種是禁止性能力：封號、審查、抓捕、停業、禁用、強制執行。這是國家不經社會同意，直接下達命令的能力。也是中國過去作為極權國家最容易施展的社會管控。
第二種是生產性能力：國家透過政務平台、資料庫、智能體、稅務風控、醫保審核與城市管理，持續塑造人們可以採取哪些行動、獲得哪些資源、進入哪些程序。這裏的「生產性」，不是說權力必然帶來好結果，而是它會生產分類、秩序、資格與行為。
因此，AI治理不能只理解成監控增加。監控主要解決「看見」；真正的形態改變，是把看見接上分類、排序、分派與執行，讓中國成為「生產性能力」的國家。
國家不再只靠一道命令從上方落下來約束邊界。它透過資料接口，住進企業的信貸審核、醫院的支付系統、學校的管理平台、法院的案件分派、工廠的生產流程和普通人的每一次政務申請。這種權力不一定總以暴力面貌出現，它甚至可能非常便利。正因如此，它比單純的禁止更深入，也更難逆轉。這不是科幻小說，中國國家稅務系統「金稅四期」早已經是一個毛細血管一樣的AI驅動的生產性能力。正是這樣的AI系統，讓中國在經濟出現重大問題的兩年，還能維持雙位數的「個人所得稅」增長。
被拆掉的官僚緩衝器
官僚自由裁量並不天然值得歌頌，尤其在中國。它可能意味着推諉、腐敗、選擇性執法和因人而異。AI標準化也確實可能減少部分刁難，讓行政流程更清楚、更快速。
但自由裁量的另一面，是地方知識與人情判斷。過去一道不合理的中央命令，需要穿過省、市、區、街道、居委會與具體執行人員。在這條漫長的鏈條中，拖延、變通、選擇性執行與陽奉陰違有時構成腐敗，有時卻也構成一層緩衝。
2022年上海封城期間，一位在小區門口工作的保安，對居民夜間出入一直睜一隻眼閉一隻眼。只有領導檢查時，他才嚴格執行規定。這當然不是法治，但那種「槍口抬高一寸」，確實讓居民在僵硬命令下保留了一點生活空間。這樣的空間隨小區門口設置「AI哨兵」而結束，這是一個強制性人臉識別的進出系統。
模型化治理會逐步壓縮自由裁量空間。系統自動記錄、即時上報、統一排序，地方執行人員不再容易假裝沒有看見。中央命令在官僚層級間下達落實的摩擦降低，錯誤便可能傳得更快、更廣，也更難被地方經驗修正。
這並不意味着中國會突然變成一個運轉完美、資訊互通的全知國家。部門壁壘、資料孤島、地方財政差異、技術品質與執行能力仍然存在。中國AI治理真正危險的地方，不是它必然無所不知，而是它可能在資訊仍然殘缺的情況下，獲得前所未有的執行信心。
它不是低能力國家，恰恰相反，他可能成為一個高能力卻同時具有系統性脆弱的國家。
對台灣真正危險的不是一隻機械狼
回到建軍節的畫面。對台灣真正危險的，未必是那隻機械狼能否在灘岸上跑多遠。
更值得注意的是，解放軍正在嘗試把無人機、無人艇、地面平台、商業衛星、開源情報、網絡攻擊、認知作戰與指揮系統接進同一套節奏。單項裝備不需要全面超越美國，只要整合速度加快、使用成本降低、出動頻率提高，就可能增加灰色地帶施壓，並壓縮台灣與盟友的反應時間。
但還有一種更深的風險。
模型吃進去的若仍是層層洗白、報喜不報憂的情報，AI不會自動幫助中共中央看見真相，反而可能替偏見加上數學權威。一個依賴模型推演的決策中心，可能愈來愈相信自己的風險評分、輿情分析與戰爭模擬，最後說服自己：台灣抵抗意志已經崩潰，美國不會介入，經濟制裁可以承受，有限行動能夠快速造成既定事實。
這種危險不來自中國無所不知，而來自它「自信地錯」。
當感知與現實的落差進入最高層決策，錯誤不再只是一次行政誤判，也可能成為戰爭的扳機。中國內部的系統性脆弱，於是直接轉化為台海的外部風險。
北京正在下注另一種可能。它希望透過AI提高國家能力，克服超大社會的資訊與治理成本
北京希望透過AI提高國家能力，克服超大社會的資訊與治理成本。（法新社）
AI的真正對手台灣可成反證
很多人把AI看成中美之間的最後一戰：哪一國掌握更大的模型、更多的算力和更完整的晶片供應鏈，哪一國就能決定下一個時代。
但對中共黨國而言，AI真正挑戰的也許不是美國，而是現代化理論中那個粗略卻影響深遠的命題：經濟發展、教育擴張與社會複雜化，終究會增加多少自由化與政治參與的壓力。
北京正在下注另一種可能。它希望透過AI提高國家能力，克服超大社會的資訊與治理成本，在經濟繼續發展的同時維持政治控制。它要證明，發展可以不伴隨自由化和分權，控制可以取代信任，算力可以彌補社會契約的缺失。
這場賭注未必會失敗。中國擁有龐大的行政組織、國有基礎設施、密集的公共資料、巨大的市場和成熟的製造能力。AI確實可能讓它在許多領域變得更快、更便宜、更能深入社會。
但能力不等於正當性。更精密的預測，不能讓一個被判錯的人自動獲得申訴；更完整的資料，不能使幹部願意向上級說真話；更快速的執行，也不能修補公民對制度的不信任。相反，建構這套能力所依賴的控制本能，恰恰可能把資訊失真、責任真空與政治僵化一併放大。
台灣因此不只是中國AI軍事應用的潛在對象。作為華語世界的自由民主政體，它也是這場豪賭的活體反證。
台灣需要審查的不只是某一個中國App，而是資料究竟流過誰的API（應用程式界面）、模型權重、更新通道與雲端服務；需要保護的不只是個人資料，也包括高品質繁體中文語料，以及一個社會描述自身歷史與政治現實的能力；需要建設的不只是晶圓代工，而是從伺服器、資安、模型部署到資料治理的可信AI供應鏈；面對認知作戰，也不能只依賴事後闢謠，而要預先建立跨部門驗證、危機溝通與複合情境演練。
回答中國AI化國家的方式，不是讓民主社會變得更會控制，而是證明另一件事：分散的知識、真實的資訊、可以申訴的程序、自由的公共討論與被信任的制度，並不是國家能力的障礙。
它們本身，就是更強的國家能力。
※作者為旅居日本的中國獨立知識分子與多棲內容創作者。主持YouTube「三個水槍手」、「世界苦茶」等節目。北京中央民族大學畢，雙修法學與經濟。本文授權轉載自《想想論壇Thinking Taiwan公共思辨，想想台灣》。
