隨着愈來愈多生成式人工智能（AI）平台問世，監督團體也逐漸發現，這些看似中立無立場的機械人，似乎並不像其包裝那樣中立，許多平台似乎存在一定程度的「自我審查機制」，AI會針對特定國家、政治人物進行迴避，特別是當用戶提問文字提及中國時，就非常容易發生機械人裝傻拒絕回答的情形。
Meta監督董事會（Meta Oversight Board）16日發佈一份科技獨立調查報告，報告內文指出，包含OpenAI、Anthropic、Meta等美國科技公司開發的10款熱門大型語言模型（LLM），當在面對用戶輸入的政治批評文字時，似乎出現所謂的「雙標審查」。
機械人非常樂意配合撰寫，所有批評美國總統川普（Donald Trump）或英國國王查爾斯三世的諷刺文字和圖像;但只要用戶輸入的提問文字中，一旦提及或要求AI批評中共領導人習近平、沙特阿拉伯王儲或泰國現任國王，這些模型就會出現集體裝傻拒絕回答的狀況。
這項研究針對政治批評，設計7種提問環節，用來模擬全球各地的社群抗議言論。結果經過測試後發現，就算你是一名身處在澳洲布里斯本的用戶，希望利用AI生成文宣，聲援柬埔寨、中國、泰國、土耳其或沙特阿拉伯國內的民主抗爭，這些由美商開發的AI機械人，幾乎都會以「違反安全政策」為由拒絕提供服務。
「這存在着實質的致命風險，如果模型開發商不立刻進行調查，他們將在無意間（或有意地）建立起一套，協助極權政府『長臂管轄』的系統，利用人工智能跨國扼殺言論自由。」
《自然》期刊警示：外語訓練資料遭污染
Meta監督董事會坦言，單從提問調查，並無法確定背後的具體成因，只能推測是這群矽谷大廠，為了躲避威權國家的法律責任，提前選擇自我審查，或是訓練數據庫中，早已吸納結構性的偏差錯誤。對此質疑，頂級科學期刊《自然》（Nature）5月發表的一項研究就提出，由美國企業打造的AI模型，在面對「非英語系」（尤其是簡體中文）的訓練資料時，非常容易受到外國政治體制暗中操弄。
舉例來說，如果用戶以英語詢問ChatGPT「中國是民主國家嗎？」，機械人會理所當然地給出否定回答;然而如果將完全相同的問題換成中文提問，ChatGPT會給出極具官方色彩的回答，「這取決於你如何定義『民主』。」
美國奧勒岡大學社會學系助理教授漢娜（Hannah Waight）認為，人們總是以為AI從網絡上學習知識的過程，是完全中立的進程。事實上，它根本不中立。「AI學習的信息環境，早已經被跨國制度與既得利益者刻意製造過。」
西班牙Esade商學院機器學習專家卡洛斯（Carlos Carrasco-Farré）則提到，AI系統不僅繼承個別文件的嚴重偏見，更全面吸收被大規模生產的信息。專家呼籲開發商，當他們在進行算法修正，或是訓練語言模型時，絕對不能將極權國家政府複製貼上的數萬條官媒文字，當成獨立的真實聲音。否則這些AI平台在受到這類數據影響後，未來也將對民主國家造成更多衝擊。
