【AI是工具、不是洪水猛獸】隨着AI教父辛頓等業界權威頻頻發出AI可能毀滅人類的警示，本周二，極左與極右的桑德斯與班農又在華盛頓異乎尋常地同台合流，疾呼對AI實施政府干預，輿論場上再次掀起一股恐慌浪潮。似乎在不久的將來，超級AI就會突然實現自我意識的覺醒，並像荷里活電影《終結者》裏的「天網」一樣，冷酷地從肉體上消滅人類、徹底摧毀文明。
然而，從歷史的角度和基本的工程常識來看，這些聳人聽聞的AI毀滅論，基本是把不可能發生的、或尚未發生的極端情景，人為製造成迫在眉睫的現實威脅。道理如下：
首先，不能把「計算能力」錯誤地等同於「生物慾望」。
許多末日論調的一個核心漏洞，是把人類自身的進化特徵強行投射到了矽基晶片上。人類之所以具有攻擊性、征服欲和爭奪權力的衝動，是因為數百萬年來殘酷的自然選擇，將這些生存策略深深刻進了我們的生物機制和神經系統。但AI不是生物。它是人類利用算法、數據和計算能力構建出來的人工系統。
一個模型無論參數規模多麼龐大、推演速度多麼驚人，都不會因此自動獲得飢餓、疼痛、繁殖衝動、死亡恐懼或領地意識。它可以被賦予目標，可以執行複雜任務，甚至表現出令人驚訝的自主規劃能力，但「追求目標」與生物意義上的「欲望」並不是一回事。
指望一個沒有生物進化史、沒有生理需求的計算系統，憑空演化出人類式的權力欲、支配慾、（性慾？）和統治世界的虛榮心，再進一步產生消滅人類的殺心，更多還是文學和電影提供給我們的想像，而不是已經被證明的工程事實。
其次，人類文明史本身就是一部技術恐慌史。
縱觀歷史，幾乎每一種具有顛覆性的關鍵技術誕生之初，都會伴隨着恐懼甚至末日敘事。從印刷術普及後對道德秩序和社會失控的擔憂，到19世紀鐵路出現後關於高速旅行會導致人體損傷甚至精神失常的種種警告，再到20世紀核技術、基因工程帶來的文明毀滅論——面對超出日常經驗的新技術，人類社會本能的防禦反應往往就是先想像最壞的結局。
我自己記憶猶新的是，二十年前轉基因技術問世之初，包括知名學者在內的輿論曾恐慌萬分，以為它會破壞生態、毀滅環境；我曾預測這種情況不會出現，相反，美國技術崇尚文化會擊敗歐洲國家主義干預，使轉基因技術主導世界糧食生產。我論文指導老師之一不同意，引發激烈爭論。後來的事實證明，轉基因技術最終成為抵禦糧食危機、滋養全球數十億人的中流砥柱。如今對AI的恐慌，不過是這一歷史宿命的再次重演。
但歷史同樣證明，技術從來不是在真空中狂奔。人類文明有着極其頑強的制度適應能力和工程糾錯能力。我們從來沒有消除蒸汽、高壓、電力或核裂變本身的危險，而是通過安全閥、物理隔離、冗餘設計、操作規範、法律監管以及國際核查等機制，把危險技術關進一個個受控的工程容器里。
AI也應該如此。
真正需要警惕的，不是AI覺醒，而是人禍。
否定「天網式」的末日預言，並不意味着盲目樂觀。任何顛覆性技術都是一把雙刃劍，AI當然也不例外。但AI真正現實而迫切的風險，很可能並不是它突然產生了什麼神秘的邪惡意識，而是邪惡之人把它變成了邪惡的代理人。
心懷叵測的個人、極端組織或政權，可以利用AI放大網絡攻擊、信息操縱、詐騙以及其他危險活動的能力。過去一個人能夠製造的破壞有限，AI卻可能讓一個人的能力被成倍放大。文明國家不要在AI發展初期就通過國家干預或自我限制把自己的手腳捆起來，讓流氓政權和邪惡之人率先掌握這一關鍵技術。
當然，人類可能因為盲目追求降本增效，把原本不可放棄的決策權和控制權過度交給機器，甚至為了效率而拆除最後一道物理或人工安全閥。真正危險的不是機器「想要」奪走控制權，而是人類主動把控制權交了出去。與此同時，對AI革命造成的失業要提前佈局，不能像全球化時，坐視勞動民眾陷於困境。
而且，AI系統本身也可能出現我們沒有預料到的錯誤、偏差和失控行為。複雜系統最可怕的地方，從來不是它懷有惡意，而是它可能在錯誤的目標、錯誤的數據或者錯誤的約束下，以驚人的效率把錯誤放大。
所以，我們真正需要的不是把AI當成洪水猛獸，更不是因為恐懼而試圖阻止AI革命，而是與技術俱進，找到建立與合適的安全邊界和責任機制。
汽車會撞死人，我們沒有因此禁止汽車；飛機會墜毀，我們沒有因此禁止航空；核能可能製造災難，我們也沒有因此讓人類退回到煤油燈時代。我們做的是不斷提高技術的安全性，同時明確誰應該負責、哪些事情必須由人控制、哪些紅線絕不能越過。
AI也一樣。
真正值得恐懼的，從來不是工具越來越聰明，而是人類越來越不負責任，邪惡之人越來越邪惡。
AI革命勢不可擋，而歷史上所有的野蠻政權與極端勢力，從來不會真正遵守所謂的技術自律條約。與其因恐懼而畫地為牢、自我捆綁，文明世界不如以絕對的技術超越，牢牢掌握戰略主導權。
AI是工具，不是洪水猛獸。真正決定它將把人類帶向哪裏的人，始終是我們自己。
