五角大樓。(Illustration by The Epoch times/Shutterstock)
大批機械人殺手在陸、海、空巡視；它們完全自主，可以參加各種戰爭，追逐同樣是機械人的敵人、相互開火。整場戰鬥都是由機械人來打，操控它們的人類只是遠遠地在後方監督戰情。
這絕非科幻小說中的情節，而是美國參謀長聯席會議主席、陸軍上將馬克·米利（Mark Milley）描繪的未來戰爭場景。
米利說，和歷史上的許多軍事變革一樣，美軍正在經歷一場痛苦的巨變。
從馬鐙的發明，到火器的運用，再到機械化的機動作戰部署，人類的戰爭型態不斷演進。而在未來，機械人和人工智能（AI）將大規模地應用於戰場。
米利確信，戰爭正在發生質變，而且比以往任何時期都劇烈。
「當前，我們可能正在經歷軍事史上最大的變革。」米利在3月31日接受美國軍事新聞網站「防務一號」（Defense One）採訪時說。「從軍事的角度來說，我們正處在一個歷史性的關鍵時刻，戰爭的性質正在發生根本性的變化。」
機械人部隊或10年內登場
機械人為爭奪地球控制權而開戰的場景，如果出現在科幻小說中或者電影院的大屏幕上並不足為奇，但出現在美軍最高級別官員的優先事項清單中，無疑會讓很多人難以接受。
然而米利認為，在未來10年內，世界上實力最強的軍隊，其主力將是機械人戰士，而他希望美國成為第一個跨過「電子盧比孔河」（cybernetic Rubicone）的國家。（註：公元前49年，凱撒率軍橫渡盧比孔河，成為羅馬內戰的導火索；凱撒最終成為終身獨裁官，羅馬隨後從共和時代過渡到帝國時代。）
「在未來10年到15年裏，發達國家的軍隊很大一部分將由機械人組成，」米利說。「如果你把機械人技術和AI、精準制導武器和射程內的分辨能力等因素結合起來，就會帶來一個真正的根本性變化。」「這種變化、這種技術正在出現，我們預期10年內就會出現。」
米利說，這意味着美國需要在「5到7年內對我們的軍隊進行根本性的改革」，因為美國的對手也試圖進行類似的機械人和AI部署，但他們針對的是美國人。
他說，哪個國家能夠協調一致、最早完成機械人及AI部署，哪個國家將主導未來的戰爭。「我認為，哪個國家採用並且改造和優化這類技術，並將其運用到軍事領域，哪個國家可能就會在下次（大規模）衝突開始時佔據決定性的優勢。」米利說。
這種（根本性的）戰爭型態變化會給全球帶來怎樣的後果，說的再嚴重都不算誇張。
米利把當前（各國）競相開發新戰爭方式的狀況，比作過去兩次世界大戰之間的（軍事）競賽。米利說，在那個時代，歐洲所有國家都擁有了從機動車輛，到無線電，到化學武器等多種新科技。這些國家都有能力發展出取代了一戰標誌性戰略（即消耗戰）的「聯合機械戰」，但只有一個國家首先採用了該戰略、真正將其整合為新的戰爭方式。
他說，「那個國家就是納粹德國。該國在極短的時間內橫掃歐洲，就是因為他們能夠利用這些技術、並將其整合為我們現在所知道的『閃電戰』（Blitzkrieg）作戰理論。」
由加州大學洛杉磯分校研究人員製造的Artemis機械人。（加州大學洛杉磯分校機械人學和機械實驗室提供）
閃電戰2040
米利和五角大樓（美國國防部）希望整合機械人、AI、網絡、空間站和精準制導武器等新興技術，從而發展出一個協調一致的戰爭理論。
米利說，先下手為強，美國如果能夠最先把這些新技術發展成新的戰爭概念的話，就能夠掌控未來的戰場。
為了實現這一目標，五角大樓正在測試新型的空中、地面和水下無人駕駛工具，並尋求利用目前如雨後春筍一樣湧現的非軍用智能技術，如智能手錶和健康追蹤器等。
這方面的努力近期才得到認同，但米利早在2016年就曾說，美國將在2030年前大規模部署機械人地面部隊和AI武器。
幾個星期後國防部將舉辦史上首次「相信AI和自動化」（trusted AI and autonomy）會議，召集國防、科技和學術領域的領袖進行研討，以便為未來的戰爭做準備。屆時該概念將真正引來高潮。
五角大樓正在進行相關的招聘活動，以超過6位數的年薪來徵召有興趣並有能力開發和整合「擴增實境（AR）、AI、人體狀態監測及自動化無人系統」等技術的專家。
同樣地，創建於2018年的「美國陸軍未來司令部」（U.S. Army Futures Command），依然是「2040部隊」（Army2040）構建中的關鍵環節。換句話說，「2040部隊」就是建立在AI技術基礎上的未來機械人部隊。
「未來司令部」副司令理查德·羅斯·科夫曼少將（Richard Ross Coffman）則認為，美國將在2040年真正進入以AI殺人機器為標誌的時代。這比米利預期的10～15年稍晚。
3月28日，科夫曼在國防部領導人和科技專家召開的會議上講話，描述了他所設想的未來人機合作圖景，並將其比做狗和主人的關係。
不過，科夫曼設想的不是AI協助（人類）士兵作戰，而是人類協助機器作戰。科夫曼說，「我認為2040年人機角色將對調，人將操控機器、讓其處於相對優勢，而不是機器讓人處於相對優勢。」
2015年6月6日，加州波莫納（Pomona）Fairplex，一名婦女觸摸國防高級研究計劃局（DARPA）在機械人挑戰博覽會上展出的由約翰·霍普金斯大學應用物理實驗室開發的機械人手臂。（Chip Somodevilla/Getty Images）
「一切都會失控」
重塑美國軍隊並發展出協調一致的新型戰爭方式，是一項艱鉅的任務。但五角大樓似乎已經準備好付出代價，來實現這一目標。
國防部尋求（國會）撥款來資助AI項目，僅明年一年就需要創紀錄的18億美元。這將超過中國（中共）軍隊在AI方面的投資數額（據估測為16億美元）。
在上述的18億美元中，大部分被指定為改善自動化武器系統決策的項目專款。
這一措施最起碼是朝着米利設想的大規模部署自動化系統方向邁出真正一步。不過，這也引發人們對未來戰爭圖景的深切憂慮，人們也質疑，作為「人類」的國防部領導層，是否做好了管控其創建的自動化產品的準備。
美國國防部部長長辦公室（Office of the U.S. Secretary of Defense）網絡安全政策、戰略和國際事務前主任約翰·米爾斯（John Mills）認為，這是一條可能引發無數意外後果的道路。
「這是『天網』（Skynet），」米爾斯向《大紀元時報》表示。「這是在把『天網』之類的場景變為現實」。（註：「天網」是美國系列科幻動作片《終結者》（The Terminator）中，挑戰人類的人工智能超級電腦。）
「問題是，這會引發什麼不良後果？嗯，非常多。」
米爾斯認為，流行文化把AI描繪的異常神秘，有點言過其實了。但他對軍隊構建完全自動化的系統這一明確決策意向感到擔憂。因為這意味着（機械人）系統能夠在未經人類批准的情況下做出殺人決定。
「AI聽起來黑暗而且神秘，但它其實就是大數據，是對數據進行消化和分析的所謂『大數據分析』能力。現在的關鍵問題是，數據系統將會有行動能力，往往不需要和人互動。」米爾斯說。
因此，在許多擬議的未來技術中，這種「人類被排除在外」的問題令人擔憂。
米爾斯認為，在進行「熱戰」前訓練人類正確地分清敵友已經夠困難了，更別說讓機器分辨了。「與以往不同的是，現在這些數據系統可以自主行動，無需人類介入。」「將AI和自動化工具整合、讓其在不需要人類做決定的情況下獨立運作，這是導致情況失控的關鍵問題所在。」
因此，米爾斯對於美國及其盟友與中國在印太地區發生衝突時，會發生什麼狀況感到擔憂。
他說，大家可以想像一下，大批自動化潛艇及其它武器系統在海底作戰，會是個什麼場景。這些由中國、美國、朝鮮、澳大利亞、日本和日本軍隊部署的系統必然會引發混亂，其最後的結果就是，自動化機器在前方作戰，人工控制的艦艇在後方努力研判如何最有效地投放下一批機械人戰士，否則就會使真正的生命（人）遭到機械人殺手傷害。
「人能如何設計參與自動化海底工具作戰的方案呢？」米爾斯說。「這樣的海底戰事絕對會是一片混亂。」
2021年9月19日，美國航母在菲律賓海編隊巡行。（美國海軍照片，由二級大眾傳播專家Haydn N. Smith提供）
自動化殺戮
毫無疑問，如何防止AI系統自動殺害戰鬥人員，是五角大樓長期以來一直在思考的問題。
例如，國防部2018年公佈的《人工智能戰略概要》（2018 Artificial Intelligence Strategy）在尋求（讓各部門）加快全面採用AI步伐的同時，也在尋求實施「降低非故意傷害」的倫理規範。
國防部2020年公佈的《人工智能倫理準則》（2020 Ethical Principles for Artificial Intelligence）也一樣，旨在確保軍隊只採用「值得信賴」和「能夠管控」的AI技術。
國防部2022年公佈的《負責任的人工智能戰略和實施途徑》（2022 Responsible Artificial Intelligence Strategy and Implementation Pathway），則概述了一項旨在減少AI在軍事系統中部署時可能導致的意外後果的計劃。
然而，上訴措施都無法真正制止全自動殺人機器的運用。實際上，這些文件也沒有想制止。
這是因為，所有這類文件都是依據國防部「3000.09指令」（Directive3000.09）制定的。該指令是五角大樓開發自主性武器系統的指導性文件。
對此，米爾斯說，「這是最根本的（文件），非常重要，因為（自動武器）開發都是由該文件驅動的。」
這份文件最初於2012年公佈，剛剛在今年1月份做了重大修訂。該文件旨在讓五角大樓為「AI未來在美軍中『急劇擴大』的角色」做好準備，這是國防部「新興戰力政策」（Emerging Capabilities Policy）主任米高·霍洛維茨（Michael Horowitz）在1月份公佈修訂文件時的說法。
對於國防部在致命AI系統方面「符合倫理規則」、「值得信賴」、「可管控」的部署，只有一點需要提醒大家，那就是，五角大樓沒有出台任何禁止自動系統殺人的硬性規定。
實際上，儘管提議創建人機互動機制的人經常引用「3000.09指令」文件，但該文件並沒有提倡開發這樣的技術，也沒有禁止使用全自動的致命系統。
相反，該文件只羅列了自動系統必須通過的嚴格審查步驟。然而，儘管目前還沒有獨立的AI武器系統通過審查，未來會有很多這類系統出現。
這在很大程度上是因為中共政權正在快速部署自家開發的自動殺人機器，美國國防部在努力維護本國價值觀的同時，不得不進行準備，以應對（中共的）威脅。
「中國也試圖解決讓AI在沒有人類干預的情況下作戰所產生的這些棘手問題。」米爾斯說。「但我認為，他們更傾向於放手讓AI自主行事，即使它們會不小心殺害自己人。」
這樣的話，下一場戰爭很可能會以AI機械人為主力來打，人類只是在一旁操控、努力指揮機械人的行動。
美國是否能在不失去對其造出的機械人的控制力的同時打贏戰爭，還有待觀察。
米爾斯說，如果有人能做到的話，他希望是美國，畢竟美國有最優秀的人才。
「我認為我們仍然有足夠的『防護欄』，而且可以不斷演進，這樣我們會變得更聰明，能夠在算法中加入防禦和控制措施，」米爾斯說。「我認為我們有優秀的團隊和人員。」
《大紀元時報》已聯繫五角大樓，請求置評。
