人工智慧在戰爭中的威力

曾經人們談虎色變。隨著科技發展，特別是中國大陸在AI的迅猛進步，如今人類則言必談人工智慧，尤其是當人工智慧可直接用于軍事目的的時候。彷彿無所不能的AI的確太重要了 - 人工智慧有可能通過提高態勢感知、精確瞄準和快速決策來增強軍事能力（下圖 Medium）。在國防和安全領域，人工智慧可能會改變威懾和脅迫的做法，對國家之間的權力、感知和說服計算至少有三種互補作用。

人工智慧將改變威懾和脅迫等式。威懾的核心是通過威脅將實施懲罰或報復行動來影響對手的行為。威懾的目的是要讓對手對可能付出的代價產生恐懼，使對手放棄特定行動。威懾旨在阻止對手在未來採取特定行動，而脅迫則旨在迫使對手改變目前的行為。

無論是威懾或脅迫，參與這一動態的行為者都必須向對手傳達威脅，讓對手重新考慮採取具體行動的意願。脅迫演算中的每一個動作和反動作都會帶來重大的升級風險，可能引發意想不到的後果。因此，決策者必須明智地考慮每一步，利用歷史、心理和背景來傳達可信的威脅，勸阻對手不要越過紅線。

脅迫的基本要素包括：能力、感知和說服（下圖 The Law Studies）。能力包括幾個方面：脅迫行為者（國家）的軍事能力、經濟財富、技術進步、外交關係、自然資源和文化影響力都在其中。不僅要擁有看得見摸得著的硬實力，讓對手知曉自己擁有的能力也至關重要。此外，能力還讓我們了解對手/敵國的看法，包括他們的恐懼、意識形態、動機和行為動機，以及脅迫行為者（國家）使用何種方法手段來說服對手/敵國以得到他們想要的結果。然而，脅迫行為者驅動合作、競爭和衝突的動態能力可能會變得越來越不穩定，因為人工智慧在解釋行為者的防禦或進攻企圖時給決策者提供的參考不明確。例如，如果一個脅迫行為者已經認定對方是敵意對抗的，那麼人工智慧提供的參考很可能會加深這樣的偏見誤解，即視競爭對手的軍事態勢越來越來越具攻擊性，而非防禦性質。偏見的加深意味著，外交在緩和緊張局勢中發揮作用將變得更有限，更具挑戰性。

隨著AI越來越多地融入到有能力造成巨大傷害的軍事能力中，人工智慧固有的不可解釋性，面臨重大挑戰。由於人工智慧在解釋行為者的防禦或進攻企圖時往往模稜兩可，決策者將不得不依靠自己的理解去推測對手是進攻還是防守。例如，如果人工智慧情報、監視和偵察（IRS）套件分析中共在南海的軍事演習后，認為那是襲擊台灣的前奏，並建議美國部署航母群來阻止共軍的行動。由於人工智慧ISR套件處理的數據已遠超人類，美國決策者很可能採納其部署航母群的建議的。而這時北京方面無法確定美國部署航母群的真實意圖（下圖 BREAKING DEFENSE），是對其軍事演習的回應，還是出於其他（準備真槍實彈地大打出手）目的。這給美國的戰略動機增加了更多的迷霧。這種你來我往的猜疑與誤解，會使雙方的敵視螺旋上升，直至發生直接衝突。

另一個令人十分擔憂的是，人工智慧會否誇大對手的敵人形像，促使人們對形勢做最壞的評估，從而證明給對手施以懲罰或使用暴力是合理的。這並非危言聳聽，而是有實例的支持 -- 有偏見的數據使得特定族裔群體成為警務執法過度的對像。在軍事領域，源自數據收集、訓練和應用的演算法偏見則會產生致命的後果。人類可能會設計塑造人工智慧，但這項新技術反過來會決定人類未來的決策方向。

人們對同一事物的看法存在偏差。包括人工智慧在內的任何技術修復都無法克服人類內心深處的這種偏見。無論提供人工智慧的多失量數據集有多複雜，它都不能將對手簡化為數據，因為數據無法重現任何與情感氛圍有關的獨特感覺。因此，人工智慧有可能通過提高態勢感知、精確瞄準和快速決策來增強軍事能力，但它無法消除各國對彼此安全的不確定感（下圖 IOL）。充其量，政治、國防軍事中越來越多地採用人工智慧可能有助於決策者對同一事物的看法大致相同。

隨著各國相信人工智慧可以加強其在國際體系中的地位而競相引入，世界有可能將更加動蕩不安 – 由於每個國家都無法真正了解競爭對手的意圖，因而都在做最壞的準備，這就增加了誤判及發生衝突的機會。之所以如此，是因為現有的人工智慧演算法，不具備測量坦克、導彈或潛艇等物理武器平台的能力，這增加了威懾的不確定性。

第三，隨著人工智慧的採用，說服藝術也可能變得更加複雜（下圖 THE DEBRIEF/TC）。人工智慧可誘導人類購買產品、觀看特定視頻，對一些事物產生共鳴。隨著人工智慧系統在包括高度機密和敏感的環境中變得更加個性化、無處不在和簡單易懂，決策者的偏見可能會影響他們眼中的現實和擬定相應的行動步驟。文職和軍事領導人總相信自己掌控著信息環境。其實，人工智慧完全可以改變他們的體驗 -- 因為對手錯誤信息和虛假宣傳的誤導。因此，我們人工智慧驅動的說服誘導工具也會影響我們自己對信息環境的認知體驗，以及我們如何訓練和應對脅迫。

人工智慧在軍事領域的日益普及對威懾實踐構成了重大挑戰。由於人工智慧缺乏可解釋性，決策者很難準確解讀對方的意圖，從而增加了誤解和升級的風險。採用人工智慧初期階段，它可能會強化敵我之間的偏見和敵意，助長相互不信任，並可能引發衝突。雖然人工智慧廣泛增強了一國的軍事能力，但它無法消除加劇國家間的根本不安全因素。隨著各國爭相奪取人工智慧驅動的戰略優勢，國與國關係的波動性和彼此競爭/對抗升級的風險在增加。最終，隨著人工智慧在我們的戰爭機器中日益普遍，對彼此意圖的不確定性和恐懼可能釀成悲劇，因而凸顯了謹慎決策的必要性。

參考資料

Motwani, N. (2024). How AI Will Impact Deterrence. THE NATIONAL INTEREST. 鏈接 https://nationalinterest.org/blog/techland/how-ai-will-impact-deterrence-211155 

• [08/06]美國孤掌難鳴
• [08/09]美國想從中國得到什麼？
• [08/13]中國與美國：地緣政治奧運會
• [08/16]戰爭，美軍還未準備好
• [08/20]北京與俄烏戰爭
• [08/23] 人工智慧在戰爭中的威力
• [08/27]人工智慧：美國、中國大陸和它國
• [08/30]中美AI差距正縮小
• [09/03]MIT2024平權行動報告
• [09/06]中國實體經濟危機
• [09/10]《When you come into my life》
• [09/11]《When you come into my life》
• [09/13]搖搖欲墜的美國實力基礎

• 查看：[國華B的.最新博文]
• 查看：[大家的.最新博文]
• 查看：[大家的.政經軍事]