人工智慧力量悖論

如今，生成的人工智慧系統已經可以比大多數人寫得更清晰、更有說服力，並且可以基於簡單的語言提示生成原始圖像、藝術，甚至計算機代碼（下圖 MBN/eric）。而生成人工智慧只是冰山一角。它的到來標誌著一個大爆炸時刻，一場改變世界的技術革命的開始，這場革命將重塑政治、經濟和社會。預計到2035年時，人工智慧將無處不在 -- 管理醫院、運營航空公司、並在法庭上唇槍舌劍。人工智慧為人類社會帶來了新產品、新治療方法和無以倫比的創新。然而，人工智慧也讓白領工人集體失業，讓恐怖分子以智能的、不斷發展的網路武器威脅社會。

就像過去的技術浪潮一樣，人工智慧將為世界和人類帶來非凡的增長和機遇，但也會伴之以巨大的破壞和風險（下圖 NIXUS）。與之前技術革命不同的是，人工智慧將引發全球力量結構和平衡的重大轉變，因為人工智慧的創造者本身就是地緣政治參與者。科技公司在其領域行使著曾經留給民族國家的權力。人工智慧加速了大型科技公司在其創建的數字領域實際上已經成為獨立的主權行為者這一趨勢，並將其擴展到數字世界之外。技術的複雜性和發展速度使政府不可能以合理的速度制定相關規則加以監管。故即使七國集團啟動了「廣島人工智慧進程」、歐洲議會通過了歐盟人工智慧法案草案，聯合國秘書長古特雷斯（Antonio Guterres）呼籲建立一個全球人工智慧監管機構，美國兩黨政客均呼籲採取監管行動，但許多人依然同意德州參議員克魯茲(Ted Cruz)的觀點 -- 當討論人工智慧立法時，國會都「不知道自己在做什麼」。

人工智慧治理的關鍵在於：是利用人工智慧來擴大國家力量，還是消除國家力量。如果要全球治理人工智慧，就必須超越傳統的國家主權概念，這就要求國際社會重新思考地緣政治秩序。

更快、更高、更強

人工智慧的進展速度驚人。2018年，當OpenAI推出其大型語言模型GPT-1時，它有1.17億個參數。五年後的第四代型號GPT-4已經超過了一萬億。今天最先進的人工智慧模型，其使用的計算能力是十年前尖端模型的50億倍。未來幾年將推出能夠處理數萬億參數的模型。預計具有超過100萬億參數的「大腦規模」模型 --  大致相當於人腦中突觸的數量 -- 將在五年內可行。

如今，對原始文本的訓練使大型語言模型能夠產生連貫、新穎甚至富有創意的句子，創作音樂或解決科學問題。很快，人工智慧開發人員將創建出具有自我改進能力的人工智慧系統（下圖3 Medium）。是不是有點兒恐怖/瘋狂？

在OpenAI發布GPT-3三年後，開源團隊已經創建了具有相同性能水平的模型。這些新模型的大小不到GPT-3原型的六十分之一，也就是說，在生產中運行成本比GPT-3低60倍。中端版本的人工智慧演演算法可以在每小時幾美元租金的計算機上運行，很快也將在智能手機上運行。但人工智慧演演算法比實物資產更易複製和共享（或竊取）。如Meta強大的Llama-1大型語言模型在3月份首次亮相後幾天就泄露到了網際網路上。

人工智慧的通用性意味著它可以「兩用」 -- 既可軍事應用，也可用於民生（下圖 HILAL/RAI）。驅動汽車的系統也可以驅動坦克，為診斷疾病而構建的人工智慧應用程序可創建一個新的應用程序，並將其武器化。安全民用和軍事破壞性之間的界限的模糊，一定程度上解釋了為什麼美國限制向中國大陸、俄羅斯、伊朗等國家出口最先進的半導體。因為對手/敵國可利用人工智慧來產生和傳播有毒的錯誤信息，侵蝕社會信任和民主；監視、操縱和壓制公民，破壞個人和集體自由；或者製造威脅人類生命。人工智慧還可能摧毀數百萬個工作崗位，加劇現有的不平等，並創造新的不平等；通過放大不良信息反饋迴路，強化歧視模式並扭曲決策；或者引發意外和無法控制的軍事升級，從而導致戰爭。

與此同時，由於其備漸進式優化特點，人工智慧系統正變得更大、更好、更便宜、更普遍，同時更具風險。這時，如何監管人工智慧系統將是人類社會的一個巨大挑戰。

一個無法暫停的系統

人工智慧是一種全新的力量投射方式 -- 在某些情況下，它既可顛覆現有的權威，亦可幫助鞏固政權。人工智慧賦予用戶監視、欺騙甚至控制公民的權力。人工智慧將成為國家之間激烈地緣政治競爭的焦點，因為人工智慧霸權有助於增強一國的壓制能力、經濟潛力或/和軍事優勢。即使對人工智慧最缺乏想象力的國家都知道要投資本土人工智慧領先企業，或建造和控制超級計算機及演演算法。而那些對人工智慧很有想法的國家，則傾力培養本國的特定競爭優勢，以獲得人工智慧的話語權 -- 法國直接支持人工智慧初創公司；英國利用其世界級大學和風險投資生態系統；歐盟則建立關於監管和規範的全球對話。就是世界上每個國家、公司和個人這種對擁有人工智慧的饑渴，激勵人工智慧不斷演進並勢不可擋（下圖 Bloomberg）。

的確，世界各國都理解人工智慧不僅僅是另一種可以帶來聲望、權力或財富的工具或武器，它亦極有可能幫助擁有者在軍事和經濟上獲得顯著優勢。這使得絕大多數國家對它望眼欲穿，卻可望不可及 -- 這些國家既無資金也沒有技術加入人工智慧的競爭。即便如此，人工智慧霸權的競爭依然非常激烈。因為兩個最重要的人工智慧競爭參與國 -- 中國大陸和美國 -- 都將人工智慧的發展視為一場零和遊戲，勝者將在未來幾十年擁有決定性的戰略優勢（下圖 SCMP）。據認為美中間的競爭甚至比冷戰時更加嚴峻。因為那時美蘇兩國會合作來減輕彼此的恐懼，確保兩國間軍備競賽穩定平衡。而如今緊張的地緣政治環境使美中間的合作極端困難，如果不是不可能的話。

站在華盛頓和北京的立場，如果對方在人工智慧領域獲得優勢將給己方帶來巨大威脅，這種威脅遠遠超過發展人工智慧可能給本國社會或政治權威帶來的任何風險。因此，美國和中國大陸政府都在投入巨大資源開發人工智慧，同時努力剝奪對方希翼突破現有人工智慧技術所需的資源。（迄止目前，美國因其先進半導體的出口管制政策，成功地阻止了中國大陸獲得技術突破所需資源 -- 先進半導體晶元。）而這種零和動態促使北京和華盛頓更加專註於加快人工智慧發展，而不是放慢發展速度。對兩國來說， 「暫停」本國的開發人工智慧以便評估其風險，簡直就是愚蠢的單方面裁軍。

人工智慧監管的挑戰

就監管來說，由於中國大陸科技公司處於嚴格的政府管制之下，大陸政府對人工智慧有著相當的控制力。然而在中國大陸以外，如美國，現在控制人工智慧技術的方方面面的是少數大型專業人工智慧公司，而非政府：包括人工智慧模型可以做什麼，誰可以訪問人工智慧，如何使用人工智慧，以及人工智慧可以部署在哪裡。這些公司精心地保護自己的算力和演演算法，並儘力保持其擁有的優勢。不過，由於人工智慧的進入門檻低，開源，以及極其低廉的邊際成本，一些規模較小的公司也有機會超越現在的頭部公司，從而可使人工智慧以不受控制的擴散。簡言之，政府無法控制人工智慧。

這就意味著，至少在未來幾年，人工智慧的發展軌跡將在很大程度上由少數私營企業決定，而非布魯塞爾（歐盟）或華盛頓（美國）的政策制定者（下圖 Medium）。換句話說，人工智慧技術大佬，而不是政策制定者或官僚，將對一支可能深刻改變民族國家權力及其相互關係的力量行使權力。因此，如何監管人工智慧對於政府來說，將極具挑戰性。

如前所述，由於人工智慧系統不僅比核武器更容易開發、竊取和複製，它們還由私人公司而不是政府控制。因而，隨著新一代人工智慧模型的傳播速度比以往任何時候都快，包括拜登政府在內的各國政府無法阻止這些模型的擴散。但一場不受控制的人工智慧競賽可能加劇先進人工智慧系統的擴散，進而危及民族國家權威和世界安全。因為人工智慧系統可能落入刑事犯罪份子或團體/恐怖份子或團體以及失敗國家手中，並對個人/企業/國家的金融、商業、安全造成傷害（下圖 masaar）。

因此，世界需要一種方法來監管人工智慧。鑒於美國和中國大陸在世界人工智慧領域研發的舉足輕重地位，華盛頓和北京需要合作來建立起監管系統，防止危險的先進人工智慧系統的擴散。即便美國和中國大陸之間的地緣政治競爭加劇、緊張關係，華盛頓和北京可能會發現合作有好處 -- 將從根源上減少，乃至消除人工智慧系統的擴散。畢竟，先進的人工智慧系統及創新基本源於美中兩國，

華盛頓和北京應致力於創造共同領域，建立防止人工智慧系統擴散的護欄，由兩國甚至第三方監管（下圖 Analytics Insight）。監管包括對人工智慧輸入的監測和驗證，特別是與計算硬體相關輸入，如先進半導體和數據中心輸入的監測和驗證。以確保人工智慧系統不落入恐怖分子/團體和失敗國家手中。

一個強有力的人工智慧治理制度將減輕人工智慧帶來的社會風險，華盛頓和北京的合作還有可能緩解中美之間的緊張關係。美中合作治理人工智慧的成功，還將實現更深刻、更持久的目標：它將為如何應對其他顛覆性新興技術建立一個先例和模式 -- 量子計算、生物技術、納米技術和機器人技術也有可能從根本上重塑世界。美中合作成功治理人工智慧也將幫助世界成功治理這些影響人類社會的技術。

* 本文大部內容源自布雷默（Ian Bremmer）與蘇萊曼（Mustafa Suleyman）合著文章 -- 人工智慧力量悖論（The AI Power Paradox）。該文刊登在2023年8月的《外交事務》（FOREIGN AFFAIRS）雜誌。

* 本文共同作者之一布雷默（Ian Bremmer）是歐亞集團（Eurasia Group）和GZERO媒體的總裁兼創始人。他著有《危機的力量：三大威脅——以及我們的反應——將如何改變世界》（The Power of Crisis: How Three Threats—and Our Response—Will Change the World）一書。

* 本文另一共同作者蘇萊曼（Mustafa Suleyman）是Inflection AI的首席執行官兼聯合創始人。他是DeepMind的聯合創始人，著有《即將到來的浪潮：技術、力量和二十一世紀最偉大的困境》（The Coming Wave: Technology, Power, and the Twenty-first Century』s Greatest Dilemma）一書。

參考資料  

Bremmer, I. & Suleyman, M. (2023). The AI Power Paradox. FOREIGN AFFAIRS. 鏈接  https://www.foreignaffairs.com/world/artificial-intelligence-power-paradox

• [08/08]美中高科技戰
• [08/11]俄烏戰爭的啟示
• [08/15]美國的機會來了
• [08/18]美國的技術戰爭失利？
• [08/22]俄烏戰爭中武器的作用
• [08/25] 人工智慧力量悖論
• [08/29]烏克蘭：領土換北約入場券？
• [09/01]令拜登總統棘手的川普案
• [09/05]施密德看美中科技競爭
• [09/08]華為新手機發布的意義
• [09/12]哈佛大學教授恐失終身教職 `
• [09/15]2023年全球最佳10國
• [09/18]2023年全球最佳10國 (下)

• 查看：[國華B的.最新博文]
• 查看：[大家的.最新博文]
• 查看：[大家的.政經軍事]