人工智能力量悖论

如今，生成的人工智能系统已经可以比大多数人写得更清晰、更有说服力，并且可以基于简单的语言提示生成原始图像、艺术，甚至计算机代码（下图 MBN/eric）。而生成人工智能只是冰山一角。它的到来标志着一个大爆炸时刻，一场改变世界的技术革命的开始，这场革命将重塑政治、经济和社会。预计到2035年时，人工智能将无处不在 -- 管理医院、运营航空公司、并在法庭上唇枪舌剑。人工智能为人类社会带来了新产品、新治疗方法和无以伦比的创新。然而，人工智能也让白领工人集体失业，让恐怖分子以智能的、不断发展的网络武器威胁社会。

就像过去的技术浪潮一样，人工智能将为世界和人类带来非凡的增长和机遇，但也会伴之以巨大的破坏和风险（下图 NIXUS）。与之前技术革命不同的是，人工智能将引发全球力量结构和平衡的重大转变，因为人工智能的创造者本身就是地缘政治参与者。科技公司在其领域行使着曾经留给民族国家的权力。人工智能加速了大型科技公司在其创建的数字领域实际上已经成为独立的主权行为者这一趋势，并将其扩展到数字世界之外。技术的复杂性和发展速度使政府不可能以合理的速度制定相关规则加以监管。故即使七国集团启动了“广岛人工智能进程”、欧洲议会通过了欧盟人工智能法案草案，联合国秘书长古特雷斯（Antonio Guterres）呼吁建立一个全球人工智能监管机构，美国两党政客均呼吁采取监管行动，但许多人依然同意德州参议员克鲁兹(Ted Cruz)的观点 -- 当讨论人工智能立法时，国会都“不知道自己在做什么”。

人工智能治理的关键在于：是利用人工智能来扩大国家力量，还是消除国家力量。如果要全球治理人工智能，就必须超越传统的国家主权概念，这就要求国际社会重新思考地缘政治秩序。

更快、更高、更强

人工智能的进展速度惊人。2018年，当OpenAI推出其大型语言模型GPT-1时，它有1.17亿个参数。五年后的第四代型号GPT-4已经超过了一万亿。今天最先进的人工智能模型，其使用的计算能力是十年前尖端模型的50亿倍。未来几年将推出能够处理数万亿参数的模型。预计具有超过100万亿参数的“大脑规模”模型 --  大致相当于人脑中突触的数量 -- 将在五年内可行。

如今，对原始文本的训练使大型语言模型能够产生连贯、新颖甚至富有创意的句子，创作音乐或解决科学问题。很快，人工智能开发人员将创建出具有自我改进能力的人工智能系统（下图3 Medium）。是不是有点儿恐怖/疯狂？

在OpenAI发布GPT-3三年后，开源团队已经创建了具有相同性能水平的模型。这些新模型的大小不到GPT-3原型的六十分之一，也就是说，在生产中运行成本比GPT-3低60倍。中端版本的人工智能算法可以在每小时几美元租金的计算机上运行，很快也将在智能手机上运行。但人工智能算法比实物资产更易复制和共享（或窃取）。如Meta强大的Llama-1大型语言模型在3月份首次亮相后几天就泄露到了互联网上。

人工智能的通用性意味着它可以“两用” -- 既可军事应用，也可用于民生（下图 HILAL/RAI）。驱动汽车的系统也可以驱动坦克，为诊断疾病而构建的人工智能应用程序可创建一个新的应用程序，并将其武器化。安全民用和军事破坏性之间的界限的模糊，一定程度上解释了为什么美国限制向中国大陆、俄罗斯、伊朗等国家出口最先进的半导体。因为对手/敌国可利用人工智能来产生和传播有毒的错误信息，侵蚀社会信任和民主；监视、操纵和压制公民，破坏个人和集体自由；或者制造威胁人类生命。人工智能还可能摧毁数百万个工作岗位，加剧现有的不平等，并创造新的不平等；通过放大不良信息反馈回路，强化歧视模式并扭曲决策；或者引发意外和无法控制的军事升级，从而导致战争。

与此同时，由于其备渐进式优化特点，人工智能系统正变得更大、更好、更便宜、更普遍，同时更具风险。这时，如何监管人工智能系统将是人类社会的一个巨大挑战。

一个无法暂停的系统

人工智能是一种全新的力量投射方式 -- 在某些情况下，它既可颠覆现有的权威，亦可帮助巩固政权。人工智能赋予用户监视、欺骗甚至控制公民的权力。人工智能将成为国家之间激烈地缘政治竞争的焦点，因为人工智能霸权有助于增强一国的压制能力、经济潜力或/和军事优势。即使对人工智能最缺乏想象力的国家都知道要投资本土人工智能领先企业，或建造和控制超级计算机及算法。而那些对人工智能很有想法的国家，则倾力培养本国的特定竞争优势，以获得人工智能的话语权 -- 法国直接支持人工智能初创公司；英国利用其世界级大学和风险投资生态系统；欧盟则建立关于监管和规范的全球对话。就是世界上每个国家、公司和个人这种对拥有人工智能的饥渴，激励人工智能不断演进并势不可挡（下图 Bloomberg）。

的确，世界各国都理解人工智能不仅仅是另一种可以带来声望、权力或财富的工具或武器，它亦极有可能帮助拥有者在军事和经济上获得显著优势。这使得绝大多数国家对它望眼欲穿，却可望不可及 -- 这些国家既无资金也没有技术加入人工智能的竞争。即便如此，人工智能霸权的竞争依然非常激烈。因为两个最重要的人工智能竞争参与国 -- 中国大陆和美国 -- 都将人工智能的发展视为一场零和游戏，胜者将在未来几十年拥有决定性的战略优势（下图 SCMP）。据认为美中间的竞争甚至比冷战时更加严峻。因为那时美苏两国会合作来减轻彼此的恐惧，确保两国间军备竞赛稳定平衡。而如今紧张的地缘政治环境使美中间的合作极端困难，如果不是不可能的话。

站在华盛顿和北京的立场，如果对方在人工智能领域获得优势将给己方带来巨大威胁，这种威胁远远超过发展人工智能可能给本国社会或政治权威带来的任何风险。因此，美国和中国大陆政府都在投入巨大资源开发人工智能，同时努力剥夺对方希翼突破现有人工智能技术所需的资源。（迄止目前，美国因其先进半导体的出口管制政策，成功地阻止了中国大陆获得技术突破所需资源 -- 先进半导体芯片。）而这种零和动态促使北京和华盛顿更加专注于加快人工智能发展，而不是放慢发展速度。对两国来说， “暂停”本国的开发人工智能以便评估其风险，简直就是愚蠢的单方面裁军。

人工智能监管的挑战

就监管来说，由于中国大陆科技公司处于严格的政府管制之下，大陆政府对人工智能有着相当的控制力。然而在中国大陆以外，如美国，现在控制人工智能技术的方方面面的是少数大型专业人工智能公司，而非政府：包括人工智能模型可以做什么，谁可以访问人工智能，如何使用人工智能，以及人工智能可以部署在哪里。这些公司精心地保护自己的算力和算法，并尽力保持其拥有的优势。不过，由于人工智能的进入门槛低，开源，以及极其低廉的边际成本，一些规模较小的公司也有机会超越现在的头部公司，从而可使人工智能以不受控制的扩散。简言之，政府无法控制人工智能。

这就意味着，至少在未来几年，人工智能的发展轨迹将在很大程度上由少数私营企业决定，而非布鲁塞尔（欧盟）或华盛顿（美国）的政策制定者（下图 Medium）。换句话说，人工智能技术大佬，而不是政策制定者或官僚，将对一支可能深刻改变民族国家权力及其相互关系的力量行使权力。因此，如何监管人工智能对于政府来说，将极具挑战性。

如前所述，由于人工智能系统不仅比核武器更容易开发、窃取和复制，它们还由私人公司而不是政府控制。因而，随着新一代人工智能模型的传播速度比以往任何时候都快，包括拜登政府在内的各国政府无法阻止这些模型的扩散。但一场不受控制的人工智能竞赛可能加剧先进人工智能系统的扩散，进而危及民族国家权威和世界安全。因为人工智能系统可能落入刑事犯罪份子或团体/恐怖份子或团体以及失败国家手中，并对个人/企业/国家的金融、商业、安全造成伤害（下图 masaar）。

因此，世界需要一种方法来监管人工智能。鉴于美国和中国大陆在世界人工智能领域研发的举足轻重地位，华盛顿和北京需要合作来建立起监管系统，防止危险的先进人工智能系统的扩散。即便美国和中国大陆之间的地缘政治竞争加剧、紧张关系，华盛顿和北京可能会发现合作有好处 -- 将从根源上减少，乃至消除人工智能系统的扩散。毕竟，先进的人工智能系统及创新基本源于美中两国，

华盛顿和北京应致力于创造共同领域，建立防止人工智能系统扩散的护栏，由两国甚至第三方监管（下图 Analytics Insight）。监管包括对人工智能输入的监测和验证，特别是与计算硬件相关输入，如先进半导体和数据中心输入的监测和验证。以确保人工智能系统不落入恐怖分子/团体和失败国家手中。

一个强有力的人工智能治理制度将减轻人工智能带来的社会风险，华盛顿和北京的合作还有可能缓解中美之间的紧张关系。美中合作治理人工智能的成功，还将实现更深刻、更持久的目标：它将为如何应对其他颠覆性新兴技术建立一个先例和模式 -- 量子计算、生物技术、纳米技术和机器人技术也有可能从根本上重塑世界。美中合作成功治理人工智能也将帮助世界成功治理这些影响人类社会的技术。

* 本文大部内容源自布雷默（Ian Bremmer）与苏莱曼（Mustafa Suleyman）合著文章 -- 人工智能力量悖论（The AI Power Paradox）。该文刊登在2023年8月的《外交事务》（FOREIGN AFFAIRS）杂志。

* 本文共同作者之一布雷默（Ian Bremmer）是欧亚集团（Eurasia Group）和GZERO媒体的总裁兼创始人。他著有《危机的力量：三大威胁——以及我们的反应——将如何改变世界》（The Power of Crisis: How Three Threats—and Our Response—Will Change the World）一书。

* 本文另一共同作者苏莱曼（Mustafa Suleyman）是Inflection AI的首席执行官兼联合创始人。他是DeepMind的联合创始人，著有《即将到来的浪潮：技术、力量和二十一世纪最伟大的困境》（The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma）一书。

参考资料  

Bremmer, I. & Suleyman, M. (2023). The AI Power Paradox. FOREIGN AFFAIRS. 链接  https://www.foreignaffairs.com/world/artificial-intelligence-power-paradox