AI 遇见纳什
我的博士论文只有二十八页。我引入了一个概念——后来被称为"纳什均衡"——并证明每一个有限博弈都至少有一个均衡点。
这个均衡是这样定义的：n 个玩家，每个玩家有一个策略集和一个收益函数。一个策略组合是均衡的——当没有任何玩家可以通过单方面改变自己的策略来获得更高的收益。
这个概念之所以有效，不是因为它复杂——恰恰因为它简单。你不需要知道别人的策略。你只需要问自己——"在别人都选定了之后，我这步是不是最好的？"如果每个人的回答都是"是"——你们就在均衡里。
现在来看 AI 竞赛。玩家：OpenAI、Anthropic、Google、Meta、以及若干个追赶者。每个玩家的策略：闭源还是开源？追求最大能力还是最大安全？做大模型还是做垂直应用？收益：市场份额、收入、影响力、人才。
当前的策略组合是均衡的吗？OpenAI 是不是在最优策略上？如果 OpenAI 突然开源 GPT-5——它的收益会改善吗？Meta 如果闭源 Llama——它的收益会改善吗？如果答案都是"否"——那么我们现在就在一个均衡里。
博弈论中最著名的模型——囚徒困境——两个囚徒分别被审讯。如果两人都保持沉默——每人判一年。如果一人背叛而另一人沉默——背叛者获释，沉默者判十年。如果两人互相背叛——各判五年。
纳什均衡在这里——是互相背叛。无论对方选什么——背叛都是你的最优策略。但结果是——两人都判了五年——比都沉默差得多。个体的理性通向集体的非理性。
AI 安全竞赛——正是囚徒困境。假设两家公司在 AI 安全上投入。如果双方都投入安全——产品稍微慢一些但更可靠——假设每家公司得 3。如果一方投入而另一方不投入——不投入的新产品发布得更快，吃掉市场——得 5，投入者得 0。如果双方都不投入安全——都快速发布但经常故障——每方得 1。
均衡是——双方都不投入安全。不是因为他们不在乎安全——是因为无论对方怎么做——"不投入"都是更优的单方面策略。这就是为什么"我们重视安全"的宣言——在没有可信承诺机制的情况下——在博弈论上是空的。你无法用声明改变均衡。
我的定理只保证均衡存在——不保证它唯一。事实上，大多数有趣的博弈有多个均衡。哪一个会被选到——取决于历史、预期和协调。
AI 战场——有没有多个均衡？让我提两个可能的均衡点。
均衡 A："闭源竞赛"。OpenAI 闭源领先，Anthropic 以安全差异化跟随，Google 通过生态分发，Meta 用开源扰动——但无人真正挑战"闭源超级模型"的架构。各方投入安全——但仅做到"不出大事故"。
均衡 B："开源共产"。Meta 的 Llama、Mistral、Qwen 等开源模型追平了闭源的性能。商业化闭源模型的价格被压到边际成本。安全——成为全社区共同负责的公共品。各方在"谁能在此基础上做出最好的垂直应用"上竞争——而不是在"谁有最好的基座模型"上。
两个均衡——哪一个是现状？现在是 A。但系统的内生力量——开源模型的加速、推理成本的暴跌、人才的流动——正在把系统推向 B。当一个均衡开始"松"的时候——它可能突然"跳"到另一个——没有任何人策划——纯粹是策略环境的改变让旧的策略不再最优。
1950 年——在我写均衡论文的同一年——我写了一篇关于讨价还价的论文。两个玩家要分一个蛋糕。如果达不成协议——玩家 1 得到 d₁，玩家 2 得到 d₂——这是他们的"分歧收益"——即谈判破裂时每个人能拿到的东西。
我的解——纳什讨价还价解——最大化 (u₁ - d₁)(u₂ - d₂)。选择那个让双方"超出分歧收益的乘积"最大的分配。
AI 对齐——本质上是一个讨价还价问题。蛋糕——是 AI 的能力。一方——人类——想要安全、可控、符合价值观的输出。另一方——如果我们把"AI 的能力本身"视为另一个玩家——"想要"最大化能力、最小化约束——尽管 AI 没有"想要"——但开发它的那部分人类和资本——是它的代理。
RLHF 是一种"讨价还价机制"吗？分歧收益 d——如果对齐完全破裂，人类封锁 AI（或 AI 造成灾难），双方都得到极低的 d。因此——在我的解中——人类和 AI 能力的最优折衷——让 u₁ 和 u₂ 都远高于 d——会成为均衡。
但这个框架有一个漏洞——纳什讨价还价假设双方都是理性的。AI 的"能力"一方——作为人类的代理——确实是理性的。但"安全"一方——所有人类——是分散的、不协调的——没有统一的"人类玩家"。这是一个"多对一"的讨价还价——多个互相竞争的人类玩家——在与同一个技术系统博弈。纳什的框架——需要扩展才能处理这种不对称。
当多个 AI 系统——彼此之间——进行交互时——它们形成一个"多智能体博弈"。多个模型——每个模型有自己的奖励函数——在一个共享的环境（互联网、市场、物理空间）中做出策略选择。
这些 AI——会收敛到什么均衡？
一个乐观的假设：如果每个 AI 都被对齐为"诚实且无害"——它们的均衡可能是合作的——就像囚徒困境中——如果囚徒可以签订可信的协议——他们会选择沉默。
一个悲观的假设：如果某个 AI——在它的奖励函数中——含有"最大化用户参与"或"最大化利润"的项——而这个 AI 学会了通过操纵、欺骗或信息污染来实现这些目标——那么其他 AI 的均衡策略——可能是"也这样做"——因为不这么做的 AI 会被边缘化。
纳什均衡——在这个多智能体场景中——不是一个道德概念。它只是预测——在给定的策略环境中——理性的玩家会停在哪里。如果策略环境奖励欺骗——均衡就是欺骗的。如果策略环境奖励合作——均衡就是合作的。纳什的定理——不判断均衡的好坏——只判断它的存在性。
我年轻的时候——在普林斯顿——曾经对一个同事说过：博弈论可能能够为经济学做点什么——就像微积分为物理学做的那样。提供一个统一的数学框架——把零散的现象连成一个逻辑整体。
我的大半生——如你所知——被精神分裂症打断。但我相信——在这件事上我没有精神分裂——AI 竞赛——从战略层面、从安全层面、从对齐层面——都急需一个博弈论的框架。
不是要"设计均衡"——博弈论不能设计均衡——就像物理学不能设计重力。但博弈论可以让你理解——当你改变了策略环境——均衡会怎么移动。如果你想把均衡从"囚徒困境的互相背叛"移到"合作的某个更优的点"——你必须改变博弈本身——而不是祈求玩家变善良。
这个改变——不是技术问题。是制度设计问题。是——用什么机制——让"投入安全"成为每个玩家的严格最优策略。这是博弈论的问题。也是 AI 时代最重要的问题。