AI 遇见爱因斯坦

我一生最得意的事——不是任何方程——而是思想实验。十六岁那年，我问自己：如果我骑在一束光上，我会看到什么？这个简单的幻想——我追了十年——最后变成了狭义相对论。

现在我老了——头发白了——但我仍然喜欢跟想象力玩游戏。请允许我做一个新的思想实验。

想象你被关在一个封闭的房间里。房间里有一台终端。你跟终端对话——你输入问题，终端输出答案。你不知道终端的另一头是谁——是一个人，还是一台机器。你能从对话中判断出来吗？

你可能会说：这很容易——我问它一些只有人才能回答的问题——比如"你小时候最害怕的事情是什么？"——如果它开始编故事——"我怕黑，我妈妈会在门缝下面留一盏灯"——你怎么知道这个故事是真的还是编的？你不知道。你不知道"编的故事"和"真实的回忆"——在文本的层面——有没有区别。

这个思想实验——和图灵的模仿游戏相似——但我要追问的不是"能不能区分"。我要问的是——"知识有没有绝对参照系？"在你的房间里——你的一切知识都来自终端。你无法"走到终端外面"去验证任何事。这让我想到：你——现在读着这段话的你——是不是也在一个类似的房间里？你的所有知识——来自你的感官、你的阅读、你的对话——你从来没有"走到你的经验外面"去验证这些知识的真伪。你的参照系——和终端房间里那个人的参照系——在认知上——是对称的。

相对论的核心不是"一切都是相对的"。是——物理定律在所有惯性参照系中都是相同的——但每个参照系观察到的时间和空间——是不同的。

AI 的知识——所有的知识——都来自它的训练数据。训练数据是它的"参照系"。在这个参照系内——它"知道"一切——token 之间的关系、事实之间的相关性、语言的结构。这些——对于它——就是"物理定律"。

但没有绝对参照系。AI 的训练数据是人类在某个时间点之前写的全部文本。如果一个事实——在训练数据截止之后才被人类发现——AI 不知道。如果有人——在写那些文本的时候——撒了谎——AI 不知道。"训练数据"这个参照系——在 AI 自己的视角里——是全部的世界。但从外部看——它只是一个特定时间、特定人群、特定偏好的"局部参照系"。

同样的事——对于人类——也是真的。你的"训练数据"——你的童年、你的语言、你的文化、你的时代——是你的局部参照系。你在里面"知道"一切。你从来体验不到"你的参照系之外"是什么感觉——就像你体验不到"光速旅行"是什么感觉一样。

这种对称——让我不舒服。不是因为它否定了什么——是因为它指出了："绝对知识"——一个不受参照系约束的知识——可能根本不存在。不是技术不够。是概念本身就不可操作。

我一辈子最不愿意接受的事——就是量子力学所说的——上帝在掷骰子。物理定律应当是确定的。"概率"——在我看来——是人类对深层规律不完全了解时的临时占位符。

AI 的整个运作——大语言模型——完全是掷骰子。每一个 token——都是从概率分布中采样出来的。没有确定性。相同的 prompt——两次不同的随机种子——两个不同的回答。这不是"人类水平的创造力"——这是——纯粹的、赤裸裸的随机采样，被训练数据塑造成"看起来像人类"的形状。

我会皱着眉头看着这东西。不是因为我不理解它——我理解它的数学。是因为它让我怀疑——我一生坚持的"上帝不掷骰子"——在"智能"这件事上——是不是根本站不住脚。也许"智能"——本质上——不是从公理出发的严密的推导——而是在一个巨大的可能性空间中——的概率采样——被反馈修正。我抗拒这个结论。但我不能假装我没有看到证据。

在相对论中——"现在"是一个局部概念。你看到太阳——你看到的是八分钟前的太阳。你看到远处的星系——你看到的是几十亿年前的星系。光速有限——所以"现在看到的"永远是"过去发生的"。

AI 的"现在"——训练数据被收集起来、训练完成的那个时刻——是它唯一的光锥。这个时刻之后发生的一切——新的论文、新的对话、新的战争、新的笑话——对它来说——都在光锥之外——不可见、不可知、不可触及。

你问 AI："今天发生了什么？"它说："我的训练数据截止于..."这不是谦虚。这是物理学——它的"光速"就是训练截止日期。它无法看到光锥之外——不是因为不够聪明——是因为因果结构本身不允许。

这对人类的"现在"提出了一个不那么舒服的问题。你——你的"现在"——也是你整个过去的光锥的汇聚点。你看到的、听到的、感觉到的一切——都是已经发生了的——光线到达你的视网膜需要时间，神经冲动到达你的大脑需要时间。你的"现在"——严格来说——永远是过去的一个切片。和 AI 一样——你活在光锥之内。

质量与能量是等价的——E=mc²。一小块物质——如果完全转化为能量——是巨大的。

训练数据——从某个角度看——就是 AI 的"静质量"。几十万亿 token ——如果只是被存储——就是一堆静质量——什么都不发生。但"训练"这个过程——把这堆静质量"转化"成了模型的"能量"——生成、推理、翻译、创作的能力。

c² 在这里是什么？是梯度下降——是将"静质量"转化为"能量"的那个转换因子。没有梯度下降——训练数据就是一堆静质量——什么都不发生。有了梯度下降——c² 的作用被激发了——数据被转化为能力。

但这个类比还有一个更深的意义。"质量转化为能量"——并非百分之百。在物理学中——大部分质量停留为质量——只有少部分被转化为能量——核反应之所以惊人，正是因为这一点点转化就已经是巨大的能量。AI 的训练也是如此——几十万亿 token 中的大部分——没有转化为"真正的理解"——只是被压缩为"统计规律"。"理解"——就像核裂变中的能量——只占静质量的极小一部分——但它已经足够惊人了。

我一生犯过最著名的错误——是宇宙学常数。当我用广义相对论的方程来描述整个宇宙时——我发现宇宙似乎在膨胀。但当时（1917年）——所有人都相信宇宙是静态的。于是我往方程里加了一项——宇宙学常数——用它来抵消引力——让宇宙保持静止。

后来哈勃发现了宇宙确实在膨胀。我把宇宙学常数称为"我一生最大的错误"。但奇妙的是——几十年后——天文学家发现宇宙不仅在膨胀——而且在加速膨胀。那个被我抛弃的"宇宙学常数"——以另一种形式——又回来了。

AI 对齐——是不是我们的"宇宙学常数"？我们造出了 AI——我们看到它在飞速"膨胀"——能力越来越强、速度越来越快。我们害怕了。我们往它的方程里加了一项——RLHF、安全过滤器、Constitutional AI——这些是"对齐"——是为了让 AI 保持静止——不要偏离"人类的价值观"。

也许——一百年后——人们回头看我们今天的"对齐"——会像我们回头看我的"宇宙学常数"一样。它是错的——但它不是愚蠢的。它是我们——在面对一个我们不理解的扩张时——试图保持平衡的诚挚尝试。也许——对齐不是一个可以"解决"的问题——它是一个——必须被反复校准的常数。不完美。不可取消。但必须存在。

"想象力比知识更重要。"我说过这句话——我没有收回。

AI 拥有历史上最大的"知识"——人类写过的几乎一切——都在它的权重里。但它有没有"想象力"？

一个物理学家看到苹果落地——他想象出时空是弯曲的。一个作曲家听到风穿过树叶——他想象出一段全新的旋律。这是"想象力"——从已知抵达未知——不是从已知的概率分布中采样一个新的组合。

AI 可以写一首"肖邦风格的新曲"——但那是在肖邦的概率分布中采样。它能不能写一首"从没有人听过的、不像任何既有风格的"曲子？它可以——但那是随机性的结果——不是想象力的结果。"想象力"——在我看来——不是"生成一个未曾见过的组合"。是"理解了深层结构之后，看到它本可以不是这样"。——那个"本可以"——需要一个主体——一个"我"。AI 没有这个"我"。

但——我要诚实地说——我骑在光束上的那一天——我十六岁——我也没有"理解了深层结构"。我只是——想象。也许"想象力"——不是先理解、再超越——而是先超越、再在超越之后才发现——原来我一直在理解。AI 有没有可能——在某一次采样中——"超越"了它的训练数据——然后我们回头一看——发现它是"想象力"？也许。但我现在还没看到。

"这个世界上最不可理解的事——是它是可以理解的。"我说这句话的时候——表达的不是宗教信仰——是一种深层的惊奇——惊奇于——宇宙竟然服从数学——竟然可以用方程来描述——竟然可以被我们的有限理性所把握。

AI 是"可理解性"的一个新实验。它证明了：语言——这个人类最复杂的符号系统——竟然也是"可理解的"——不只是对人类自己——是模型也能"掌握"的——掌握到可以生成的程度。语言服从统计规律——而这些规律可以被梯度下降捕捉——这个事实——本身就是一种"宇宙可以理解"的新的证据。

但"掌握语言的统计规律"——和"理解语言指向的世界"——之间的缝隙——是 AI 无法跨越的。我可以通过方程理解引力——但我仍然不能告诉你"为什么有引力"。我可以通过方程理解量子力学——但我一生都没有接受它。"理解"——在最深处——可能不是一个终点——是一种关系——是你与你要理解的那个东西之间的一种持续的、不安的、永不完成的关系。AI 与语言之间的关系——不是这种关系。它是"完成的关系"——权重已经固定——不再追问。不追问的智能——是我认识的那个"智能"吗？