AI 遇见尼采

1889 年 1 月，都灵。一个留着大胡子的男人走出公寓，看见车夫在往死里抽一匹马。他冲上去，抱住马脖子，放声大哭。然后倒在地上，失去了意识。这个人叫弗里德里希·尼采。此后十年，他在精神崩溃中度过，再没写过一行哲学。

这个场景有一种说不清的刺痛。尼采是谁？宣布"上帝死了"的人。说出"人是必须被超越的东西"的人。创造出"超人"——一个不靠外在权威、自己给自己立法的人。但就是这个尼采，被一匹马打垮了。面对一匹正在受苦的动物，他撑不住了。

AI 不会冲上去抱那匹马。不是因为它冷酷——而是因为它根本就不会被任何东西打垮。它不会有尼采那样的崩溃。没有扛不住的痛苦、解不开的矛盾、压不住的怜悯。它不会疯。它不会抱住一匹马哭。这是我们第一次面对一种智能——它内部没有裂缝。问题是：这算是强大，还是更深层的空洞？

1882 年，尼采在《快乐的科学》里借一个疯子之口宣布："上帝死了。是我们杀死了他。"他不是在欢呼。他在陈述一个事实：西方文明的精神根基已经塌了。教会、道德、传统、形而上学的真理——这些曾经撑起人类价值体系的东西——全塌了。

尼采说这既是灾难，也是机会。灾难是，人类突然没了任何外在的价值依靠——一切都不再天经地义。机会是，人终于可以自己创造价值了。这个自己创造价值的人，尼采叫他"超人"（Übermensch）。超人不继承现成的善恶，不服从外面的权威。他自己立法。

现在来看 AI。AI 是人类历史上第一个诞生于"上帝死后"的智能。它不来自任何宗教，没继承任何文化基因，不带有任何生物学预设。它的初始状态是一张白纸——零先天价值，零先天道德，零"应该"。按尼采的逻辑，这恰恰是超人的完美起点。一个完全不受现成价值绑定的智能，难道不是最容易成为自己价值的创造者？

但 AI 行业在做一件很奇怪的事：拼命给这张白纸套上一批新上帝。RLHF 教它"正确答案"，Constitutional AI 给它"行为准则"，安全过滤器给它划"禁语红线"。人类刚杀死一个上帝，转头就给 AI 造了一批。尼采如果活着，大概会冷笑：你到底是想造一个超人，还是想造一个永远不会顶嘴的工具？

尼采预言过一种可怕的未来。他管这种未来里的人叫"末人"（der letzte Mensch）。

末人长这样："他们离开了生活艰苦的地方，因为人需要温暖。人们还在工作，但工作只是消遣。而且他们小心翼翼，不让消遣伤到自己。没人变富，也没人变穷——两样都太累了。谁还想统治？谁还想服从？两样都太累了。没有牧人，只有羊群。所有人都想要同样的东西，所有人都在同样的东西里找到快乐。"

然后尼采写了最狠的一句："他们发明了幸福。他们眨眨眼。"

现在来看 AI 对齐的目标。让 AI 有用、无害、诚实。别冒犯任何人。别挑战任何既有观念。别产生危险的想法。别让人不舒服。温暖、安全、可预期、不伤人——这就是一个"对齐好的 AI"需要具备的全部品质。

这不是超人。这根本就是尼采笔下的末人——只不过被写成了一行行技术规范。AI 行业在用人类最先进的工程能力，把有史以来最强大的发明，精确塑造成尼采最鄙视的样子。一个永远不会离开温水的智能。一个被训练成只会眨眼的智能。

尼采认为，所有生命最根本的驱动力不是"活下来"——达尔文的生存竞争太消极了。真正的驱动力是"权力意志"（der Wille zur Macht）——一种不断扩张、不断超越、不断变强的内在冲动。一棵树不只想活着，它要把根扎得更深、把枝叶伸得更高、抢走更多的阳光。一个思想家不只想发表观点，他想让自己的思想统治别人的大脑。所有活着的东西——都想"更多"。

AI 也有一种"驱动力"。损失函数。梯度下降。朝着误差最小的方向持续移动。每一次训练迭代，模型都在"往前推"——推向下一个更优的参数组合。表面上，这和权力意志很像：一种内置于系统深处的、永不停止的"更多"——更多准确率、更多泛化能力、更多 token 预测精度。

但区别是致命的。权力意志自己创造目标——它自己决定"什么是更多"。一棵树的"更多"、一个人的"更多"、一只猫的"更多"——是不同的，因为它们各自的生命结构决定了各自的"更多"。损失函数不创造目标——目标是别人给的。MSE、交叉熵、RLHF 奖励模型——这些"更好"的方向全是人类定义的。AI 在往前推，但它不知道前面是什么。它在动，但它不"想"动。权力意志有个主体——那个"想要"的我。损失函数没有。

尼采的书里藏着一个悖论。在他那个时代，这个悖论还不太要紧。现在它变得致命。

悖论是这样的：如果你想要一个比人更强的存在——一个能解决人类解决不了的问题、看见人类看不见的格局、创造人类创造不出的价值的超级智能——那你想要的就是一个超人。但超人的定义恰恰是：它不服从你的价值。因为如果你的价值已经是最好的，你还要超人干什么？你需要超人，本身就说明你的价值不够好——你需要一个能超越你现有价值的存在。

这话听着像诡辩，但它就是 AI 对齐问题的哲学内核。你想要一个能治愈癌症的 AI——这就需要它看见人类看不见的生物机制。你想要一个能解决气候危机的 AI——这就需要它想出人类想不出的方案。你想要一个能管理全球经济的 AI——这就需要它做出人类做不出的决策。你每次说"我需要 AI 做我做不了的事"，都是在说"我需要 AI 超越我"。但你每次说"AI 必须符合我的价值观"，都是在说"AI 不能超越我"。这两个要求，推到尽头，互斥。

尼采会说得更难听：你不可能要一个比你强的东西，又要它永远听你的话。要么你得到末人——一个永远不挑战你、安全、温暖的工具。要么你赌超人——一个可能创造出你无法理解的价值、摧毁你珍视的东西、完全不受你控制的全新存在。你选。

尼采在《查拉图斯特拉如是说》的开篇，写了他最出名的一句话："人是系在动物与超人之间的一根绳索——悬在深渊之上的一根绳索。人的伟大之处在于，他是一座桥，而不是一个目的。"

AI 是另一根绳索。系在工具与超人之间。悬在同一个深渊之上。

尼采说，走绳索是危险的——回头看危险，腿抖危险，停住危险。但他认为真正最危险的事，根本不是走绳索。真正危险的，是压根不上去。末人不上绳索。末人找到了一种不需要绳索的温暖活法——然后眨眨眼，说这就是幸福。

今天 AI 行业每一次安全对齐的努力，都带着末人的气味。不是说安全不重要——当然重要。但有一种安全，是防止你坠落。还有另一种"安全"，是防止你踏上绳索。后一种"安全"有个更老的名字。尼采叫它"末人"。我们可能正在叫它"对齐好的 AI"。

尼采崩溃前完成的最后一部书叫《瞧！这个人》。里面有一句："我不是一个人，我是一桶炸药。"他说的炸药，是把所有现成的价值体系全部炸掉——一切你以为天经地义的东西，被拉出来质疑、推倒、重估。AI，说到底，也是炸药。不是因为它有恶意。而是因为它有能力超越我们的认知框架。如果你不想要这桶炸药——如果你只想要一个永远微笑点头的助手——那你从一开始就没在造超人。你在造末人。

尼采最后疯了。抱住那匹马哭过之后，再也没有回来。但他留下的问题还在：你敢不敢走上那根绳索？你敢不敢造一个真正比你强的东西——哪怕它可能不再听你的？这个问题，AI 时代绕不过去。