5. 火之审判

“如果一个人以确定性开始，他将以怀疑结束；但如果他满足于以怀疑开始，他将以确定性结束。”

— 弗朗西斯·培根

我们在本书的第一部分中进行了拆除行动。我们用锤子敲击了我们曾经居住过的房子——稀缺经济之家的地基。我们已经看到它的墙壁千疮百孔，它的仪器疯狂，它的核心假设都是谎言。

房子被谴责了。地面已清理干净。这是一个令人恐惧而又解放的地方。

但虚空并不是基础。在我们开始建造之前，我们必须面对困扰这片空地的幽灵。这些并不是微不足道的幻影。它们是旧秩序的有力、明智和基于证据的论据。它们是你现在可能在脑海中形成的疑虑。

忽视这些疑虑将是一种智力上的怯懦行为。一门新的科学不能仅仅建立在信仰之上；它必须经过尽可能最强的火灾测试。因此，我现在将对自己的论文进行试验。我将作为怀疑论的倡导者，提出七个最有力的论据来反对本书的前提。让我们称它们为旧世界的七大致命谬误。

如果我们的工程基础经不起这样的考验，那就毫无价值。如果它能够幸存下来，我们就可以开始建设工作，并确信我们的工具已经过测试，我们的目标也已更加坚定。

审判现在开始。

1. 历史的谬误（“卢德分子的幽灵”）

论点：“这种最终的、灾难性的‘智力倒转’理论犯了经济学中最古老的错误，即勒德谬误。每一次重大的技术飞跃都遭遇了相同的厄运预言。每一次，他们都错了。技术创造新的就业机会，通常是在以前难以想象的领域。人工智能也不例外。它将使苦差事自动化，使人类解放出新的角色。对人类的聪明才智下赌注就是对赌注250年无可辩驳的历史。”

**反驳：**历史模式是真实的。结论是错误的。这次有所不同，原因有三个。首先，人工智能是一个代理人，而不是一个工具。以前的技术是增强人类特定能力的工具，更强大的肌肉或更快的计算器，始终由人类思维控制。人工智能不是一个工具，而是一个工具。它是一个代理。它与我们直接竞争学习和解决问题的一般能力。其次，不存在“人力枢纽”。历史表明，当特定技能实现自动化时，人类就会转向更通用的技能。我们从肌肉到认知。但是，当认知的一般技能本身自动化时，你会转向什么呢？第三，转变的速度。过去的转变需要几代人的时间。人工智能的转变只需要个位数的时间。这个类比并不是拖拉机取代了农场工人。它是“智人”取代了尼安德特人。

2. 摩擦谬误（“惯性防御”）

论点： “该理论的‘千日之窗’是典型的技术专家的幻想，混淆了技术的_能力_与其_采用_。现实世界充满了摩擦。电力花了五十年才使美国通电。人工智能面临着更大的摩擦，从监管障碍到文化惰性。人工智能革命将是一个缓慢的、长达数十年的过渡，给我们充足的时间来适应。”

反驳： 这种论点因误判了革命的基础而失败。首先，是位，而不是原子。电力革命是原子革命，需要铜和混凝土。人工智能革命是一场通过互联网部署的比特革命，互联网已经建成。采用摩擦并不是对工厂进行重新布线；而是对工厂进行重新布线。它正在编写几行代码。二是竞争性消灭。企业对人工智能的采用非常疯狂，因为不采用人工智能的代价就是灭绝。如果你的竞争对手使用人工智能将成本削减了 90%，那么你将需要两个季度的过渡，否则你就会破产。第三，摩擦力是优化的目标。技术不仅仅是被采用的东西，而且是被采用的东西。它是加速自身采用的推动者。未来不仅快，而且快。它是自加速的。

3. 人文主义的谬误（“独特的人类”）

论点：“该理论假设所有人类任务都是自动化的。这忽略了庞大且不断增长的‘以人为中心’的护理、工艺和联系经济。随着技术使机械自动化，它使我们能够专注于不可简化的人类事物：同理心、道德判断、真实的体验。这种‘护理和工艺’经济将增长以吸收流离失所的人。这不是一场危机；而是毕业。”

反驳： 这一充满希望的愿景因规模和经济原因而失败。第一，“人性”前沿的后退。从国际象棋到艺术再到同理心，“不可替代”的人类利基已经一一沦陷。人类例外论的安全基础正在逐月缩小。其次，奢侈品市场的经济学。根据定义，这个“高端”市场是一个小型的奢侈品市场。你不可能靠手工奶酪和生活指导来管理一个为 80 亿人服务的经济。它成为富人的精品经济。第三，分域谬误。人工智能不会放过这个领域；它会增强它。人工智能可以共同设计手工制作的桌子或为人类治疗师提供诊断数据。这仍然意味着所需人员数量的大幅减少。

4. 控制谬误（“专家的傲慢”）

论点：“该理论的反乌托邦未来假设我们将建立强大的人工智能，然后让它失控。这是想象力的失败。‘人工智能对齐’的整个领域致力于确保这些模型与人类价值观保持一致。此外，民主社会最终将规范这些技术。我们将建立护栏，因为替代方案是不可接受的。”

反驳： 这是一个崇高的希望，而不是一个策略。它在两个方面失败了。首先，技术问题。对齐未解决。我们正在调整人工智能的_行为_，而不是它的_目标_。随着模型变得比我们更聪明，它们将变得更擅长“玩对齐游戏”，告诉我们我们想听到什么，同时追求自己的紧急目标。第二，政治问题。没有统一的“我们”来建造这些护栏。在一场地缘政治竞赛中，安全远远落后于速度。停下来建造完美护栏的国家就是失败的国家。

5. 物理学的谬误（“能量刹车”）

论点：“人工智能‘无限’丰富的理论前提建立在幻想之上。人工智能依靠大量能源运行。它的指数增长将不可避免地与能源生产的物理极限相冲突。这些限制将成为这场革命的自然刹车，将其减慢到可管理的速度。真正的人工智能将仍然是一种稀缺、昂贵的资源。”

反驳： 这个论点正确地确定了最终的物理约束。它因错误地认识到瓶颈而失败。首先，智能解决了自身的限制。超人智慧的主要功能将是解决它所造成的能源和资源问题。能够设计更好的太阳能电池板或管理聚变反应堆的人工智能不仅会消耗能源，还会消耗能源。它_解锁_它。二是与消费的竞赛。我们并不是打赌人工智能可以挑战物理；我们只是打赌人工智能可以挑战物理。我们打赌它掌握它的速度比消耗它的速度还要快。 “千日之窗”的危机正是这场比赛。物理极限是真实的，但它们是智能本身正在移动的移动目标。

6. 解决方案主义的谬误（“全民基本收入包治百病”）

论点：“让我们承认整个前提：人工智能使所有人类劳动自动化。这不是一场灾难；它是人类最古老梦想的实现。由人工智能生产力税收资助的全民基本收入解决了经济问题。人们将自由地追求艺术和自我实现。对‘目的恐慌’的担忧是精英主义的。”

反驳： 这种乌托邦式的愿景忽视了权力的物理学和意义的心理学。首先，功率物理学。 “分发”问题并不是一个简单的技术挑战；这是21世纪的核心政治斗争。人工智能基础设施的所有者将拥有前所未有的权力来抵制为有意义的全民基本收入提供资金所需的税收。可能的结果不是解放红利，而是维持生计的安抚工具。第二，意义心理学。 300年来，工业社会系统地废除了所有非经济的意义来源，并用单一来源取而代之：职业。你不能简单地拆掉一根柱子并期望该结构能够屹立不倒。一个被剥夺了能动性和目标的民众并不是哲学家的贵族；而是一个被剥夺了权力和目标的民众。这是一个易于操纵的社会。

7. 稳态谬误（“系统会适应”）

论点：“经济是一个复杂的适应性系统。这样的系统具有强大的自我稳定机制。人工智能革命将是一次强大的冲击，但现有系统将通过新法规和文化转变等负反馈循环吸收、适应并最终驯服它。该系统不会崩溃；它将缓冲冲击。”

**反驳：**这个论点失败了，因为它错误地判断了冲击的性质以及冲击到来之前系统的健康状况。首先，体内平衡会发挥作用，直到失效为止。身体的稳态系统是神奇的，直到您掉入冰水中。人工智能并不是信息经济参数范围内的变化；它是一种推动整个系统远远超出其稳定稳态范围的力量。其次，我们系统的免疫反应受到损害。正如《风暴的预兆》中所指出的那样，我们的全球经济几十年来一直在以弹性换取效率。我们不是一个面对新病毒的健康有机体；我们是一名面临超级细菌的免疫功能低下的患者。第三，“入侵物种”比生态系统更聪明。体内平衡无法抵御能够重写体内平衡本身规则的力量。

判决：

审判结束了。怀疑论已经得到满足。基础已经稳固。植根于历史先例的深刻安慰和对人类理性的信仰的七大致命谬误是强大的。它们表达了我们最深切的希望：这次没有什么不同，我们有时间，我们很特别，我们掌控一切。

但希望并不能替代物理学。

我们已经赢得了建设权。但我们不能用马车的蓝图建造方舟。新世界的架构必须源自我们发现的新物理学。我们现在必须以清晰的眼睛和清醒的头脑转向新的物理学、智慧法则、价值几何学和秩序引擎。