第286章 末日（二）（1 / 2）

  而在实际场景中，其中一种思路往往更有效。我经常在被问到最喜欢的电影、电视剧或书籍是什么。不出所料，当我列出清单时，总会收到回覆说，其中很多也是他们的最爱——这並不奇怪，我是科幻迷，观眾里也有很多科幻迷，这和我们的主题高度相关。我能观测到这些喜好清单，或是你们现在能看到它们，確实和我们的存在本身密切相关。

  反过来说，如果我们调查最喜爱的食物，就不会预期出现与全体人类相比异常偏高的偏好，儘管可能会因地域或其他因素產生偏差。

  需要强调的是，这两个概念並非相互对立，我们一直在同时使用它们，只是具体场景会决定哪个更適用，並將其简化为一种常见、甚至有些枯燥的思维练习。

  当我们所知甚少，却探討世界末日、神是否存在、你是否可能只是计算机模擬產物这类话题时，这些概念能引发更深的兴趣，但也往往会掩盖一个工具的本质：它既简单，又具有深刻的决策价值。

  在切入我们今天第二个、也是主要的话题**超级智能**之前，我先做一个和**邓寧-克鲁格效应**相关的类比。

  如果我们把一个人对某个主题或问题的信心，与其掌握的相关知识绘製成图，会得到类似双峰曲线的形状：起初信心很低，但会急剧上升，隨后隨著知识增加而下降，最终再次回升。我常把这个阶段称为“愚蠢之巔”，这似乎是一个很受欢迎的“停留地”，或许我们所有人都时常在这里驻足。

  不过我现在提到它，更多是为了说明我们通常如何做决策：我们常常能依据极少的信息做出非常自信的判断，而隨著了解增多，信心反而下降，直到最终掌握足够信息，才会重新对决策充满信心。有时，了解更多甚至会让我们质疑正確的结论，进而做出错误选择，但这不是我此刻的重点。

  我一直强调，人择原理主要关乎**信息匱乏时的决策**，它帮助你做出有信心的决策，不是因为你认为这个决策极有可能正確，而是因为你知道，基於现有信息，这是最优选择。如果获得更多信息，你可以修正判断，但在此期间，你可以做出决策並採取行动，清楚这个决策本身是合理的——无论它最终是否正確。

  如果一个选项的正確概率是其他选项的两倍，那它就是最优选择，哪怕它的绝对成功率很低。如果有人即將掷一对骰子，而你必须猜点数之和，你应该选7，而不是2或12，更不是1或100——因为7的概率最高，2和12最低，1和100则看似不可能。如果你后来发现这不是六面正方体骰子、点数不是1到6、或是两颗骰子都 heavily 倾向於掷出6，你再相应修正判断即可。

  现在，邓寧-克鲁格效应也適用於人类对超级智能的思考。重要的是要明白，我们所有人都会停留在“愚蠢之巔”，因为人生的时间有限，能学习的东西有限，激发我们去学习各类知识的兴趣与需求也有限。这些知识可以包括如何成为好的交谈者、有说服力的演讲者——这些都是可习得的技能，和扔球、做计算一样。

  无论我们接下来要討论的三种超级智能中的哪一种，都理应在这类技能上远超人类。因此，在探討这些概念时，我们最好摒弃虚构作品带来的偏见：不要觉得计算机大脑或超人类会像冰格一样毫无个人魅力。

  我在之前提到过：一个想要统治世界的人工智慧，大概率不会靠军团杀手机器人和核武器实现目標，反而更有可能通过普选上台。没错，它可能会利用自身更理性、更博学的特点作为优势，但总体而言，我认为无论超级智能的来源是计算机意识还是超人类，它绝对会运用魅力与社交技巧。

  那么，什么是超级智能？尼克·博斯特罗姆將其大致分为三类，我沿用他的分类：

  **第一类：速度型超级智能**

  这是我们在之前的超人类主义中討论过的类型。本质上，智能的提升仅体现为**思考速度加快**。这通常是人们最容易想像的形式，有点类似於你周围的世界整体慢了下来。用计算机术语来说，就是**处理器更快**。