更多计算能力并不会产生通用人工智能
2021年10月27日
即使最强大的计算机也无法回答"为什么？"
Naval:
通用人工智能团队也完全搞错了：“只要增加更多计算能力，你就能获得智能”，而我们并不知道是什么底层机制让我们具有创造力，并能够提出好的解释。
人们经常谈论GPT-3，这是OpenAI推出的文本匹配引擎，是一个非常令人印象深刻的软件。他们说：“嘿，我可以用GPT-3生成很棒的推文。“这是因为，首先，作为人类，你从它生成的所有垃圾中挑选出好的推文。其次，它使用某种抄袭和同义词匹配等的组合来产生听起来合理的内容。
最容易看出它生成的内容实际上没有任何意义的方法是问它一个后续问题。拿一个GPT-3生成的输出，问它：“为什么会这样？“或者基于此做出预测，然后看着它完全崩溃，因为没有底层的解释。
它是在模仿。这是出色的贝叶斯推理。它从网络上人类已经生成的内容中进行推断，但它没有能够用未见的来解释已见的现实底层模型。我认为这很关键。
这是人类独特的能力，没有其他生物、没有其他计算机、没有我们遇到过的任何其他智能——无论是生物的还是人工的——能做到这一点。
而且不仅我们是唯一能做到这一点的，如果我们遇到一个也有能力产生这些好解释的外星物种，他们产生的任何解释我们都能理解。
我们的理解能力是最大化的。在这个物理现实中，不存在人类在给予足够时间、资源和教育的情况下无法理解的概念。