Alex Imas 与 Phil Trammell：AGI 之后，还有什么是稀缺的？
原文：Alex Imas and Phil Trammell – What remains scarce after AGI?
访谈正文
AGI经济学特辑，嘉宾是Alex Imas和Phil Trammell。
关于我们如何应对AI，有一大堆重要问题只有经济学才能回答。
对将要产生的财富征税和再分配的最优方式是什么？不在AI供应链中的国家应该如何挂钩到这些收益中？是否存在不平等不会爆炸的世界？
这些问题看起来可能有显而易见的答案，但经济学教给你的第一件事就是，你的直觉往往可能完全错误。
和Alex、Phil一起聊这些问题非常有帮助。
在YouTube上观看；在Apple Podcasts或Spotify上收听。
文字稿
资本份额会增加吗？
Dwarkesh Patel：
今天我和Alex Imas聊天，他是Google DeepMind的AGI经济学总监，也是芝加哥大学经济学教授；还有Phil Trammell，他是Epoch的经济学负责人，也是斯坦福大学的研究学者。
总的来说，我在这次访谈中想理解的是，经济学告诉我们，在一个自动化程度越来越高、AI越来越先进的世界里，我们可以预期什么。我想理解这会告诉我们工资和劳动份额会发生什么，对AGI产生的财富征税和再分配的最佳方式是什么，以及哪些东西会变得稀缺。稀缺的东西会告诉你价值将在哪里积累。
我想从这里开始。有哪些可能成为稀缺之物的合理候选者？
Alex Imas：
比如关系型部门，它被定义为那些人类在回路中这一事实本身就是产品价值一部分的服务和商品。因为人类天然是稀缺的，如果我们有了自动化，很多其他东西不再稀缺，那么人类参与并处于回路中的那些东西仍然会稀缺。
Dwarkesh Patel：
我很好奇，人类为其他人类提供服务，是否可能成为经济中很大的一部分。这里也许有一个直觉泵。在一个AI能在物理上做任何人类能做的事情的世界里，会有整个机器经济，它们在建工厂、做研究、提出新想法。人类可能参与也可能不参与这些东西的物理生产，但如果机器人技术被解决了，在最终极限上很可能不参与。如果你不在乎人类是否参与那个过程，他们为什么会参与？
但随后还有你指出的另一些东西，我们确实希望芭蕾舞演员或咖啡师是人类。这是去咖啡馆或看演出价值的一部分。但只有人类有这种偏好。所以会有这种人类经济，人类为彼此提供服务，他们的部分财富流向其他人类。
但他们的部分财富也会流出，因为他们会想要这个纯机器经济创造的一些自动化商品。这不是一个闭环。纯机器经济中的很多东西是一个闭环，因为机器不在乎让人类咖啡师给它们做咖啡。
在那个模型中，纯人类经济所占份额越来越小，难道不是内在必然的吗？
Alex Imas：
我想提议重新表述那个问题。我的观点是，像我们这样的经济学家作为个人所做的个人预测，未必非常有用。
Andrey Fradkin、Brian Jabarian和Andrew Koh昨天发了一篇博客文章，考察了经济学家对劳动力市场的预测。他们发现，每个方向上都有大量分歧。
他们主张的，我也同意，是与其考虑个人预测，我们应该生成预测市场，从而得到聚合预测和群体智慧效应。我这样认为的原因是，我们在预测方面出了名地糟糕。
让我们一路回到1820年。我们一直在进行的这场辩论实际上已经有200年历史了。David Ricardo是古典经济学家之一，不是新古典经济学家。当工业革命开始发生时，他写了很多东西说：“这对每个人都会很好。价格会下降。”但随后他转口说：“等等，我能看到所有创造价值的这些工作都会被这些机器自动化。这会非常糟糕。所有人都会失业，会有政治动荡。”
如果你看Ricardo的预测，它们实际上是对的。Ricardo时代所有赚钱的工作都被自动化了。如果David Ricardo醒来，有人告诉他所有那些工作确实都被自动化了，然后问他：“你认为2026年的壮年就业率是多少？”，我想他会惊讶地被告知，除了2000年之外，这是有史以来最高的。我们拥有自2000年以来可能被雇用的最高就业人数。那是峰值，现在基本上是第二个峰值。
David Ricardo最终漏掉的是，你会有这些结构变化经济学，所有被自动化的东西都变便宜了。人们有更多钱可花，然后他们开始把钱花在服务上。这就是劳动总量谬误。David Ricardo没有考虑会创造新工作。
但钱会流向服务业并不是显而易见的。为什么它不会流向更多自动化商品之类的东西？我用这个轶事不是说这就是现在会发生的事情，我们会实现充分就业。我用它来说明，做出预测真的很难。
经济学家可能拥有的一个真正有用的工具，是转而从一个前提开始。也许我们今天从这一假设开始：劳动份额为零。劳动份额已经下降了。什么可能解释这一点？让我们写下一个关于发生了什么的经济模型。Phil今天晚些时候会谈到这个。或者你可以写下一个模型问：“如果劳动份额保持不变呢？什么能让这发生？”
如果你从我这里没有从这次对话中得到其他东西：我们没有任何数据。我一直在说我们需要一个数据领域的曼哈顿计划。我们没有关于消费者需求弹性的数据。我们不知道它们是什么。我们并没有真正追踪哪些工作正在被创造或摧毁。O*NET数据库，包含所有任务和不同工作，很少更新，质量超低。
真正有用的是思考潜在情景，把它们描绘出来，并说明每种情景将由稀缺性的哪个维度产生。如果存在充分就业，我们可以谈论关系型部门。如果劳动份额崩溃，我们可以谈论其他类型的情景。这会告诉我们应该收集什么数据。
Dwarkesh Patel：
可能值得快速定义一下劳动份额和资本份额。整个经济，即所售商品和服务的总和，要么以工资形式支付给人，要么支付给资本，也就是说，有建筑物的租金和公司股东获得的分红。
几百年来，大约60%的经济基本上以工资形式支付给人类，另外30-40%支付给拥有机器、土地和公司索取权的人。问题是，如果现在60%支付给工资，随着AI变得更聪明、更好，这个比例会缩小吗？
Alex Imas：
这是一个Kaldor事实。我们应该强调这一点。在工业革命和我们见过的所有自动化之后，它仍然超过60%，这令人难以置信地惊讶。有些人担心它如此恒定是一个会计错误。
现在甚至还有争议。有些人可能会说，过去20到30年劳动份额一直在下降。但过去30到40年有很多会计变化。例如，Atkinson有一篇论文显示，如果你多年来保持会计口径不变，劳动份额甚至从未下降过。
Dwarkesh Patel：
但这并不那么令人惊讶，对吧？Phil，你提出了这一点：如果劳动和资本是互补的，你需要两者才能做任何事情。你需要为两者都付费才能完成某件事，这是合理的。
Alex Imas：
你确实有过东西被完全自动化的情况。
Phil Trammell：
从某种意义上说，目前还没有任何东西被完全自动化。看看一种商品的网络调整后要素份额。沿着供应链往下看，不只是最后一步，看其中有多少是由资本和劳动完成的，还要看那些能够自动化最后一步的机器本身又投入了什么。你会发现，劳动在供应链下游增加了大量价值。
美国的计算机和电子产品具有非常稳定的网络调整后资本份额，约为50%。不是100%。我确实认为存在这种质变，我想我们一致认为它即将到来，那就是至少会有一些商品的网络调整后资本份额趋近于一。整条供应链都可以被自动化，其中没有任何一个部分是我们出于内在原因而关心必须由人来完成的。那将是一种质变。
有趣的是，这种转变对整体资本份额的影响是模糊的。假设我们有两个部门：有芭蕾舞演员的“人类内在”部门，以及其他所有部门。目前，其他所有部门之所以稀缺，是因为其中缺乏劳动力。但如果我们完全自动化了其他所有部门的供应链，并且我们在其他所有部门中很快达到饱和，那么所有非芭蕾舞演员之物的数量会趋于无穷，但这些东西的边际效用下降的速度会快于数量上升的速度。
Alex Imas：
我也想抛开芭蕾舞演员这个例子。我在帖子中试图说明的一点——从某个特定场景倒推——是芭蕾舞演员和表演者是错误的参照类别。目前我们有很多工作包含不同的任务。这就是基于任务的工作模型。以医生为例，他们的工作是什么？他们在填写保险文件。他们去打电话给不同的制药公司。他们的任务之一是看病人并与他们交谈，但这不是工作的主要部分。
一项工作、一种服务或一种商品可以是不同类型任务的产物，你可以自动化其中大量的任务。如果消费者愿意为一种产品或服务支付更多，其中每一个任务都被自动化了，除了医生给出诊断并提供支持的那一个部分，我们会把这种工作称为关系型部门的一部分。人们愿意为工作中保留人类参与而支付更多。
我们没有数据来说，“这些是关系型工作，这些不是。”你确实需要收集以下类型的数据。对你的服务或商品的支付意愿做一次联合分析。这是所有东西都由机器生产的反事实。这是某一个任务不由机器生产的反事实。你的支付意愿是多少？你对人类不参与其中的弹性是多少？
如果我没有那些数据，在这个故事中我能做出什么预测？
Dwarkesh Patel：
难道不是还有另一点吗，那就是有很多完全自动化的商品甚至还不存在？而且你现在无法收集任何数据，比如说，人们会有多想不断购买更多某种由AI完全生产的、让你更健康的药物。
Alex Imas：
绝对如此。这有点像Phil的观点。你可以在资本中实现品种的增加，从而不会达到饱和。你在增加品种，所以你不会触及那个递减的边际效用点，即你的大部分收入流向人类部门。如果这种品种增加足够快，而人类部门没有这种品种增加，那么你可以得到你想要的所有关系型商品，但这对劳动份额无关紧要。它会趋近于零。
Dwarkesh Patel：
Phil，我喜欢你关于某个蒙古经济学家在1400年坐着思考什么会稀缺以及那种分析的局限性的类比。我觉得你应该谈谈这个。
Phil Trammell：
只要看看遥远过去的蒙古人所能获得的商品。我不是这个社会的专家，但我知道他们拥有的品种远不及我们现在。看看那些内在属于人类的工作，比如当歌手。然后看看那些并非内在属于人类的东西，比如他们的马提供的运输服务或他们拥有的不同种类的食物。
如果他们只是把两个类别中的品种都固定住，然后问：“一旦我们有了多得多的自动化，会发生什么？”，他们可能会说：“我们只会在马匹式运输、酸奶和蒙古包上达到饱和。那些份额都会趋近于零，我们剩下的所有钱都会花在歌手身上。”
但当然，事实并非如此。随着我们积累了更多财富和更先进的机器，我们扩大了歌手之外可供花钱的东西的范围，而花在歌手身上的份额一直微不足道。同样，这是我对未来如何展开的核心预测，尽管它也可能朝任一方向发展。
Dwarkesh Patel：
我本来想提出一个观点，然后我意识到这是个谬误，但它之所以是谬误的原因很有趣。只是很难想象一个世界，其中有数万亿又数万亿的机器人，但只有几十亿左右的人类，而我们花在机器人上的累计金额少于我们付给Magnus Carlsen或——
Alex Imas：
财务顾问或医生或家教。
Dwarkesh Patel：
对，或者播客主之类的。但后来我意识到为什么这是个谬误。世界上的晶体管数量已经以万亿倍计地增长，也许是千万亿倍。你的同事Chad Jones有一个非常有趣的结果，关于经济中用于支付计算、支付晶体管的部分一直在下降。
你提出的观点是，思考摩尔定律的一种方式是……什么决定价格？供给和需求。所以不仅我们以更低的成本生产更多的晶体管，而且边际晶体管的价值也在下降。正如你所说，摩尔定律的另一种说法是……
Phil Trammell：
我喜欢摩尔定律的悲观表述：每18个月，计算的价值减半。我们耗尽计算用途的速度如此之快，以至于它维持了摩尔定律。
Dwarkesh Patel：
这与关于AI的对话相关，也许这是第一次，这不再成立。这里著名的事实是，一块H100现在的租用成本比三年前更高，尽管我们拥有更优越的技术和世界上多得多的算力。因为随着模型变得更聪明，算力的机会成本变得更高。
Alex Imas：
这就是Phil关于品种增加的观点。我们所做的是增加了人们向资本索取的东西的种类。现在突然之间你有了新的品种可以用于资本，于是你又跳回去了。
Dwarkesh Patel：
你可以想象我们永远不会对算力的需求达到饱和。只要这种情况持续，经济中用于算力的份额就会持续增加。
Alex Imas：
这是个大问题。这是我们需要审视的终极问题。我们为算力找到了多少新的用途，并且你对这些用途有需求？我想强调的是，经济学中的许多模型，尤其是在我们所谈论的领域，几乎把需求当作外生的。它们没有剖析人们实际想要什么的心理。
让我思考关系型部门这个概念的是我在做的工作，即似乎确实存在这种内在价值。这不仅仅是因为它稀缺；而是因为人们对共情、连接和与另一个人互动有某种内在偏好。
我们进行的一项实验涉及一幅艺术印刷品。我们有一种激励相容的方式来问：“你愿意为这幅艺术印刷品支付多少？”人们实际上是在用真钱支付。然后我们说：“看，这幅艺术印刷品只有一件，它要么由AI制作，要么由人制作。”这些是受试者间条件。在一种条件下，你会得到人制作的艺术印刷品比AI版本价值高得多的效应。
然后，在另一组条件中，我们说这些作品生产了500件。对于人制作的那件，价格大幅下降，因为它不再被视为与这位艺术家建立联系。对于AI则没有区别。AI已经被视为一种商品。
我们需要在这方面做更多的研究，但似乎这就是它与马之类的东西的关键区别。马是产出的投入，你可以用别的东西替代马。你只关心产出。
这个关系型故事唯一能成立的方式——这也是我们需要更多数据的地方——是如果人不是马，即他们从产出中提供价值，如果你替换了人，产出的价值就会下降。如果这一点不够强，如果它不能适用于足够多的部门或足够多的工作，那么这个故事就不再成立。
混乱的中间地带情景
Dwarkesh Patel：
有一种可能性，Molly Kinder写过，就是这种“混乱的中间地带”情景。这种可能性让我思考，至少就财富分配和再分配而言，是否更快的AI起飞可能更好。
我想问你，下面这种可能性到底有没有可能，或者说有没有哪一套假设能让它成立。AI让工作自动化成为可能，以至于很多人正在失去工作，但在自动化推进的过程中，它并没有创造出足够的财富，来基本上补偿那些被裁掉的人，并创造一种帕累托改进，让每个人都因为AI自动化而变得更好。
当然，从一种平凡的意义上说，这必定是真的。公司通过不付钱给人类、而只付钱给AI所省下的任何钱，这些资源仍然存在于经济中，可以直接支付给人们。
但会有一些配置效率上的损失。政府并不确切知道谁是因为AI而被裁掉的。这里有一个政治问题。如果Meta的员工先被裁掉，而他们原本一年挣200,000美元，当还有许多工作的人挣得少得多的时候，你每年给他们一张200,000美元的支票，这在政治上可持续吗？你觉得这种情景可信吗——AI正在自动化一大堆东西，但财富创造没有自动化那么多？
Phil Trammell：
我觉得这是可能的。对我来说，这确实像是一个相当狭窄的窗口。我的猜测是，如果我们拥有技术来自动化如此多的工作，以至于它成为一种新的政治问题，那么这块饼也会增长得非常快。
除非在它正在自动化的所有那些职业里，它只是稍微更有生产力一点。所以，替换所有软件工程师所需的全部资本的成本，只是比我们一直付给软件工程师的成本稍微低一点。
Dwarkesh Patel：
为什么一家公司通过裁掉一堆软件工程师来省钱是不可信的？从长远看，存在杰文斯悖论，我们无法事先预料我们会用更多软件做什么，而且肯定会有更多用途。但在短期内，效果就是很多人被裁掉，而他们仍然需要弄清楚自己怎么能用上一百万倍多的JavaScript词元。
Alex Imas：
Phil和我一直在写这些东西，我们在这些研究的背后有数学模型。我们的模型里没有任何政治经济学。
Andy Hall写了一篇非常好的关于AGI政治的博客文章，他提出了一个非常有趣的观察。如果失业率上升2%，政治风向就会完全改变。失业对政治上发生什么有巨大的影响。
提到Molly那篇出色的文章，我认为在某些方面，最糟糕的情景之一是一种滴漏式情景，因为政治经济学的因素。你可能看到的是，人们并没有真正大规模失业，而是转入报酬更低的部门。这就是1920年到1940年间电话接线员的遭遇。电话接线员被完全自动化了，但花了20年，尽管技术已经存在。就是这种滴漏。并不是说这个巨大的部门一下子就消失了。
有一篇非常好的QJE论文讲的就是这个，表明他们被经济重新吸收了，但薪水更低，而且大多处于就业不足状态。这就是Molly所写的情景，这个混乱的中间地带，事情并不是一场灾难。我们从COVID看到，如果出现紧急情况，财政应对可以很快。紧急情况就是失业率的快速上升，甚至可能看起来像2-3%。如果发生得很快，那就会成为一场国家紧急状态。
Dwarkesh Patel：
担忧在于，无论你从那些白领工人身上省下什么，如果那并没有让经济增长，而只是创造了可以配置到别处的节省下来的资源，那是否足以实施一项基础广泛再分配计划？你从几个人身上省下了钱。除非你能弄清楚如何确切地把钱给到他们本人，否则你就面临这个问题：“我能不能用我裁掉……省下的钱来做UBI？”
Alex Imas：
你基本上是在说，这块饼并没有增长那么多。你只是让一堆人流离失所，但那并没有扩展经济所能生产的技术前沿。
Dwarkesh Patel：
那么问题就是，历史上每一次这种情况发生时，技术前沿是否都大幅扩展了。
Alex Imas：
我认为是这样。单从历史上看，技术前沿确实扩展了。我认为Phil也提出了同样的观点。很难想象那种情景：你获得的智能刚好足以替代软件工程师，但仍然要花很多钱。它只是比软件工程师稍微便宜一点，所以你并没有得到这种丰裕效应。既然饼没有增长，再分配又要从哪里发生呢？
Dwarkesh Patel：
这非常有帮助。要让这种情景成真，许多不同的事情都必须成立，而每一件看起来都不太可能。
第一，必须是这样：可以自动化整个白领工作，但只能零敲碎打地做。也就是说，你只能自动化软件工程师，但同一个程序不能也自动化会计师、分析师之类的。
我对智能的模型是这样的——无论是做软件工程这类事情所需的任务广度，还是智能本身是什么——如果你真的能裁掉所有软件工程师，那么你桶里装的东西已经足够多，可以自动化各种白领工作。由于这些裁员，已经产生了大量潜在的节省，而且AI还会比人类劳动更便宜。
如果这两件事都成立，那么这个我们字面上没有足够财富来分配的混乱中间地带情景，看起来就不太可能。那么问题就是，对它征税并再分配的最佳方式是什么？
如何对AI财富征税并再分配
Alex Imas：
我有一些想法。我认为非常重要的是要列出成本和收益。第一，实施这些东西的复杂度各不相同。第二，它们在实际有帮助的时间线上不同。像普遍基本资本这样的东西，不会为六个月内发生的事情产生回报。你最终很可能得到的是一层一层的东西。
以负所得税为例。你实施它，在它成为法律的那一天，你就已经有了这种保险：有一个下限，每个人都得到一定数额的钱，如果你挣得更多，你就会被征更多税。但负所得税有优点也有缺点。
以UBI为例，我非常担心其政治经济学含义。如果人们只是依赖一张支票，那么谁掌权就真的很重要。现在，我们被赋予的劳动可以转化为收入。当情况不再如此，我们的基本需求要听凭当选官员摆布时，那感觉就像是一种非常危险的权力分享安排。
Dwarkesh Patel：
但任何形式的政府再分配计划不都是这样吗？
Alex Imas：
像普遍基本资本这样的东西，你拥有资本的所有权份额和财产权，你只是拥有一份份额。
Dwarkesh Patel：
你就是一个普通股东。
Alex Imas：
你就是一个普通人。
Dwarkesh Patel：
但这又回到了指数化的问题，因为如果指数化很难，那么普遍基本资本也很难。
Alex Imas：
这就是普遍基本资本的问题：瞄准。你要瞄准什么放进人们的投资组合里？
Dwarkesh Patel：
比如，如果Anthropic归零，但某个随机的机器人公司把这一切都接管了呢？
Alex Imas：
正是如此。这就是普遍基本资本的风险。有了负所得税，你会遇到和UBI一样的问题：某个人上台后说：“我们不再这么做了”，而人们又无法工作，然后你就面临底线消失的问题。
Dwarkesh Patel：
关于财富税的一个担忧是，在0.5%的财富税水平上不存在政治上可持续的均衡。当然，所得税也发生过这种情况。它从低税率开始，是为了战争或其他什么，然后慢慢升级，直到美国的边际所得税率达到40%左右，在某些州甚至超过50%。
对于资本税，有理由担心它会扭曲投资吗？人们会不会直接说：“我为什么要投资Anthropic或Intel？政府会拿走越来越大的份额，稀释我的股份。”
Phil Trammell：
等等。值得把收入如何筹集、对什么征税以及如何分配区分开来。可能是政府通过广泛的税收给每个人发放Anthropic的股份，然后购买Anthropic。这可能是正确的做法。希望某些民粹主义提案不会干扰这一点，去没收某个恰好大家都知道的特定公司。
Dwarkesh Patel：
你是在暗示可能存在某种最优税收。我们在对外部性征税，或者我们在对土地征税。我想我们可能需要对这两者之外的东西征税。
Phil Trammell：
或者消费税。
Dwarkesh Patel：
好，消费税，比如欧洲的增值税，允许政府去买一堆股票，然后把这些股票分配给每个人。
Alex Imas：
那是David Autor的……
Phil Trammell：
那和直接重新分配股票不会有太大区别，但会有一点不同。
Alex Imas：
顺便说一下，那就是社会保障的提案。那就是社会保障私有化。到目前为止它奏效了，但有人质疑它能持续奏效多久。社会保障私有化基本上就是给每个人一篮子股票。
为什么需求崩溃不太可能发生
Dwarkesh Patel：
人们在讨论是否已经出现了白领末日。有没有任何证据表明，AI已经导致了大规模自动化或失业？
Alex Imas：
很多人在关注这件事。这是一个有很多双眼睛盯着、产生大量数据的领域。耶鲁的Budget Lab正在做非常好的分析。他们最近刚发布了一份报告，你真的得眯着眼睛才能看到有什么事情在发生。如果你想从整个经济的角度来看，即使看软件工程——最容易受影响的行业——也真的没什么事情在发生。
可能有一点信号显示初级开发者比之前更难找到工作。但那是“比之前更难”，而不是水平上的转变，因为实际上对高级软件工程师的需求反而增加了。如果你看趋势的话，初级开发者的情况略低于趋势线。
Dwarkesh Patel：
所以你是说增长比以前慢了，但即使是入门级软件工程师也仍然有增长。你怎么看待那些轶事证据——大学毕业生说他们发现找计算机科学工作更难了？
Alex Imas：
我认为那是轶事证据。
Dwarkesh Patel：
你认为对某些人来说找工作一直很难，现在这被变成了一个AI叙事？裁员也是一样，那可能只是正常裁员，然后他们把它变成了AI裁员。
Alex Imas：
你得对所有这些保持谨慎。存在这些公共协调机制。假设我们进入这样一种叙事：如果你是一家公司，你没有裁员，那你就会被视为没有足够地适应AI。然后你就会得到一个级联效应，公司为了不落后于人就不得不开始裁员。这非常令人担忧，因为公司在裁员后实际上可能比之前更糟，但它裁员只是为了给人一种印象：“看，我们没有落后于时代。我们在用AI。”
你可能听过那些关于词元计数器的轶事，你必须最大化词元使用量之类的。目前，我们真的没有任何证据表明存在白领大屠杀。
Dwarkesh Patel：
考虑到AI能做的所有这些事情，这令人惊讶吗？这是一个古老的故事。如果你自动化了某个互补性任务，那么整体的一篮子东西——与自动化互补的人类劳动——的价值会增加。
Alex Imas：
对这个论点来说，一个非常重要的统计量是需求弹性。
拿工作的O型环模型来说。一份工作是一系列任务。假设AI自动化了十个任务中的九个。有一个任务没有被自动化。如果那个人现在能专注于那个任务，工作会变得更有生产力。如果这转化为价格效应，产品实际上更便宜了，并且如果需求反应足够大，产品被购买得更多、服务被使用得更多，那实际上可能导致更多招聘。
互联网上很多人一直在非常笼统地提出这个论点，说：“看，如果数据里有什么的话，我们看到的是软件工程需求的上升。”这表明至少目前来看，考虑到工作的运作方式，它可能弹性足够大。
Dwarkesh Patel：
我认为这个需求弹性论点对人们提出的很多论点来说极其重要，或者对人们在不理解底层因果关系的情况下使用的很多标签来说也是如此。人们经常谈论杰文斯悖论。这个想法是，当某样东西变得更便宜时，你会想要多得多的它，以至于你在这东西上花费的总量增加了。著名的例子是大约200年前英国的煤炭。
但实际上这只有在某样东西的需求高度弹性时才会发生。有很多东西的需求并不是超级弹性的。比如石油，如果变得超级便宜，并不会神奇地——
Alex Imas：
或者胰岛素。
Dwarkesh Patel：
正是。并不会神奇地出现那么多车，以至于我们现在要用比以前多得多的石油。
Phil Trammell：
至少短期内不会。
Dwarkesh Patel：
正是。长期弹性高于短期弹性。但即使在长期，农业也是著名的例子——如果我们把过去投入农业的同样比例的经济资源投入进去，我们可以生产多得多的食物。无论如何我们已经在生产更多食物了，但如果100年前生产食物的那部分经济资源现在仍在生产食物，我们可以生产更多。但你吃饱了，然后就结束了。
关于软件的说法是，并不是市场的某种固有属性使得当它变得更便宜时，你就会一直想要更多。软件的特殊之处在于，这是一种特殊的商品，当它变得更便宜时，我们会想要越来越多。
这也高度相关，你写了一篇文章讨论这个——这期播客很多内容都是我把你的文章总结给你听。有一个非常病毒式传播的关于未来的情景规划，来自Citrini，预测由于自动化和非常强大的AI，将会出现经济衰退。白领工人将被自动化，他们的薪水将不再可用，因此会出现萧条。你想复述一下为什么这可能不可信吗？
Alex Imas：
一部分是可信的，一部分不是。我们对话开头谈到的部分是可能存在大量失业的想法。如果自动化的速度很快，人们可能会被裁员，而且他们可能不会很快找到工作。我们可以对Citrini文章中关于失业的部分吹毛求疵，但那不是问题所在。问题在于他们谈到了经济负增长。
我在这篇文章中做的——Phil和我来回讨论过——是说，让我们从经济负增长这个命题开始。你需要经济中具备什么条件才能得到经济负增长？事实证明这些条件相当不可能。
你需要的一件事是资本持有者，基本上就是富人……基本上在那些情景中发生的是财富和收入从使用劳动的低收入人群向技术资本所有者的重新分配。所以你需要需求是有界的，甚至是硬性上限，连软性的递减敏感度都不够。你需要他们最终说：“我够了。我不想再花更多钱了。”而且那些钱不会作为投资进入。然后你才能得到负增长。
Dwarkesh Patel：
关键的是，即使我们不想要更多东西了，一个存在奇点而我们不想投入更多钱的世界是疯狂的。我们不是在说：“让我们建更多数据中心。让我们建更多晶圆厂。”即使我们有了AGI，我们也不投资更多数据中心来运行AGI，而那会驱动更多经济增长。
Alex Imas：
我把那篇文章发给了 Phil，Phil 回信说：“这挺蠢的”，就像说我那篇文章一样。他说：“你想说的是会出现经济负增长，但这些条件非常不现实。”我说：“这正是那篇文章的重点。这些是非常不现实的经济条件。”
这正是情景规划真正发挥作用的地方。你有 Citrini 那篇文章，它被写出来是件好事，因为它开启了一场对话。这个想法非常直观：如果需求崩溃，我们就能让经济萎缩。大萧条就能做到这一点。在大萧条中，技术前沿并没有扩张。
而在这里，技术前沿正在扩张。你实际上拥有的是丰裕。要让丰裕产生经济负增长，那真的很难实现。
人类员工将很难被整合进机器经济
Dwarkesh Patel：
我们刚才在谈，为什么 LLM 并没有带来更多自动化。一个可能的机制是，正如你提到 O 形环理论时所说的……O 形环理论指的是，挑战者号航天飞机之所以爆炸，是因为一个部件发生故障，结果摧毁了整件事。也许这是一个更普遍的模型，用来解释经济中的商品是如何生产的。你必须确保一切都可靠、运转良好。所以你现在不能把整个工作都自动化交给 AI。即便它有可能以某种概率完成这项工作，你也需要极高的可靠性，才能不让成品被毁掉。
这也许能解释，为什么现在的自动化比原本可能达到的水平少得多。但我认为，一旦 AI 变得足够先进，它就会朝相反方向起作用。把人类整合进未来商品的生产流程会变得困难。即便不谈人类会更贵或能力更差这些论点，也会有一整套为 AI 劳动力组织起来的生产流程。它们用神经语交流。它们的思考速度快上数千倍。
所以，即便存在某种比较优势，使得雇用一个人是合理的，也会有交易成本和可靠性方面的担忧，这实际上会让人类很难被整合进未来的生产流程。
Phil Trammell：
在我看来这是对的。特别是，我想区分这一点：如果你把一项工作的十分之九自动化了，人们可能会转移到最后十分之一，但对他们的工作量需求可能会增加十倍。
把它和 Gans 与 Goldfarb 最近的 O 形环自动化模型比较一下。如果你只能把这项工作的十分之九自动化，但你做到的质量标准低于人类所能达到的，那你可能连那十分之九都不想自动化。
这一点完全可以迁移过来。对称地看，这也可能是一个理由，说明为什么我们不再让人类做这项工作的十分之一，因为人类就是无法达到 AI 完成这项工作其他部分时所能达到的质量水平或速度水平。他们最终会拉低成品的质量或速度。
Dwarkesh Patel：
顺便说一句，你谈到的这个模型，在我看来极其合理地解释了为什么更多律师、会计师，甚至软件工程师没有被自动化。有些情况下，这件事按你预期运作的概率相当高，但你付钱给律师真正要买的是：“不，真的，我的公司不会倒闭，因为——”
Alex Imas：
你也在为很多监管类的东西付钱。尤其是律师，你需要某个实体来为产品背书。你需要产品的所有权。你需要有人能够解雇或雇用，而且还有执照问题。有很多监管层级也会把人类留在环路中——即便没有人际关系因素——而这些与人类实际执行这项服务的能力毫无关系。
Phil Trammell：
所有这些我们习惯于只信任人类来做的政治类决策上的摩擦——立法、当法官、当陪审员，或者所有让某些职业保持为人类职业的执照制度——在我看来都是过渡性的。
我们期待从人类那里得到什么，以及我们如何组织政治，在历史上已经改变过很多次，从小的狩猎采集群体到帝国再到其他各种形态。一旦一个由 AI 运行的政治系统比替代方案高效得多，那些系统很可能会倾向于在竞争中胜过其他系统。
如果某些人类（或 AI）内在地看重财富积累呢？
Dwarkesh Patel：
说到这个，我们一直在谈人类目前有什么偏好，以及这对未来哪些种类的商品会稀缺有什么影响。但当然，未来我们会有不同种类的实体：AI。曾经有一段时间地球上没有人类，但进化选择了具有特定驱动力和偏好的行动者，因为那些行动者往往最能存活下来，而那些偏好现在决定着一个百万亿美元级的世界经济生产什么。
为什么不能预期未来 AI 也会如此？这甚至不是一个灾难性错位、它们直接杀掉所有人的世界。但即便不是单个 AI，也会有以 AI 作为组成部分的公司的演化。那种演化会偏好什么？它很可能会偏好增长的公司或行动者。有一个选择论证：增长的东西会更普遍。
也许仅凭这一点，你就能对它们的偏好做出一些预测。偏好拥有人类内在商品的实体，会是那种积累资源最多的实体吗？大概不是。大概它会储蓄更多，并且对无论相关资源是什么都有着无法满足的需求。算力就是一个明显的例子。我们能用这一点来预测未来将由哪些非人类偏好引导吗？
Alex Imas：
如果一个 AI 有自己的福祉，完全自主，并且正在做出与自身福祉相关的决定，说实话，我完全没有先验认为它会偏好与人类打交道。没有理由。
但让我站到那个论点的另一边。人类偏好彼此互动、信任和共情其他人类，而不是模拟的 AI，我认为这些偏好是否会改变是一个非常重要的问题。
我听过很多论点说：“看，现在我们只是还不习惯这项技术。你所认为的那种关系性的东西……到了某个时候，人们就会把 AI 治疗师视为更优越的产品，他们不再需要人类提供的那种共情。”
我认为这实际上是一个非常复杂的问题。这里有一个论证说明为什么它不会消失，这与进化有关。假设有两种人。一种人并没有这种偏好。他们可以直接与 AI 互动，哪个能更好地模拟就用哪个。另一种人几乎有一种道德情感——借用 Jonathan Haidt 的框架——反对把这类社会互动外包给 AI。
这两种人中，哪一种会繁殖、找到配偶、做所有这些事情？我认为答案很清楚。是第二种，偏好其他人的人。
Dwarkesh Patel：
这取决于繁殖是如何发生的。
Alex Imas：
有道理。但如果我们处在一个繁殖仍然以现在这种方式发生的世界里，我认为……而且这是一个大问题，我不是在做预测。
你请过 David Reich 上节目。他在上一期播客中的观点是，我们身上正嗡嗡作响地发生着自然选择。所以即便你现在有某种漠不关心，也可能会有选择压力指向对其他人更强的偏好。
Dwarkesh Patel：
这里有一种思考方式。世界上最富有的人的财富是如何被具象化的？我们之前通过一次电话，你指出他们的消费更偏向关系性商品。比如 Mark Zuckerberg 为妻子的生日雇用 MMA 教练和舞者，诸如此类。
但他的大部分财富只是 Meta 的股票。作为控股股东，他可以说：“Meta，把所有财富变成股息收入，我就把它花在消费上。”相反，他更愿意让财富复利增长，让 Meta 建造更多数据中心。
所以，你甚至不需要改变人类，这种情况就会成立。那些最富有——并且因为财富在复利增长而越来越富有——的人类，恰恰有这种近乎 Nick Land 式的加速资本的偏好。这似乎确实表明，这是未来生产什么种类东西的一个重要决定因素。
Phil Trammell：
有两种方式可以得到这两种人：一种偏好人类治疗师，另一种与 AI 互动也没问题。如果他们在资本上同样迅速地饱和，但喜欢人类治疗师的那位也喜欢拥有一些人类内在服务，那么对他们每个人来说，如果他们一开始同样富有，未来资本的边际价值与今天资本的边际价值相比，基本上应该是一样的。可能会有互动之类的，但基本上，那应该是一样的。
如果造成差异的原因是，一个人之所以在资本上不饱和，是因为他被探索宇宙、把自己的头脑变成银河级大脑之类的前景所吸引，而另一个人会饱和，那么，如果那个在资本上不饱和的人是理性的，他就会拥有更高的储蓄率。
所以从长远来看，他们将拥有大部分财富，而整体的资本份额基本上将等于那个人支出的资本份额，而那个份额将是一。
Dwarkesh Patel:
重要的是，我们谈论的不是一个假设性的未来。Elon Musk 正在谈论在月球上建造质量驱动器。他是迄今为止世界上最富有的人。显然，目前他的投资既投向人类也投向机器，但我不认为他特别在意他未来的研究人员和工程师是人类还是 AI。
Phil Trammell:
而且他还能快速地繁衍后代。所以我认为值得做出这个区分。目前确实有一些富人似乎不会在资本上迅速饱和，所以也许从长远来看他们会储蓄最多。这在我看来确实是对的。
我还要说，即使他们在生物学上繁衍得更慢，如果他们能永生，从长远来看这可能也没那么重要。
Alex Imas:
永生是关键。再次强调，我们在这里是在构建情景。如果你能永生，很多事情对我的论述也会改变。关于你提到的富人不大消费而是投资这一点，这完全取决于资本的回报率。现在，数据中心的回报率超高，但如果我们进入一种人们对资本感到饱和的状态，那么积累资本的回报率就会降低。那时这些富人就会消费更多，因为投资的激励变小了。
基本上，你要考虑这类过程的一般均衡……自 1820 年以来我们已经变得极其富有。更多的人在投资，但你仍然会得到一个消费反应，使人们保持就业、劳动份额保持高位。那是因为——
Phil Trammell:
等等。
Dwarkesh Patel:
等等，不一定。我想你大概是在说同一个观点。可能是他们的投资必须通过实际的劳动者来滴定，这些劳动者必须做某些事情，他们的投资才能奏效。在未来，只有消费是由人类中介的，对吧？因为投资可以直接由机器人来完成。
Alex Imas:
所以我们处在如何保持高劳动份额的情景中。让我们采用那个情景。在高劳动份额的情景中，无论出于什么原因，资本的回报率都会更低。
Dwarkesh Patel:
没错。回到之前我们说的为什么混乱的中间状态不可信，我觉得我们在这里也可以做类似的事情。要让我们的资本回报率更低，增长率就必须更低，对吧？它当然必须低于我们在变革性 AI 时期所预期的水平。如果存在爆炸性增长……
Phil Trammell:
既对也不对。资本存量可能快速增长，但资本品相对于消费品的价格可能下降得比资本存量的增长更快。
Alex Imas:
这是技术的潜在前沿与这些东西的实际价格之间的差异。因为你有相对价格。
Dwarkesh Patel:
所以你是说，我可以把钱投向赚取 30% 利息、投资数据中心之类的地方。如果增长率很高，未来会有某种东西能赚取高回报。或者，由于所有这些技术突破，有某种我现在就非常想买的酷炫产品，而这两者都会是很有吸引力的选项。
Phil Trammell:
是的。它不必是一种新产品。它可以是人类内在的产品。
Dwarkesh Patel:
不过，如果它是人类内在的产品，我们在未来会想要它比现在多得多，因为它所比较的对象是——
Phil Trammell:
我们可能想要它和现在一样多，意思是芭蕾舞表演的边际效用和现在完全相同。但机器人的边际效用可能比现在低得多。所以以机器人为单位，我们想要它比现在多得多。
利率会是 30% 吗？这取决于你所说的实际利率是什么意思。可能是现在每一个机器人明年都能变成 100 个机器人。所以以机器人为单位，利率是 10,000%。但如果机器人的价格下降得非常快……
Alex Imas:
价格会调整。我认为这就是重点所在。
Phil Trammell:
在这里，价格以一种有趣的方式调整，而太多宏观模型不允许这种情况发生。正在发生的就是所谓的投资特定技术变革。
资本的价格相对于消费的价格在下降，而不是做标准的宏观做法，即说只有产出，这个叫做产出的嵌合体，它可以一对一地分配给资本或消费。在这个世界里，那不会成立。
明年的每一单位资本所放弃的消费，比今年的每一单位资本要少得多。现在一个机器人明年会变成许多机器人，但芭蕾舞演员的数量是一样的。
Alex Imas:
再次强调，我们要回到种类增加这件事上。如果明年所有那些额外的机器人实际上是不同种类的机器人，而我对那些机器人并不饱和，那么情况就非常不同了。
Dwarkesh Patel:
但现在我们谈论的是消费世界。在投资方面，可能只是某个贪婪的产业巨头，他一直想要越来越多的机器人。仅这一点就足以提高机器人的边际价值，从而降低劳动份额吗？
Phil Trammell:
是的。
Dwarkesh Patel:
为什么我们不预期贪婪的产业巨头会继续存在？
Alex Imas:
历史上贪婪的产业巨头建造了图书馆，而且——
Dwarkesh Patel:
但那是因为他们会死，他们就像——
Alex Imas:
哦，他们都会死。每个人都会死。
Dwarkesh Patel:
嗯，我们走着瞧。
Alex Imas:
以人会死为前提……你节目上有一位嘉宾说过，要理解未来，你应该思考过去。可能会有新型的巨头诞生，他们积累财富的全部理由就只是积累财富。
但很多时候，至少在历史上，财富积累过程是同伴之间、社区之间大规模社会互动的一部分，你希望以某种方式被钦佩。产业巨头的典型事实是你积累资本，然后你买一大堆东西。
Dwarkesh Patel:
我猜这是一个历史问题，但在我看来，在很多情况下，正在发生的是，当他们接近生命终点时，他们要么把它交给子女，而子女是比他们更差的资本管理者。他们甚至无法以经济增速来增长自己的财富，更不用说比经济增速更快了，而他们的父母当年能做到。
他们会说：“嗯，比起我玩这场积累财富的游戏，我更不在乎我的孩子拥有它。所以我就把它交给某个信托。”如果人们活得更长，或者如果他们能想出某种办法让他们的信托与这个财富积累过程保持一致……感觉这里的演化力量是如此强大。你只需要几个这样思考的行动者，这就会成为决定整个经济偏好的主导因素，因为这一部分比经济的其他部分增长得快得多。
Alex Imas:
关于饱和与边际效用递减的部分不断出现，我认为它非常重要。如果一个人对积累有内在偏好，那正是他想要的，那么我认为你的论述完全正确。但那不是偏好通常的运作方式。你的生活中有足够的享乐，然后是社会地位……Rousseau 写过这个，St. Augustine 也写过这个。这是偏好的一个基本部分。
现在，你们在争论另一件事，即你可能有如此高的集中度，以至于你可以只有几个规则的例外，而那就会足够。对此我没什么可说的。
Phil Trammell:
我认为这个主张要更强一些，不只是你可能有某些例外，而是历史上和今天我们都看到了这些例外。它们只是历史上还没有真正接管经济，因为存在所谓的耗散冲击。他们把财富给了挥霍它的子女，或者他们把它放进花掉它的基金会。这其实不算冲击，但……
人们可能曾想用纪念自己的纪念碑填满宇宙，并且永生、非常富有。这是一种奇怪的偏好，但它不是一种假设性的偏好。我认为这就是那个主张。
但谁知道他们脑子里在想什么？即使没有对积累的内在偏好，也有一些工具性理由说明为什么有些人可能看重积累，这也值得一提。有对政治、哲学或宗教影响力的渴望。人们会就社会是什么样子以及人们相信什么展开军备竞赛。
相似但有所不同，因为这不是一场军备竞赛，而只是彻底的功利主义慈善。当我作为一个好的古典功利主义者思考为什么未来拥有大量财富可能是件好事时，对我来说，价值——或者至少是你在未来拥有财富时可能拥有一个几乎无法满足的效用函数的一种方式——在于创造新的幸福生命。它们只是增加了世界的总福利。
这个想法至少可以追溯到Bostrom的天文浪费观点，即我们可以在恒星周围放置戴森球，将所有能量转化为真正幸福的模拟等等。
Dwarkesh Patel:
我认为这个优化器的特定贪婪性并不重要，它们贪婪的是什么。抛开功利主义哲学之类的，一个纯粹的冯·诺依曼探测器有……我不知道，这样说准确吗？它们对将要占据的随机太阳系有很高的边际价值，因为这会转化为更多的太阳系。冯·诺依曼探测器是一种可以存在的东西。那是一个非常贪婪的优化器。
Phil Trammell:
如果我们谈论的是它们是否会主导经济，也许这是一个技术性问题。但我们只将最终消费品和投资品计入GDP。如果只是这种现象——
Dwarkesh Patel:
冯·诺依曼探测器如何体现在GDP中？
Phil Trammell:
正是如此。如果我们承认它是一个拥有自己的人，并且它在边际上优化——是在多花一点钱在一个殖民另一个太阳系的婴儿冯·诺依曼探测器上，还是在一个芭蕾舞演员之类的东西上——而它只是不太看重芭蕾舞演员……
Alex Imas:
当我们谈论AI存在时，这完全取决于我们如何进行核算。
Dwarkesh Patel:
在冯·诺依曼探测器可能存在的世界里，世界是什么样子的？劳动份额有可能很高吗？
Phil Trammell:
我认为按照我们通常的统计方式，劳动份额有可能很高。
发展中国家应该做什么？
Dwarkesh Patel:
经济学家对不在AI生产链中的国家有什么建议吗？如果你既不生产AI模型，也不生产用于AI模型的硬件，如果你不是生产HBM的韩国，不是拥有晶圆厂的台湾，也不是拥有ASML的荷兰。印度或尼日利亚，它们现在应该做什么？如果你现在跟莫迪交谈，你会说什么？
Alex Imas:
我认为我们在经济学专业中分配资源的最大不足，是思考AI时代的中等收入发展中国家。这也是我自责的一点。没有足够多的人思考这个问题。
有些情景中，AI技术会被分配并扩散到尼日利亚和发展中国家，创造公平的竞争环境，本质上让它们在能力上得到提升。
但还有另一个世界，因为它们没有足够的资源，它们不训练模型，没有硬件，它们就完全被抛在后面。而且由于自动化，我们现在可以在发达国家生产商品。然后我们甚至没有消费者市场。那个世界看起来相当糟糕。
Phil Trammell:
在我看来，这像是混乱中间情形的延伸。混乱中间情形可能只在一小部分情景中才是糟糕的，原因之一不仅仅是由于蛋糕会更大所以重新分配会很容易，还因为利率会高得多，和/或等价地说，除了人类内在商品之外的所有东西的价格都会迅速下降。它们有点像同一枚硬币的两面。一点点储蓄明年就会变成大量消费。
事情必须真的出大问题，我们才会刚好越过资本生产力足以自动化大量工作、但生产力又不足以让利率很高且资本生产的商品价格大幅下降的门槛。即使没有重新分配，一点点储蓄也会拯救很多人。
Dwarkesh Patel:
你是说如果发展中国家在发达国家有一些储蓄，那就足以产生大量盈余，然后它们可以——
Alex Imas:
它们现在就能用储蓄消费很多。
Phil Trammell:
但在这种情况下，混乱中间情形可能会更宽。它们从拥有多少以及实际与全球经济挂钩程度的角度来看，起点如此之低。我认为它们现在就开始行动很重要。对于应该采取主权财富基金投资于正确供应链的形式，还是直接补贴本国公民去购买一点——我没有强烈的感觉。
Dwarkesh Patel:
这实际上是一个关键点。我们之前谈到为什么世界上的洛克菲勒家族，为什么他们的后代没有控制一切，如果我们关于这些贪婪优化器选择的论点成立的话。一个论点就是很难对经济进行指数化投资。也许他们本可以决定让继承人指数化投资经济，让财富以经济增长的速度增长，他们的继承人现在已经是万亿富翁了。
在指数基金存在之前，这非常困难。回顾100年前，经济中很小的一部分贡献了现在创造的大部分价值。如果你错过了那些特定的东西，你的财富就会停滞不前。
也许从指数基金创立到五年前有一个短暂的黄金窗口，你可以真正指数化投资经济，让你的财富以经济增长的速度增长。但现在我们处于这个回报非常集中的世界，尤其是对私营公司而言。正如我们在博客文章中指出的，这是普通人不成比例地更难获得的资本。他们的大部分资本是拥有一栋随机的房子，至少在美国是这样。
Phil Trammell:
或者房子的一部分。
Dwarkesh Patel:
正如我们所说，这种资本特别不适合作为AI生产或AI服务或机器人的互补品。
Phil Trammell:
也不适合作为富人会哄抬价格的那种商品的互补品。
Dwarkesh Patel:
正是如此。房子目前的价值是什么？是土地靠近其他人，以及一些关系性的东西，而这些在未来根本不会成为主要的生产要素。
Alex Imas:
这就是为什么乔治主义税收无法为我们将要讨论的那种项目筹集足够的资金。
Dwarkesh Patel:
对。但退一步说，我想表达的观点是，如果现在指数化投资经济变得更难，而这是普通人应该——除某种全民基本收入之外——
Phil Trammell:
在发达国家。
Dwarkesh Patel:
——应该对AI财富拥有一些索取权的主要方式。这也是发展中国家应该对AI财富收益拥有一些索取权的方式。
但这非常困难。尼日利亚拥有大量SK海力士和Anthropic的股份吗？我猜没有。仅仅拥有标普500对它们来说是不够的。
Alex Imas:
这引出了一个非常重要的点。AI会像电力还是像社交媒体？
想想ConEd，或者这里随便哪家电力供应商。它是一个垄断企业。它提供每个人都使用的资源。但我们是否认为电力创造了权力集中？ConEd是否拥有巨大的政治权力、社会权力之类的？不，因为对于电力来说，很多下游收益实际上流向了电力的使用者，而不是实际生产它的实体。
另一方面，对于社交媒体，情况恰恰相反。社交媒体无处不在。每个人都使用社交媒体，但租金流向了平台。
Dwarkesh Patel:
这是一个非常有趣的观点。我还不完全认同这个看法，我要大声说出来思考一下。你越认为我们的经济将像目前依赖电力一样依赖AGI运行——也就是说，整个经济发生广泛的基础性变革——它就越像电力……未来标普中的每家公司，如果能进入标普500，都是因为它利用了AI。
Alex Imas:
正是如此。然后你又指数化了。
Dwarkesh Patel:
但话说回来，我想如果你只看标普随时间推移的集中度，就是这些大型科技公司更加如此……我想这引出了一个根本性的点，即很难推断这些个别的私营公司能够控制AI收益的多少。
Alex Imas:
我认为开放模型这件事在这里将是一个重要点。如果我们确实处于开放模型落后前沿六个月——或九个月——的世界，那么我们会达到AGI，我们会达到随便什么，六个月后，每个人都拥有这个资源。
Dwarkesh Patel:
这说明每个问题都与其他所有问题相互关联。关于是否存在失控收益的问题，与关于递归自我改进的问题相关联。即使不是递归自我改进，那也是持续学习，或在线学习，它让模型在工作中学习。所以如果它被部署，它就能学到更多。这些只是预测性的技术问题，而它们随后会影响乌干达能否从AGI的回报中获得任何份额。
我之所以强调这个问题，是因为我认为无论对于混乱的中间地带还是对于发展中国家，一个经常被天真地提出的建议是：你必须进行某种再培训。你必须搞某种就业计划，或者你必须让他们在你的国家建数据中心。我认为你们两位建议的更接近于直接购买AGI的指数。那可能是一种干净得多的策略，也远更有可能成功。
Alex Imas:
这就是两种情景。我认为存在一个世界，它是集中的，那样的话要指数化AGI就会非常困难。还有另一个世界，它就像电力一样。基本上每家公司都能获得AGI。那你直接买指数就行了。尼日利亚只需要买指数，而尼日利亚因为开源模型而能获得AGI。
Phil Trammell:
回到关于是选择再培训还是尝试指数化的问题。考虑到AI可能多么迅速地冲击世界，我会优先考虑尝试指数化。但我绝对不会只依赖那一点。
在混乱的中间情景或长期时间线情景中，也就是我们不会那么快得到任何类似AGI的东西时，如果你本可以通过再培训而在如何使用最新一波计算技术方面受到更好一点的教育，那就会把大量价值留在桌上。我不认为那里有那么强的非此即彼。
Dwarkesh Patel:
也许对此持悲观态度的原因是，一个国家贫穷的原因之一就是它的教育体系糟糕，所以成为世界上再培训人们使用AI的最佳国家，对那个穷国来说似乎并不是一个特别有前途的策略。
Alex Imas:
尽管在发展中国家有一些案例，你看到了这种蛙跳效应，例如移动银行。它在尼日利亚比在德国普遍得多。每个人都在用移动银行。他们在手机上就有，而且一直在做这类事情。
再说一次，我不是在给这件事赋予概率，但有了像AI这样的变革性技术，你可能会获得蛙跳，跳过中间那一步，实现真正天文数字般的增长。
Phil Trammell:
就指数化的容易程度而言，我认为这确实值得稍微担心并保持关注。但正如我们自己的文章中所讨论的，也正如其他人所指出的，指数化已经没那么难了。回报私有化确实有所增加，但即便如此，美国非微型公司总市值中私有的部分仍远低于20%。
每个人都在想OpenAI和Anthropic。如果所有财富都将累积在那里，那么所有这些关于开源模型是否会只落后一点点的疑问就很重要。但即便是它们，看起来大概也会在不太久之后上市。那些一直阻止公司上市的摩擦本身，可能也会被AI大大缓解，比如所有的披露要求之类的。它们也想接触到更多潜在投资者。
如果我必须猜，我会猜降低这些摩擦、让越来越多的人更容易指数化的长期总体趋势将会继续，尽管最近出现了反方向的波动。
Dwarkesh Patel:
这实际上让我比之前更加希望这些实验室确实会被商品化，或者至少尽快上市。但希望它们干脆被完全商品化。我认为，如果AI的收益像电气化的收益那样难以被攫取，AI将会远更受欢迎，更重要的是，将远更有可能带来广泛的繁荣增长。
Alex Imas:
正是如此。外面可没有反电力的人。
Dwarkesh Patel:
我的意思是，电力不会夺走你的工作，但是——
Phil Trammell:
嗯，它夺走了一些人的工作。
Dwarkesh Patel:
它夺走了一些人的工作，是的。
Alex Imas:
这可能与对话有点离题，但我认为叙事很重要。现在围绕AI有一种非常负面的叙事，但那是因为人们没有把正面叙事讲出来。这是有原因的。想象一件不存在的好事，比失去一件存在的东西更难。某人上播客说“你喜欢的这些工作要消失了”，要比某人描绘一个尚不存在的乌托邦容易得多。
Phil Trammell:
我希望这不会太突兀，但如果我不指出拥有商品化前沿AI模型的一个重大代价，那就是技术竞赛动态，我会失职。出于安全考虑，你可能希望前沿公司更少，这样每一家都有缓冲空间，以防它们想要放慢速度以使事情更安全。
这与我们之前关于回报广泛可及的观点相关的方式是，我认为那里的权衡比一些人想象的要小得多。有些人认为，要么前沿AI被商品化，我们都享受好处——但可能会有一些风险，因为市场真的竞争激烈且残酷——要么事情更安全，因为领先者和落后者之间有巨大差距。但那意味着领先者会变得极其富有？不。你可以只是有一个相对较大的差距，但它是一家上市公司，其所有权广泛分布。
Dwarkesh Patel:
最近，我一直在想，商品化的风险——也就是它把使用AI用于有害目的的能力扩散开来——值得换来那些好处。我担心，拥有这些集中的实验室不仅使盈余无法在社会中广泛分配，而且还为政府创造了一个非常切实、清晰的政治目标。我们在针对Anthropic的《国防生产法》威胁中看到了这一点。如果没有一家或几家明显领先于其他的实验室，这种威胁就会难得得多。
谢谢你们两位做这个。我感觉有很多未解决的问题，但知道在所有这些重要维度上第一个分支是什么，是有帮助的。
Phil Trammell:
太好了。
Alex Imas:
谢谢。
本文由 AI 翻译。