产出最大化教授——对话 AMP 的 Anjney Midha
原文：The Professor of Outputmaxxing — Anjney Midha, AMP
访谈正文
引言：Anjney Midha、AMP 与算力浪费
Swyx: 我们正在 Periodic Labs，与 AMP 的首席执行官兼创始人 Anjney Midha 在一起。欢迎。
算力利用率：节点分配、MFU 与对齐
Anjney: 谢谢邀请。在 Google，通常有两种利用率，对吧？你在这些集群里衡量的。一种是节点分配，另一种是 MFU。节点利用率通常是指数据中心里有多少百分比的卡被使用了，如果它没到 95%——
Swyx: 那就没有借口
Anjney: 没有借口，对吧？我觉得在 Google 是 95%，我的联合创始人 Seb 就是从那儿来的，他在 Google 构建了 Borg、PBorg/GQM 调度器，在那里我觉得 95% 会被视为一次故障，所以 96% 的节点利用率应该是标准。而大多数单租户集群并没有跑到那个水平。所以这是一点。然后 MFU，我会说今天业界最好的水平大概在 60% 到 70% 之间。我认为这是一个领导力问题，对吧？从根本上说，这是一个对齐问题，也就是为集群出资的人，和部署集群的人，他们真的对齐吗？有时候理论上是对齐的，但实践中，这条链条上的人太多了，从资本一路到管理集群的人，再到衡量产出的人，中间隔了太多层，以至于……你听过弧度那个比喻吗，就是在弧的起点，如果你有两条弧线，两条线只差几度，那——
Swyx: 它就会扩散开
Anjney: 它就会扩散开，对吧？或者说在规模上放大。我认为正在发生的是，很多集群的实现和基础设施，很多前沿实验室和其他团队，正在发生的就是这样：他们初始化了计划，这有点像北极星，带着一个想做好事的团队，但接着他们被要求以极快的速度扩张，而不是迭代式地扩张，于是浪费在规模上就复利式地快速累积。所以我认为我们知道答案，那就是做迭代式的上线。如果你花时间和在半导体行业或 DSN 行业待了很久的人相处，这并不新鲜，我不认为 AI 应该成为借口。当然。什么是新的？好吧。我们有很多新能力，但这不意味着就要抛弃常识。常识应该永远流行。AI 规模化并不会改变这一点——事实上，如果说有什么的话，AI 规模化应该让常识和基础设施的价值变得更高，因为现在容错空间小得多，浪费的代价高得多。而且顺便说一句，浪费的代价不只是经济上的。我显然是个投资者，或者说我背景上是投资者。过去几年我们经营着一家叫 AMP 的 AI 基础设施公司。我认为在能力前沿上说这次不一样是可以的。我们确实在获得前所未有的一类能力。但这不给你借口说所有事情这次都不一样，尤其是基础设施。所以你看，我喜欢黑客心态和 hustler 心态。这对创业心态来说很棒，但你要记得那个时刻，Zuck 从说“快速行动，打破东西”变成，行动——
负责任的基础设施与数据中心反弹
Swyx: 快速且稳定的基础设施
Anjney: 带着稳定基础设施快速行动。我认为现在我们需要带着负责任的基础设施快速行动。人们会问影响在哪里。昨天在我们的课上，General Matter 的创始人 Scott Nolan 来到斯坦福讲能源瓶颈。他有一个非凡的想法。他说：“如果你看每算力小时的边际单位经济，就叫它每小时 4 美元吧。如果你不得不在一个新社区里建一个新数据中心，为什么不干脆说我们要收每小时 4.50 美元，然后那部分边际影响或边际增量，我们就直接把它作为现金给当地社区？”我可以告诉你，作为那个算力的客户，我会很喜欢这个。在规模上我愿意每小时多付 50 美分。
Swyx: 哇。是的。
Anjney: 因为如果这意味着对数据中心落地的社区来说公共利益如此清晰，我会觉得那个算力可靠得多。据我了解，今年美国所有数据中心中高达 20% 面临风险。
Swyx: 社区反弹的风险？
Anjney: 对。是得不到它们上线所需的社区支持。
Swyx: 哇。那是个巨大的数字。
Anjney: 是的。现在，我认为我们应该深挖那个数字是什么。我觉得它有点被夸大了。这些事情可能被过度报道，但它——
Swyx: 他们不只是关心就业。他们关心围绕它的所有其他东西，对吧？他们关心电网，关心环境——
Anjney: 电网、许可，等等。想象一下，我觉得如果你说有一笔新的 AI 交易。如果我们在你的社区建一个数据中心，我们实际上会降低你的电费。好，这下有得谈了。对吧？社区会说：“好。现在这是一笔交易。我觉得自己是这件事的伙伴。”现在这没有发生。会有审计，会有调查，当监管者来的时候，我不知道那会是什么时候，那些以 AI 进步之名快速行动、打破东西的人最好做好准备。那当然不是我们采购算力的方式。或者说我们正尽可能与有长期记录的伙伴合作。顺便说一句，其中很多人并不是 AI 供应商。我认为所谓 neocloud 是某种新类别这整个想法，很多是营销话术。美国有真正优秀、可靠、值得信赖的数据中心供应商，已经存在 20 多年了。我喜欢那些人。他们知道怎么——当然。他们会在 NeurIPS 赞助 happy hour 吗？不会。他们会被清楚地列在 Build 上吗？不会。他们会出现在我的 situational awareness 派对上吗？不会。但他们是成年人。我信任他们。
Swyx: 他们能跑 LAN。他们能跑电力。
Anjney: 他们能跑 LAN、电力和 shell。他们有信用记录。我们坐下来，我们对话。他们中很多人住在硅谷。他们不得不应对互联网的繁荣与萧条周期，我喜欢那些人。他们是稳定的基础设施伙伴和思考者。我认为在算力层有很多短期思维，它会追上我们的。那不会好。
AMP Grid：让 FLOPs 像兆瓦一样流动
Swyx: 你谈到对齐激励，我会认为对齐激励意味着你在一家公司里拥有全栈，也就是 xAI 和 OpenAI，对吧？所以你作为一个独立的基础设施层，为什么你会比那些拥有整个东西的人更与你的投资组合公司对齐？
Anjney: 在系统设计中，对吧，有两种架构范式，对吧？有集成，然后有池化和利用，对吧。所以，或者说，提高利用率的方式常常是，你可以做系统集成，把很多流程压缩到一个节点里，或者你可以从一个节点里抽出一个流程，在多个不同节点之间共享那个资源。所以我们看到 AMP grid，也就是我们在这里构建的系统，基本上是一个算力网格。我们试图为算力做电网——
Swyx: 电力
Anjney: 是的，电网为电力做的事。它——这是一个跨云的池化和利用层，所以我们实际上与全栈集成式的方法相反。
Swyx: 超级横向。
Anjney: 它要横向得多，它是多云、多芯片的。目标是试图让 FLOPs 像兆瓦一样流动，而今天由于很多原因这非常难做到。到处都是搁浅的计算资源池，而且没有可替代性。所以现在我们是在调度层面做这件事，而且我们经常在经济层面做这件事。但随着我们开始公布我们正在做的事情，有非常多的人冒出来说：“嘿，我其实正在研究一种方法，让计算在这个栈的这一部分和那一部分变得可替代。”而作为一个电网，我们希望所有这些人都能参与到电网中来。人们经常问我：“Andra，你们是一家新的云吗？”我说：“不，实际上 neoclouds 是供应商。”有时他们会问：“你们是一家风险投资公司吗？”我说：“不，实际上他们是，他们是电网的需求方，算是承购方。”我们把自己看作所谓的独立系统运营商。所以如果你研究电网的历史，一旦它对许多工厂和工业参与者变得清晰可读——嘿，实际上事实证明池化是个好主意。我们应该把我们的发电机池化，而不是每个人都在自家后院让一台发电机半负荷运转。那时就需要一个独立实体来协调所有这些参与方。输电线路、发电、设施、输电线路、工厂，而那个中立的协调机制非常关键。为了——如果你研究电网的历史，最持久的那些是从不拥有自己资产的。它们是那些拥有，或者往往始于长期锚定客户的，这些锚定客户是不相关的需求来源，某个特定城镇里的一家钢厂、一家鞋厂之类的，它们彼此不竞争，钢厂想在夜里冲高，鞋厂想在白天冲高。于是你就池化并共享，对吧？这样你们每个人都保证有一定的基载，但然后你安排你的峰值，以推动整个城镇的峰值利用率。可以说，历史上的黄金标准一直是像美国东北部的 PJM Interconnect 这样的公用事业公司，它们多年来成为了所谓的 ISO，即电网的独立系统运营商。所以这就是我们看待自己的方式。从经济上讲，我们就是这样。从技术角度讲，我们从调度层开始，因为负责这里工程的 Seb 和 Mihai 在——
Swyx: 你们的调度
Anjney: 他们在 Google 做了那个。而且，——
Swyx: 而且你也有来自 Discord 的基础设施团队。
Anjney: 我有一些。
Swyx: 我不知道，我不知道 Discord 是不是主要身份，但不管怎样，我只是——
Anjney: 不，D-Discord 是——
Swyx: 选一个知名的名字。
Anjney: 嗯，我当时在那里负责开发者平台。内部基础设施不是我负责的。那实际上是一个叫 Mark Smith 的人负责的，他非常出色。是的，Discord 确实做了池化，所以 Discord 其实是一个反例。我在那里有机会学到了很多关于全栈基础设施的东西，因为——
Swyx: 是同一回事，是的
Anjney: 它是另一种架构，就是 Discord 构建了自己的 WebRTC 语音和视频基础设施。所以 Discord 没有使用——
Swyx: 对于通话，是的。
Anjney: 是的，没有。对于通信，Discord 没有使用第三方基础设施。全都是内部构建的。然后你最大化利用率的方式是池化来自全球 2 亿多月活跃游戏玩家的需求，对吧？所以那些栈就是这样构建的。再说一次，在系统设计中，反复出现的两个概念是抽象和组合，对吧？而且——
Swyx: 捆绑和解绑
Anjney: 捆绑和解绑，抽象、组合，就像垂直化和——
Swyx: 横向
Anjney: 横向化。所以从这个意义上说，AMP 是电网的独立系统运营商。我们池化需求，我们池化来自若干我们信任的合作伙伴的供给，在四年内达到约 1.3 吉瓦规模。然后我们池化来自世界上一些最好的研究实验室等的需求。我们正与需要非凡长期需求的 periodic labs 坐在一起。这个想法是，他们每个人都在电网上保证有基载，但他们可以根据需要以短得多的时间线灵活地上下冲高，用于计算。这大致就是我在 a16z 提出的、名为 Oxygen 的项目的设计。同样——那也是 Mihai 和 Seb 在 Google 构建的 GQM、BorgX、Borg GQM 实现的相同设计。那就是，你如何让 Google 内部的团队，在内部基础设施上，为他们的基础工作负载保证容量？但当他们需要在研究上冲高时，他们如何确保那足够存在？当然，那个没有被发现、但大约三四年前在 Google 在这个基础设施空间中被实现的大创新，是可中断需求的想法，对吧？你只需排队一堆作业，通过这种类似信用系统的机制，可以有一个竞价机制。
Swyx: 就像优先级。
Anjney: 基本上是一种动态优先级。作业可以基于另一个人说“什么？我有 10 个 token，10 个信用点，我想花在这个作业上”而被中断。另一个像团队负责人、研究负责人说“Genie 3 或别的什么只值五个信用点，而 NanoBanana2 值 10 个信用点”，于是 NanoBanana 的作业获得优先级。那是一个，那是一个编造的例子。
Swyx: 这非常真实。Brain Marketplace 是真实的。而且，我们在播客里和 David Luan 覆盖过这个，他当时——
Anjney: 哦，太好了。好的
Swyx: 当时在那里。批评是，嗯，实际上有时你需要中央指挥来全力投入一件事。而实际上有时通过信用点实现的资本主义行不通。这不是对 AMP 的批评。我只是说，这是 Google 内部尝试过的一件事，它导致 Google 错过了 GPT。
Foundry、前沿实验室和研究囤积
Anjney: 就像，我们本质上把自己的结构组织得非常像 Google。我们被组织为一家控股公司。所以，Alphabet holdings 是 Alphabet holdings，然后他们有这些叫 Google 的子公司和——
Swyx: 其他赌注
Anjney: 其他赌注等等。我们有 AMP holdings，我们有我们的基础设施业务，然后我们有一个叫 Foundry 的资本业务，它孵化新的前沿 AI 实验室，或者作为风险投资投资它们，比如 Periodic。今年早些时候我们从我们的基金向 Anthropic 投了几亿美元。所以无论我们在哪里感觉到团队正在取得进展，尤其是那些在现有实验室如 DeepMind 内部推动了前沿的研究人员等，我发现，会有一个时刻，他们感到与 Alphabet holdings 的独裁不一致。而在那个时刻，有时独裁不再想要他们了。他们说“谢谢。你在这里完成了你的工作。你在某种程度上帮助我们度过了从零到一的阶段，而由于某种原因，我们将降低你那个了不起的全能模型或别的什么的优先级，转而优先考虑编码。”而且，我认为那是一场悲剧，但我理解。他们 Sergey 和团队在那里经营自己的业务。但这并不意味着我们其余的人应该坐等那种进展为世界和人类解锁。如果你想想过去 10 年里 DeepMind 内部发生了多少非凡的研究，我，Demis 和 Sergey 以及那些人做得非常出色。但归根结底，其中那么多从未见过天日？
Swyx: 或者它们只是论文，但他们从未真正把它交付到生产，或者——
Anjney: 更糟的是，论文现在甚至不再发表了，因为 DeepMind 内部有六个月的禁运期，对吧？我们听说过这个，一篇论文出来了，然后我认为有一个六个月的禁运窗口，如果业务团队里有人说“这可能有趣”，它就终身被禁运。
Swyx: 正是。所以被发表的东西就是那些不够好的东西。
Anjney: 基本上存在一个逆向选择问题。是的。在这一点上——
Swyx: 顺便说一句，这是 NeurIPS 上常见的抱怨，就是“嗯，我为什么要看那些是 GDM 垃圾的论文？”
Anjney: 再说一次，我认为这是一场悲剧。我理解。他们在经营自己的业务，但其余的人——我认为研究被囤积有负外部性，所以那里存在市场失灵。需要有人解锁那项研究，而我们无法独自做到。我们只有 1.2 吉瓦的计算。那不算什么。那大约是 400 亿美元的云支出。我们将需要很多——
吉瓦级计算和寿命终止预测
Swyx: 顺便说一句，那是一个新数字。我还没有，还没有遇到过那个吉瓦数字。那很大。
Anjney: 是的。而且要说清楚，我们还没有确保全部。那是我们已经开始确保的需求量。我认为公开地我们实际上还没有确认今年我们有多少。为了——
Swyx: 你想达到哪里？
Anjney: 我认为稳态会是，我们始终拥有一个1.2吉瓦的基载容量池。对于峰值容量，我目前的估计是，未来四年我们需要大约6吉瓦，才能让我们所有团队都觉得他们能够持续推动前沿，无论他们在做什么，比如这边的超导体发现。我们目前正在推进一项新投资，是在医疗保健领域的临终预测方向。你能做到的事情之多令人惊叹——这其实是我研究生阶段的工作。我去了斯坦福医学院读生物信息学研究生。我知道我们——
Swyx: 经济学、MCS、生物。
Anjney: 所以我——我当时是个非常奇怪的家伙，我从来都不满足于我的专业选项。所以有一段时间我是经济学专业，然后我是CS专业，然后我是MCS专业，叫数学计算科学，然后他们决定要终止这个专业。所以我把那些课程都修了，并把它应用到研究生阶段，我的生物信息学研究生学位，那是硕士项目，然后我以为我会去读博士。我最终没读。我退学了，去了Kleiner工作。但我很幸运能在斯坦福医学院跟随这位教授做学徒。他叫Nigam Shah，他当时在做临终预测。斯坦福是美国仅有的几个拥有大规模纵向患者数据集的研究机构之一。我想它至少有1200万患者生命。唯一更大的数据集在VA，也就是美国退伍军人事务部。要在那个数据集上做研究，比如做任何深度学习之类的——当时它叫STRIDE数据集——你必须是斯坦福医学院的附属人员，这就是为什么我去报名读了生物信息学系。深度学习的时代还很早。Nigam Shah有那种洞察力——有那种远见，看到你可以做临终预测来帮助姑息治疗。在美国，所有Medicare、Medicaid支出中，超过30%，至少在当时，花在了临终护理上。而我们是在亚洲长大的，所以我们全都——对，至少我不代表你说话，但我对死亡的关系和我在美国长大的人身上看到的非常不同。在美国，从精神上和文化上，尤其是在西方社会，基督教传统把死亡框定为这个终点，常常有审判日等等。我们看待死亡的方式带有一种终结性。在印度文化中，在印度教文化中，死亡是——
Swyx: 而且他也是佛教徒。
Anjney: 你是佛教徒，对。所以它是一个，它是许多世旅程中的一步，对吧？所以我是在印度南部一个叫金奈的城市长大的，当人们去世时，你会在街上跳舞。会有一个队伍，你的身体被抬去火化，你的家人会庆祝，还有鼓等等。这是件大事。这是因为那个观念：你会转世。你已从这一生的责任中解脱，现在你进入下一世。这是新的——就像去上一所新大学之类的，对吧？所以当我作为本科生来到这里时，这对我来说如此陌生——医疗系统是从那个假设倒推运作的：我们必须把死亡视为这个终点，并延迟它、推迟它，它是件坏事。所以当时，美国的临床决策支持是一个非常原始的领域。甚至到今天，美国的医生常常会在你得了绝症时告诉你，这是你的——我们已经诊断了你，这很好。我们诊断你的能力非凡。你还有大约六个月到六年的时间可活。你拿这个信息怎么办？误差范围如此之大，以至于你——在不确定的时候，我们默认诉诸文化，而当文化是“让我们——这是件坏事，我必须延长我的生命”时，你就开始做诸如——而且，仅从系统角度看，那里发生的情况是，医生常常觉得他们需要提供如此高的误差范围，因为临终诊断总是存在一些不确定性，而如果你给患者提供了错误的诊断或建议，你可能会因医疗事故被起诉。然后你的执照可能被吊销。这对你的职业生涯可能是灾难性的。相比之下，在不是这种情况的国家，你常常观察到的是，患者——医生在建议上相当明确。他们说：“嘿，这是你的病情。文献说你可能还有这么多时间在地球上。我的专家意见是你是个例外之类的。”他们试图更明确，而这赋予了患者力量，对吧？因为那样患者可以说：“我信任我的医生。他们说平均而言我还有六个月可活，但如果我做这些事，我可能有机会，因为我的特定易感性或我的遗传史之类的。”而这赋予你力量，以一种实际上更科学的方式去度过你的生活，而不是依赖宗教、文化、灵性等等。相比之下，在这里，因为那种医疗事故的东西悬在你头上，医生从不给你明确的建议。所以相反你会说：“好吧，医生，那我们全都试试。”然后你开始一整套药物和治疗方案，然后你常常在医院待上好几周，那会恶化你的生活质量。而当那恶化了你的生活质量时，你——不是把最后几天花在和家人做你热爱的事情上，而是花在病床上。而那最终占了Medicare和Medicaid的30%。所以这对患者更糟。医生感觉糟透了。美国纳税人支付了巨额资金。所以这就是为什么Nigam Shah，这位斯坦福的教授，说：“Anjney，如果有——”我有点和他坐下来。我当时很年轻，我——我当时二十一岁，我说：“我想做一个大
问题。”他说：“大问题就是临终护理。”所以我们尝试做深度学习来说，来——所以我们开始尝试在这些试验患者数据集上运行深度学习，说：“你能让一个AI系统做出一个建议，在你被诊断出绝症后，关于你还剩多少时间，比人类精确几个数量级吗？”然后如果我们能把那种精确度提高到足够高，那么你就能赋予患者力量。而事实证明这项技术有效。就像它——一旦你拿到数据集，就像RL有效。老实说，甚至回归模型也有效。你不需要那么花哨。当时，我们只是在尝试，做非常简单的神经网络。
Swyx: 简单的解决方案，对。
Anjney: 今天，我们用RL能做的事情非凡。问题当时和现在都仍然是监管问题，因为你实际上无法把错误临床诊断的责任从医生转移到AI系统上。所以当时，我十年前——十二年前——变得相当幻灭，因为我觉得我只是没有资源去影响监管。今天，我非常幸运。我处在不同的位置。我——我老了很多，所以我一直在花大量时间在我的下一个孵化项目上，那就是我们如何通过训练AI模型来做临终预测，以高得多的精确度和准确——来解锁患者赋权。
Swyx: 哦，哇。你一直专注于这个。
Anjney: 这——在过去十四年里，我没有一天能把这个从脑海中赶走。这是我想——我愿意死在上面的那座山。有两个，我会说。什么？其实，我更愿意不死。
Swyx: 对，没错。
Anjney: 但我认为两个两党议题，我认为在美国应该成为两党议题的两个议题是：我们如何赋予患者在生命终点做出正确临床决策的能力，从而用科学减轻纳税人负担？这就是老派的科学，而AI可以在这里帮忙。第二个是净正数据中心，因为我认为那是训练足够好的AI模型以帮助人们临终时最大的关键瓶颈。所以这有点像是同一条扩展瓶颈曲线的两面，但这两个——我们成立了AMP作为一家公益公司。我和我的妻子，你见过她，你见过Viv。她的热情是教育。她的家族有一长串教育工作者等等，还有物理学家。所以这门课是我试图不再做家族里的害群之马，而成为一名教育者。但如果我不在教育，我会做的事情就是致力于这两个问题，无论是在政治光谱上，还是作为研究者回到某个实验室。我的希望是，如果有任何人听这个播客，如果他们热衷于这两个话题中的任何一个，我很想听到他们的消息。我们会——我们可以在节目笔记里分享联系方式，但我们在寻找人们加入这两个使命，既在政治方面，也在医疗方面、研究方面。
前沿系统、输出最大化与对齐
Swyx: 你说过，这是一门你想形成的学科。你把它叫做各种名字，叫前沿系统。它也被叫做一人前沿实验室。这个东西的理想名称或形态是什么？比如，使命是什么？
Anjney: 这门课的？
Swyx: 你正在探索的这门学科的？对。这门课叫前沿系统。但对我来说，也许一个说法是你就是反浪费，对吧？浪费GPU，浪费人力和Medicare。但是否有一个更广泛的主题，也许你能更简洁地概括？
Anjney: 对。从工程角度看，非常简单。就是输出最大化。就是输出最大化部门。
Swyx: 充分利用我们所拥有的。
Anjney: 完全正确。我极度信奉最优结果。我认为无论是在美国还是其他国家，我们都在丧失对细微差别的鉴赏力，而这就是问题所在。AI 也是同样的情况，对吧？哦，苦涩的教训成立。好吧，没问题。但这并不意味着你就该把 500 块 GB300、500,000 块 GB300 砸向你那个次优的模型扩展方案，白白浪费一大堆算力。这也不意味着，最优的做法就是搞出 50 种不同的架构，而彼此之间又没有足够的标准化。Anthropic 之所以能有那种非凡的速度，原因之一就是他们选定了 Transformer 架构，然后说：“这个简单。我们就全力押注它，”对吧？而现在幸运的是，投入这个领域的资金足够多，我们负担得起其他架构，但在当时，投资被过度分散到了其他架构上，所以可以说，正是这一点解锁了扩展。所以我认为这里有一种哲学。我认为我们都有责任在全球层面上，用一种叫做 AI 的新能力去做“输出最大化”。我想，如果我要在斯坦福新开一个系，取决于我想让它多模糊或者多技术化，我大概会把它叫做“对齐系”。就像——
Swyx: 这是个被过度使用的词。
Anjney: 确实是，但对齐真的是一个难题。而且我认为，当你解锁它的时候，全栈对齐在任何组织和任何系统中都是超级困难的。比如在一家风险投资公司里，如果你能在你的有限合伙人、创造价值的创始人，以及最终持有 IPO 股票的公众之间实现全栈对齐，那就是一份不断带来回报的礼物。而当你研究这些系统的历史时，它们起步时通常规模很小，反馈回路实际上非常紧密，所以存在对齐。然后你越是试图扩展，分工就越多，专业化就越多，而每一步你都会增加抽象层。而凡是存在 API 接口的地方，就会有损耗。会有通信损耗。所以我认为一件非常酷的事情，就是让我们弄清楚：作为一种工程学科，我们有没有办法既拥有蛋糕又吃掉蛋糕？有没有一种办法能够真正地扩展规模和扩展范围，同时不损失任何对齐，不产生有损传输？
Swyx: 你是指标准？
Anjney: 标准是一种办法。另一种办法就是你拥有净新增的能力。就像我们在这里试图做的，是发现新的超导体。室温超导体将是一种无损的能量传输机制。我们就会有飞行汽车。我们距离拥有一种新的室温超导体只有几年之遥。所以我认为就是这两种。你要么必须标准化那些允许无损通信的协议或 API 规范，要么你能拿出一种全新的能力，它解锁了如此多的丰裕，以至于标准化变得无关紧要，因为你直接解锁了净新增的产能。这，这就是我这些天日思夜想的东西。
算力市场、SF Compute 与非 NVIDIA 芯片
Swyx: 不，我认为每一个想要规模、想要输出最大化的基础设施从业者，最终都会思考这个问题。我们没有时间深入探讨，但我们做过一期和 SF Compute 的节目——
Anjney: 哦，酷。
Swyx: 那是在试图标准化算力的期货合约。顺便说一句，我不知道那进展如何，但就像在某个时候这会公开的。
Anjney: 哦，我认为 Evan 很棒，而 SF Compute 是那种我希望我们能加速的努力，因为经常发生的情况是，这些交易所非常难建立，它们很难被启动，对吧？因为它们往往需要——各方之间存在许多低效。基础设施中存在信任边界的低效，因为你不信任，堆栈的一部分不信任堆栈的另一部分会给他们可见性。存在资本市场的低效，存在运营上的低效。所以如果你能向系统注入一次冲击，比如大量的算力需求或供给，那么你就能加速这些新的飞轮。所以我的希望是有一天，或者很快，如果 SF Compute 需要额外的，比如有过剩产能，他们就直接接入电网，然后被来自我们的需求淹没。而另一方面，如果他们有一大堆需求但没有供给，他们同样接入电网，这是一个双向协议，他们可以直接接入我们的产能。而我认为我们离那并不遥远。今天我们对此的工作实现，主要是通过一群实验室、大学，以及少数几个可信的参与方，他们都觉得自己处于对齐之中——借用这个被过度使用的词。但我们的希望是让它成为一个开放协议，任何人都可以接入——
Swyx: 接入是为了需求还是为了供给？听起来主要是需求。就像你——
Anjney: 不，两者都有。
Swyx: 你会想要提供需求。
Anjney: 两者都有。是的。不幸的是，过去六周发生的情况是，我们本以为到今年年底会有大量过剩产能。结果全没了。
Swyx: 它在爆炸式增长。
Anjney: 它，是的。全没了。所以我的短信里塞满了朋友们的消息，我们认识这些人中的很多，这些是在旧金山筹集了数十亿美元的创始人，他们说：“哦，你接下来几周有没有可能搞到 50 个节点？”
Swyx: 非 Nvidia 的，范围是什么，对吧？你有 Lisa Su 要来，还有 Rainer Pope。所以对更高性能的替代架构等等有大量需求。与此同时，这会损害你的标准化。
Anjney: 我不这么认为。所以实际上 Rainer 是个很好的例子，对吧？Rainer 是 MatX 的 CEO 和创始人。我今天早些时候实际上请他来课上做了办公时间，他提出了一个我之前没考虑过的洞见，那就是当他们决定为他们的数据中心选择标准时，他们选择了 NVIDIA 参考架构。所以 MatX 的芯片可以直接插进任何计划了 NVIDIA 部署的站点。而且，那个——
Swyx: 那就只是软件了。它不是那个——
Anjney: 一个——
Swyx: 硬件。
Anjney: 嗯，从输入和 IO 的角度看，它和 NVIDIA 机架的占用空间是一样的。
Swyx: 这说得通。
Anjney: 据我所能判断，他们真正创新了一大堆的地方是在系统协同设计上。而很多收益正是在那里可以获得的。所以他说，他当时说：“Anjney，我们，当你建立一家新的芯片公司时，要做的工作实在太多了。”
Swyx: 没法每条战线都打。
Anjney: 你就是没法每条战线都打。所以我问他的问题是：“那，你在做这款新芯片。他们的流片是明年。你打算和谁合作来托管这些芯片？”他说：“谁愿意托管就谁托管。那根本不是，那不是我的重点。”我说：“但你是怎么——”回到我们早先的系统设计问题，他决定了，他不想成为一个完全、完全整合的芯片供应商。他们聚焦的瓶颈是逻辑裸片，而且他，他觉得他们可以通过在那里的协同设计榨出大量的性能收益。但那意味着你委托出去，回到我们早先的问题，他，数据中心供应商是堆栈的另一个部分，所以他就依赖于生态系统的那个部分来托管他的芯片，把性能收益带给客户。所以现在你有了另一个抽象层，你可能有损耗。所以我问他：“你如何防止损耗？”回到你的观点，他说：“我就选了 NVIDIA 标准，因为我不想，我想搭上一个现有协议的便车。”而 NVIDIA 的伟大之处在于，那个参考架构是已知的。
Swyx: 开放的。
Anjney: 它是开放的。他们把它公布出来了。所以 Jensen 实际上让像 Rainer 这样的人能够建立像 MatX 这样的芯片公司，而我不认为他们是竞争关系。算力需求如此之高。就像，我不，我认为 NVIDIA 无法满足生产的需求，所以我们只是需要更多芯片。而我认为 MatX 所做的非常聪明，那就是说：“我们就，我们不会在数据中心设计上创新，因为实际上，谢谢你，Jensen，你已经做完了所有艰苦的工作。我们能创新的地方在别处。”而我认为那是，那是非常健康的。我认为那就是我们如何解开新瓶颈的方式。而我的观点是，这些，像 MatX 这样的芯片团队，他们得出了协同设计才是出路的洞见，对他们来说主要的瓶颈是信任边界。要做好协同设计，你需要尽快获得对下一代模型的可见性，因为流片需要两年。所以如果我带着我的芯片上市时，你的模型架构已经变了，我就完蛋了。现在，当他在 Google 内部时，他就坐在 Gemini 团队旁边。他在 Palm 还是什么的团队。
信任边界、协同设计与研究员 CEO
Swyx: 他的联合创始人曾是，是其中一个，我想是其中一个 Palm 的人。
Anjney: 是的。是的，完全正确。所以当你在 Google 的信任边界之内时，你的系统协同设计回路就超级紧密。当你作为创始人离开时，你承担的最大风险之一就是你现在处于信任边界之外。所以我喜欢做的事情，就是帮助那些能帮我们为独立生态系统解锁更多产能的芯片团队获得信任。因为当我，如果我，从第一天起就参与一个实验室，而我有幸与 Anthropic 合作，然后我是 Mistral 的董事会成员，并帮助 Black Forest Labs 起步。我想到现在为止我在六七个不同的团队里。
Swyx: 才六个？我感觉我脑子里的数字会是 13，但，是的，它是——
Anjney: 不，我一次只深入一个。
Swyx: 你是 Arena 的创始 CEO。
Anjney: 不，那是一个，那是一个——
Swyx: 行政 CEO。
Anjney: 那是一份为期五个月的行政性质的工作，当时 Whalen 和 Anastasios 即将博士毕业，他们不需要产品团队。所以我帮忙招募了工程产品与设计负责人。但 Anastasios 一直是那家公司的 CEO。我扮演的是一个临时救场的角色，我是个实习生。我当了五个月的 CEO 实习生。
Swyx: 我采访过他，他非常能言善辩。我觉得他是辩论赛的，前辩论赛冠军。但同时他也非常量化和数学化，这——
Anjney: 他——
Swyx: 简直是独角兽。
Anjney: 你看，他厉害在哪儿？如果你看他的产出，他是个产出最大化者。到他博士毕业的时候——他去年才刚毕业——他发表的作品和引用数已经超过了两倍于他年龄的人。但与此同时，他已经启动了一个叫 LLM Arena 的项目，作为副业项目被数百万人使用。一次又一次，我意识到的是，风险投资人很不擅长把人看作动态的能动者，而——
Swyx: 他们想把你塞进一个盒子里。
Anjney: 他们想把你塞进一个盒子里。
Swyx: 这是你的招牌观点。
Anjney: 所以第一次有人把我介绍给 Anastasios 时，有人跟我说：“哦，他很厉害，但他是个研究员。”我说：“什么？你说他是个研究员是什么意思？”那就是——
Swyx: 就像说他不是 CEO，不是创始人。
Anjney: 不是 CEO，没错。我说：“你疯了吗？你见过 Dario 吗？”Dario 是个科学家。他在四年里从零做到了一家很快将价值万亿美元的公司。名义上当 CEO，没那么难。当一个好 CEO 很难。当一个伟大的 CEO，实际上需要一种已经在自己领域顶端发表过成果的科学家所达到的表现水平。成为一名有竞争力的科学家是超级难的。在过去 20、30 年里在学术界发表成果，在像 Berkeley 这样的地方做到你学科的顶端，你就是明星运动员。就像，你是心智的运动员，你在最高水平上表现。而要达到那里，无论你是 Berkeley 的 Anastasios 或 Whalen，还是 Robin，他——
Swyx: BFL，对。
Anjney: 在 Black Forest，创造了 Stable Diffusion，或者像 Meta 的 Guillaume，在创办 Mistral 之前创造了 Llama。为了获得资源，比如获得组织的信任、发表成果、把它推出来，你必须展现的人类领导力之大。我完全可以整天只投研究员，对吧？投那些已经对该领域做出贡献的人。如果他们，如果他们已经把 SOTA 摆在那里了，他们，他们已经是明星运动员了。如果他们还没做出 SOTA——听着，他们仍然可以成为好 CEO，但我发现的失败模式是，他们就是不想当 CEO，他们主要想发表成果，那也没问题。我们用 AMP Grid 做的一件事是捐赠多余算力。我们有两个非营利组织，比如大学实验室。我们划出了大概几千块 H100。但我确实认为大学校园里正在做非凡的研究。我岳父是物理学家。他是教授。在物理学领域做着非凡的工作，我们需要这个。但如果你想当 CEO，你需要愿意做的是，在科学之外超级具有对抗性。就像在科学界内部，一些最好的研究员对自己的信念非常具有对抗性，对吧？这个架构是对的。要成为一个伟大的 CEO，你基本上必须愿意在整条栈上上下下都具有对抗性。
Swyx: 对你自己的团队。
Anjney: 对你自己的团队——
Swyx: 对客户。
Anjney: 招聘、招募客户。嗯，我会说，对，基本上对每个人。所有人。当然——
Swyx: 我明白，我在自己的工作中也感受到一点这个，但，是的，我无法想象 Dario 不得不经历的那些利害关系。那，那相当疯狂。
Anjney: 不，我不觉得那些利害关系跟你感受到的有那么大不同，对吧？利害关系是个人化的缩放向量，对吧？对你来说看起来很低的利害关系，比如做这个播客，你可以跟某人聊天，而且你是个非凡的沟通者，对吧？就像在这场对话里，你已经从我这里挖出了比大多数人都多的东西，而我过去两周上了 12 个播客。
AI Coachella 与第一性原理思维
Swyx: 我觉得，我们只是彼此见得够多了，所以有一些基础信任。
Anjney: 有基础信任。
Swyx: 而且我觉得，我知道你，我做了功课，而且我知道信任对你来说是件大事，所以。
Anjney: 我认为信任关乎一致性，而你我多年来在社区里都见过彼此，对吧？就像，我记得我们第一次见面是在新奥尔良的 NeurIPS。我不知道你还记不记得那次，午餐会。
Swyx: 我的天。
Anjney: Reiko 安排了这次，Reiko 很厉害，他安排了这次午餐会，而且——
Swyx: 对，我当时想：“这个 Discord 家伙是谁？”我想：“好吧。”但——
Anjney: 不，你才没有——
Swyx: 你只是“你做了一些投资。”
Anjney: 你可没那么客气。你是“这个 VC 是谁？”你就像——
Swyx: 不，我，我有吗？我的天。
Anjney: 那是——
Swyx: 我太抱歉了。
Anjney: 那在你脸上看得清清楚楚。
Swyx: 我太抱歉了。但你不是，你不是——那次介绍很糟糕。我当时不知道你是谁。
Anjney: 你看，这就是上下文的问题，对吧？就像，但后来我觉得我听到了你的口音。我说：“你是——”
Swyx: 新加坡，对。
Anjney: “你是新加坡人吗？”你说：“对。”我说：“我在新加坡上过高中，JC。”然后冰就破了。但这就是——在科学界，有时候对那些没有接受过情感方面所谓 EQ 教练和指导的人来说，利害关系非常高，对吧？也就是说，要有科学影响力，你往往需要是一个非凡的情感上，嗯，跟你试图影响的人在情感上同频的人。所以对你来说如此自然的事，对其他人来说其实是超级高利害的事。所以我不会假设 Dario 比你压力更大。这些事情是——你会惊讶于有时候世界上一些最大的领导者面对的问题，对你来说是多么相似和渺小。而这就是我从这门课里学到的。客座演讲者有 Sam、Satya、Jensen。
Swyx: AI Coachella。
Anjney: 对。就是 AI Coachella，对吧？所以我们必须把所有压轴大牌都请来，而他们——我很幸运，其中一些人要么多年来指导过我，要么我跟他们做过生意。而当你把表演性的东西拿掉，把你在媒体或 Twitter 上读到的关于这些人的任何假设拿掉，我们都只是人类。我们都只是想好好相处。而这一刻如此特别的地方在于，AI 正在迫使，就像缩放，苦涩的教训正在迫使很多人修正他们对世界如何运作的假设，回到第一性原理，或者去教育自己。所以我遇到的那种人，我不会说这个人是谁，但我上周在得克萨斯州参加一个活动，碰到一个人，他说：“Anjney，我看到了那门课。你怎么看实时动作预测模型？”我当时，不知道他问我这个问题让我感觉有多开心。我知道他们做了功课。他们挑战了自己。我是，他们没问我：“你怎么看世界模型？”他们说：“你怎么看 n-”
Swyx: 实时动作预测。
Anjney: “动作，实时动作预测模型？”世界模型，别误会我，很酷什么的，但你我都知道那是一个抽象层，有时候不够有用地精确。对吧？我们的——
Swyx: 大概有四种不同的世界模型。
Anjney: 对，没错。
Swyx: 顺便说一句，我们已经做过那部分了，用一般直觉，非常聚焦于，——
Anjney: 哦，酷。对。我喜欢 Pim。Pim 很棒。而这就是我喜欢那些做过那种水平工作的人的地方。他们意识到自己并不跟世界上其他人以为他们在竞争的人竞争。
Swyx: 因为他们不在那个类别里，他们在他们试图做的具体事情里。
Anjney: 他们聚焦于自己的使命，而且他们对自己试图解决的瓶颈有系统性的理解。当别人说：“我也在做实时动作预测模型，”Pim 会说：“哦，我喜欢那个人。我想，我可以向他们学习。”但一旦他们变成“哦，那个人是世界模型的人”，那就变成“哪种世界模型的人？”但大多数时候他们只是想弄清楚这是不是在浪费他们的时间，因为我们没有足够的时间。所以，比如 Pim，超级，喜欢我合作的另一家公司，我们聊过的，叫 Black Forest Labs。他多次跟我提到他如此，他认为 Flux 在做的事真的很酷。Andy Blattman 来过课上演讲。而我一次又一次发现，对于那些做实际工作、能够对前沿研究世界里实际正在发生什么做到有用精确的人来说，那种同袍情谊仍然鲜活存在，但当你不得不把技术复杂性抽象成商业术语时，它有时会丢失。然后 VC 们就说：“你跟那个世界模型有什么不同？”我要说，我从哪儿开始解释这些东西？然后错位就悄悄进来了。
在前沿 AI 中领先 vs. 获胜
Swyx: 这很好。对，我觉得，听众能感受到，像你这样的人在真实层面运作是什么样子，而不是在记者层面，在那个层面你必须把每个人放进一个粗略的类别，创造一个竞争叙事，谁今天赢了，谁落后了。
Anjney: 这个——这个获胜的想法对我来说太奇怪了。
Swyx: 你确实想赢。你想要，你想要竞争力。
Anjney: 不，我觉得你想要的是领先。
Swyx: 你想要SOTA。
Anjney: 不，我觉得你想要的是领先。对，所以你想要推动前沿。你想要推动SOTA。你想要做一些以前没做过的事。你想要获取价值，但你不想获取太多价值，以至于人们觉得你偏离了自己的使命，或者觉得你不是在做对世界最有利的事。你想要获取足够的价值，让你能持续创新，对吧？而且我觉得人们想要的是领先，他们并不真的——这个赢和输的概念，再说一次，我很喜欢Jensen。他是个，他是个领导者。他在Dwarkesh播客上谈到的那个心态，对吧？他说“我醒来时可不是带着失败者的心态。”我觉得那太棒了，对吧？因为他是个，他是个工程师。Dwarkesh做了功课。所以至少——尽管在我看来，很明显他们在谈同一件事，他们只是擦肩而过。他们基本上只是——Jensen有他那个关于行业如何运作的五层蛋糕抽象。而Dwarkesh，我觉得从那个播客来看，更多是预训练、中训练、后训练的系统循环概念。
Swyx: 这只是他跟谁聊的问题，对吧？再说一次，这很明显。
Anjney: 是系统，是抽象，是心智模型，是那整套——老兄，世界上太多问题都出在类比推理上。然后是那些被隐形持有的假设。
Swyx: 对，我说过，这实际上是人类历史上第一性原理思考者的最佳时代。因为你认为会发生的一切，现在实际上都在成真。
Anjney: 没错。而风险投资界在这方面是出了名的，人们会看——在不确定的时期，他们会抓住上一个时代最终被证明为真的那些公理，然后有点像自信满满地宣称它们是真理，但它们并不是。看清启发式和公理之间的区别非常重要。公理可以被证明——
Swyx: 比如从内部一致性的角度来说
Anjney: 从内部一致性来说。启发式是一种你有点像走捷径的方式。我的天，过去几年我不得不忍受的那些宣称——把启发式当作公理来评判人、评判哪些公司会成功的人，数量之多——还有那些说“哦对，Anthropic，他们现在只是在训练模型”的人，但这个还会继续。
Swyx: 因为那是个B2B SaaS？
Anjney: 对，那个，就像——从足够长的时间来看，如果你眯着眼看，也许吧。但你到达那里的方式太重要了，你可以——你就是，你可以 dismiss 掉一些人。事情是这样的，对吧？发生的事是Anthropic基本上在去年十月实现了起飞。那次训练运行——
Swyx: 随便吧，三点七？
Anjney: 我现在忘了那些数字了，但不管那个检查点是什么——
Swyx: 我们看到了那个认知。
Anjney: 对。对吧？你可能——对我们社区里的人来说，尤其是当后训练完成并在十二月发布之后——
Swyx: 对。我能偷偷插个问题吗？我不知道你有没有看法，也许你没有，我只是——头号问题是Anthropic是怎么攻克编程的，对吧？因为Claude One、Claude Two，好吧，算是其中一部分，但不是什么大事。而主流假设是，那是一次幸运的掷骰子，然后被复利放大了，对吧？就像它只是稍微好一点，但他们看到了，然后说“好吧，让我们真正投入。”
Anthropic如何攻克编程
Anjney: 我有个非常烦人的老师。我上的是印度一所叫Rishi Valley的寄宿学校，那地方像个鸟类保护区。是印度乡村里三百五十英亩的鸟类保护区，而且有七年没有科技。有个老师，我不说名字了，但他会有这个——每次他对我说这个我都讨厌。他说“幸运眷顾有准备的头脑”，这是句常见的话，但他表达的方式总是让我恼火，因为他总是——我一直是那种不怎么努力就能拿到好成绩的孩子。因为如果你大体上专心听讲之类的，初高中并不那么难。有一次我——但然后我会拿到八十分的成绩，他就会一直推着我说“你没拿到九十五分以上的原因是你没那么幸运。”我会说，“你什么意思？”因为我会觉得我配得上那个成绩，有时我会跟他争。他会说，“你没有有准备的头脑。如果你想再次走运——”基本上有一次我在这个科目上拿了九十五或九十六分，然后我，现在我觉得理所当然了。我说“好吧，我要继续这么做，”但我没有。然后他说“幸运眷顾有准备的头脑。你上次走运了，但你得保持准备。”我当时不明白他什么意思。现在，我年纪大了，我明白了，这些成年人确实懂点东西。Anthropic是四年来准备最充分的公司。所以当正确的上下文数据进来、正确的开发者开始发送正确的上下文差异时，当然，你可以说你走运了，但如果你问我，他们可是带着偏执准备了整整四年。而且你得记住，他们早期起步太难了，不得不用少得多的资源做多得多的事，所以你必须准备好做到如此高效。
Swyx: 对。有关于他们和OpenAI相比烧钱的数据。我，我写过，但他们在技术栈上高效太多了。
Anjney: 这甚至不是——这都不好笑。
Swyx: 差得远。
Anjney: 对。但这太明显了，对吧？就像如何为世界输出最大化。他们一直准备着，你可以把这叫做运气，但幸运眷顾有准备的头脑。
文化、艰难与Anthropic的P0
Swyx: 这是我在翻你一些旧讲座时想到的事情之一，你当时说，人们认为数据是护城河，实际上文化才是，实际上团队才是。而且我，这是——护城河有不同的层次，而这才是决定其他一切的终极护城河。然后你可以复利——
Anjney: 你是说文化是终极护城河？对。但文化这个东西非常脆弱。所以护城河，我不觉得它们是——我发现真正算得上护城河的很少。它们——这是个不错的概念，但现实中，你必须不断补充你的文化。Ben Horowitz是周二CS153的演讲者，我问了他关于团队中文化瓶颈的问题，因为有好几个AI团队——
Swyx: 他的书，《Hard Things About Hard Things》
Anjney: 《Hard Thing About Hard Things》。但更具体地说，今天有那么多AI实验室，他们有需要的所有现金，有需要的所有算力，却仍然无法交付任何SOTA的东西。然后你开始看到人们离开之类的，我的诊断是，是文化。所以我问了他，Ben，他们——他一直是AI实验室最激进的投资者之一。他回到这个在我脑中回响很多的东西。它——当我在a16z工作时，我会订一间会议室，就在会议室外面，那间离厕所最近，因为那是我在Zoom会议之间去上厕所最快的方式——
Swyx: 哦我的天，我会把厕所优化做到极致。好吧，算了。
Anjney: 事后看来，这并不健康，但也许这说得太多了。不过总之，那次会议外面的墙上印着这样一句话：“文化不是一套信念，而是一套行动。”作者是武士道，是这位日本哲学家。如果你不再采取那些行动来证明你对团队、对世界所说的使命对齐——那些对你重要的东西——那么你的文化就开始瓦解。所以它实际上并不是一条护城河，我会说。它是一件非常脆弱、易碎的东西，需要像花园一样每天照料。但如果你能设计出一套系统来让那座花园得到照料——我认为这最终归结为了解你自己，因为如果你真实、等等，你最自然就会做出对你来说似乎毫不费力的取舍，而这些取舍会强化你的文化。然后这就变成了别人非常难以追赶的东西。而在Anthropic，从第一天起，就有这种使命般的、传教士般的热情和信念：嘿，这些能力会规模化。这些系统是随机的，不是确定性的。会有误差范围，而在我们攻克可解释性之前，就有风险。到了某个时候，人们会——不再只是为了编程而使用Claude。他们会在某些关键任务场景中使用它，那里——它会抛出一个bug，然后人们就会来指责他们，而他们想站在历史正确的一边，说：“是的，这是一项强大的技术。我们认为它会改变世界，而我们想非常审慎、非常科学地对待这样一个事实：‘嘿，各位，这些是统计模型，统计模型。’统计就是这样运作的。”归根结底，当你训练神经网络时，它就是一个统计系统。而我认为，那种认为安全很重要的信念，在早期可能看起来像玩具一样，有时你可以说：“Anjney，他们完全夸大了风险，”就像两年前他们说“我们不要发布Claude One”之类的。好吧，也许事后看来是这样，但事后诸葛亮人人都是。而在当时，他们不知道那个模型会被如何使用，对他们来说，如果有人来说“你不负责任。它——它写出了一个bug”，那感觉是关乎存亡的。与之相关的责任是巨大的。那么你如何防范这一点？嗯，日复一日，你说安全。而当你开始偏离这一点时，你让团队来问责你，你让世界来问责你，我认为随着时间推移，这就变成了一条护城河。到了某个时候，那条护城河会受到挑战等等，然后它就变得脆弱。我希望它能持续下去，因为这就是让创始人掌舵的美妙之处，因为他们可以做出非常艰难的取舍来实现使命对齐。最难的部分是在最早的日子里，当你还没有一群一起经历困难、压力、危机的人时，你的文化就不会被足够清晰地定义，而这就是我现在担心的，因为有这么多钱涌向这些实验室。没有艰难困苦。没有——
Swyx: 对任何知道的人来说
Anjney: 没有对任何知道的人来说。而那，事后看来，对Anthropic来说是一个特性，而不是一个bug。说不的人的数量，说“抱歉，我们都在做OpenAI的投资人”的人的数量，那就是竞争差异。它迫使你真正理解，你愿意以牺牲其他一切为代价，死在哪座山上。什么是P零？而在那里，从第一天起，P零就是编程。那里的原因、机制系统是：如果我们攻克编程，那么我们就会攻克AGI。我们的使命是AGI。我们想安全地到达那里。如果我们专注于编程，它是一种如此普遍强大的能力，可以加速计算机上各种工作。而如果我们能加速计算机上的各种工作，我们就能到达AGI。结果，他们不得不对许多其他东西说不。在这里，超导是使命。编程不是使命，所以我们用Claude。我们会用Claude。我们不在乎那个。使命定义一切，而我认为，那些能太快、太早筹集太多钱的团队，那些不必定义P零是什么的团队——因为当你资源稀缺时，那是你唯一必须投资的东西——那些文化最终会是最脆弱、最易碎的，它们甚至几乎无法起飞。
Periodic Labs、物理学与硅谷雇佣兵
Swyx: 那么让我们把这个应用到Periodic，既然我们在这里。他们强迫自己经历的限制或艰难是什么？
Anjney: 老兄，在——这里？你疯了吗？不。嗯——是的，好吧，所以在技术层面上，是物理学。它字面上就是现实。
Swyx: 但是有没有，有没有，有没有另一个，那个公司建设——
Anjney: 是——是的。当——Liam是ChatGPT的共同创造者，而Doge在DeepMind是Demis的隔级下属。他创造了Genome，所以是DeepMind产出的最重要的工具之一。当时，我是斯坦福物理系的访问科学家，我们开始对前沿模型在物理和科学能力上进行基准测试，它们并不很好。它们擅长做诸如论文摘要之类的事情。但如果你说：“嘿，你能不能分析来自凝聚态物理实验室的科学数据？”我当时在斯坦福的凝聚态物理组。那很糟糕。所以12个月前它并不受欢迎。Periodic和我不会进入细节，但有人说过——就在几个月前——说他们想加入公司。而他们，出于某种原因，在别处找了份工作。他们有点背弃了承诺。他们在别处找了份给更多钱的工作。然后我们有了一个技术突破。创建了一个SOTA系统，而且就像——它是——
Swyx: 我很兴奋——
Anjney: 是的。当你看到——
Swyx: 去报道它。我们会，我们会做一个单独的播客，关于Periodic。
Anjney: 然后他们想回来，我说：“不。”
Swyx: 是的，当然。
Anjney: “不可能。你如果你来这里，你——”
Swyx: 你有过你的机会。
Anjney: “你有过你的机会。”
Swyx: 因为这实际上是关于文化。
Anjney: 当然。
Swyx: 以及第一性原理，是的。
Anjney: 而且看，我相信第二次机会等等，但时间需要治愈。其中一些伤口——它们会留下深深的——对他们来说，会留下深深的伤疤，但因为我24、25岁就创办了我的公司，我经历了整个背叛和戏剧的循环。于是你意识到，硅谷既是一个非常传教士式的地方，也是一个非常雇佣兵式的地方。有时人们会失去理智，当大钱卷入时，而那，从大局来看，是相当小的钱。就像，我们——你在拿它——
Swyx: 对我来说是改变人生的，也许对你来说没那么重要，但很多人没有被教过——
Anjney: 就像，我当时——
Swyx: 如何处理金钱。而且是的，我们不是从那种特权背景出来的，对吧？
Rishi Valley、新加坡，以及作为衡量标准的金钱
Anjney: 我是条街头狗，老兄。我，看，我在Rishi Valley长大。我们没有，就像这是被强制的粗野主义。Jiddu Krishnamurti创办了这所学校，是“你将睡在一块坚硬的石板上。”我的床垫就这么薄。？而当你在新加坡长大，当我到新加坡时，我曾经睡——我是奖学金项目的一部分，但那，那很棒。我非常感激新加坡政府。但我在St. Andrew's JC，而我们的宿舍，在Boon Keng——
Swyx: ——嗯
Anjney: 地铁站，是——
Swyx: 那不是一个有名望的社区。
Anjney: 嗯，它是一个，它是一个过渡宿舍。因为他们正在SAJC在Potong Pasir的场地上建造这个美丽的、住宅式校园。但我们——我们是最后，我想是倒数第二批在过渡场地的，那是一些旧的，我想，我想它是，一个移民劳工——
Swyx: 那是我们安置在工厂之类地方工作的人的地方。
Anjney: 对。所以我住在一个——在我11和12年级，我睡在一个这个大小的卧室里。就像，字面上从这里到那里。对吧？有，双层床。所以，这里一张双层床，那里一张双层床，上面一个，上面一个，这里再一个，然后这里是我们的，我们放洗漱用品和衣服之类的地方。而当一个人爬上他那里的床时，这一个就会晃。
Swyx: 哦，我的天。
Anjney: 而我的一个室友，他来自——而且那很棒。我热爱其中的每一分钟。我的室友是一个来自中国大陆、来自中国的顶级Dota玩家。不会说英语。爱他。了不起的人。
Swyx: 所有新加坡学者都很棒，老实说，我们应该对你们更好，因为你们后来所做的事。但——
Anjney: 看——
Swyx: 知道这个很酷。
Anjney: 不，我想说的是，我在生活中不需要太多就能快乐？当你经历过那些，金钱是一种方式，我认为有时我们用它来衡量自己，但当它，当它不再成为——借用古德哈特定律——当它不再只是一个副产品而更像是一种衡量标准时，它就不再有意义了。
Swyx: 你用它来做更有意义的事情。
Anjney: 正确。
Swyx: 它是追求使命的资源。我留你比我应该留的更久了，但我们应该继续这个在——
结尾：鸡饭与接下来会发生什么
Anjney: 随时，老兄
Swyx: 一个第二部分。
Anjney: 在哪里找到我。
Swyx: 我真的很享受这个。是的。你，你太鼓舞人心了，而且，是的，还有更多我想深入挖掘的，关于你如何设置一切，你的每一项投资，AMP进展如何，但我们没时间做那个了。但非常感谢你加入我们。
Anjney: 见到你真好，老兄。我们找个时间吃鸡饭吧。
Swyx: 是的。我实际上，明天。我会给你发一个，我会给你发细节。我在办一个生日派对。
Anjney: 那我没收到邀请？
Swyx: 而且必须是一场新加坡式的生日派对，对。是的，你现在收到邀请了。
Anjney: 好，太好了。
Swyx: 好的，谢谢。
Anjney: 好的。谢了，兄弟。
本文由 AI 翻译。