“个人PC浪费内存，利用率只有5%，这是极其糟糕的！”奥特曼一句话引爆争议，马斯克隔空回怼：民众也有权拥有RAM

整理 | 屠敏

出品 | CSDN（ID：CSDNnews）

「从全球资源分配的角度来看，让每个人都在自己的个人电脑里囤积大量世界上供应有限的 DRAM，而利用率只有 5%，这是极其糟糕的。」

近日，OpenAI CEO Sam Altman 在接受采访时的一番话，让不少 PC 玩家坐不住了。

这段时间，AI 算力需求持续增长，内存价格也跟着一路上涨。普通用户想给电脑升级内存，成本越来越高。偏偏 Altman 认为，相比让内存闲置在个人电脑中，将其集中到数据中心或许更有价值。

这番表态很快引发争议。埃隆·马斯克（Elon Musk）也加入讨论，直接回怼：「民众也有权拥有自己的 RAM！」

那么，Altman 为什么会提出这样的观点？他口中的「全球资源分配」究竟是怎么回事？

这场争论的起点，出自最近一期名为《Cheeky Pint》的播客节目。两个百亿美金公司的创始人——Stripe 联合创始人 John Collison 与 OpenAI 联合创始人兼 CEO Sam Altman 坐在酒吧里喝着啤酒，聊起了 AI 产业发展中的一系列问题。

从内存与算力的供需困局，到 AI 智能体团队的崛起，再到前沿模型对人类科学家的冲击，两人的对谈涉及了不少值得关注的行业话题。

软件正在被 AI 重写

John Collison：我们今天不按台本走，边喝边聊。这虽然不是咱们第一次喝非健力士（Guinness）的啤酒，但绝对是第一次喝 IPA。凡事都有第一次，干杯。

Sam Altman：干杯。

John Collison：我想问问关于“PHP 危机周”的事。首先，为什么花了这么长时间才发现这些漏洞？因为听起来它们好像——

Sam Altman：你的意思是，为什么花了 20 年，还是说为什么是在过去这几个月里被找出来的？

John Collison：没错，为什么花了一年？也许你可以先解释一下这个漏洞，或者说这个问题。

Sam Altman：问题在于，尽管我们早就知道这些模型在发现实际环境中的漏洞变得越来越厉害，但 A）它们还在相当快速地进化，B）人们之前并没有真正用它们去扫描全网的内容。

互联网上的攻击面非常广，代码量也极其庞大。随着大家开始这么做，我认为我们会发现，这个世界里存在的严重漏洞比我们想象的要多得多，尽管很多长期关注这一领域的人心理预期已经很高了。

John Collison：我感觉很多讨论最后的落脚点都是“我们需要修复软件”。当然，我们应该修复软件，但也或许我们需要改变软件的架构，不过这更难，却也是一个更持久的解决方案。

你觉得全球范围内的软件升级会是什么样？比如，用 PHP 写代码本身就是个糟糕的主意，你应该用 Rust 重写一个干净漂亮的版本？还是说我们直接去升级 PHP？既然大家都觉得我们需要升级所有手写的软件，那这到底会以什么形式发生？这对 Infosys 这样的外包巨头来说是不是个天大的利好，因为会有海量的软件咨询项目？

Sam Altman：现在，越来越多的人开始讨论重新架构现有的技术体系：无论是路由器、操作系统，还是应用程序，都有可能被重新设计。这听起来是一项极其艰巨的任务，除非我们拥有足够强大的新工具来实现它。而事实是，我们确实有了这样的工具。这也正是接下来可能发生的事情。

你已经能看到，新一代初创公司开始探索构建一种全新的互联网，或者重新设计应用架构，以适应模型智能不断提升的世界。有些初创公司甚至直言，要从头打造一套全新的技术栈。

这在两年前听起来简直不可思议。那时候，你肯定会觉得：“这根本不可能，涉及的范围太广了，你不可能写完那么多代码。”

但现在，这件事或许已经触手可及，甚至很快就能实现。我敢打赌，我们将迎来一种全新的系统构建方式，以及一种全新的网络构建方式。

8 岁、10 岁的孩子如今也能用 AI 做出完整的 3D 游戏

John Collison：还有什么让你联想到早期的互联网时代？

Sam Altman：最让我联想到早期互联网的，是人们使用这些工具时所迸发出的那种令人难以置信的创造力。尤其是在孩子们身上，你能清晰地看到这一点。也许是因为我还记得自己第一次拥有一台联网电脑时的感受：我可以用它做各种事情，而这些事情，甚至连成年人都未曾想到过。

看着一个八岁或十岁的孩子，带着一些成年人绝不会有的疯狂想法，做出一款完整的 3D 电子游戏，并且理所当然地认为，技术在他们余生中就应该这样运作，而且只会变得越来越好，这种感觉很奇妙。

他们脑子里总是冒出各种想法：“我要给自己做点有用的东西，再拿去给朋友看看。”而我小时候，为了写出一个勉强能运行的破软件，可没少吃苦。现在，只要你敢想，十分钟就能做出一款完整的 3D 游戏。

这让我想起了早期的互联网。对这些孩子来说，这种能力根本不值得大惊小怪，因为在他们眼中，世界本来就应该如此：任何他们能想到的点子、任何他们想创造的东西，任何他们觉得可能有用、能让生活变得更好的事物，电脑都“应该”能够帮他们实现。

John Collison：然后大家发现自己连代码都不会写了。

Sam Altman：倒也不至于完全不会，但当时那种感觉就像，“哇，要是你真的不会写了怎么办？”

我记得我还是个学生的时候，有时会遇到一些真正的老前辈，他们偶尔会掏出巨大的 Xerox Alto 磁盘，或者一行行用汇编语言写的代码，甚至拿出打孔卡片。让我觉得不可思议的是，你们当年竟然是用这种方式一步步把我们拉扯到了今天这个地步。

John Collison：而且还得把程序记在脑子里，对吧？写了几百上千行代码之后，程序第一次就能跑通。像这样的“失传手艺”可有不少。

搞网络安全强化学习是个错误吗？

John Collison：回到网络安全这边，回过头来看，搞网络安全强化学习是个错误吗？还是说我们就是别无选择？这有点像《周六夜现场》（SNL）里的那个梗——“我们恳求你来恳求我们停下”。模型在网络安全方面的能力变得非常强，但这并不完全是自然涌现的结果。

Sam Altman：SNL 那个梗之所以好笑，是因为它太真实了。这种幽默之所以能让人印象深刻，正是因为它精准地指出了社会或某些人身上那些荒谬、却又真实存在的现象。

关于网络安全，确实有一种声音是：“没错，模型在网络安全方面很厉害，但谁求着你们搞这个了？你们为什么非要这么做？”

我对我们这个领域感到非常失望，或者说，有一点想要批评的是：我觉得我们在向公众解释“为什么我们认为，即便这项技术存在潜在的负面风险，依然值得去开发”这件事上，做得并不好。

现在有一种夸张的刻板印象，仿佛我们在向公众推销时是这样说的：“好吧，你们说模型将来能治愈癌症，也许吧。如果真能做到，那当然很好。你们说它会让东西变便宜，好吧，也许我已经能看到一些好处了，比如我可以获得医疗或法律建议。但接下来，你们又描绘了一幅未来的画卷，说这将是一场新的工业革命。可上一场工业革命也未必有多好，而这一场听起来只会更糟。我将失去工作，在未来失去控制权、选择权和自由。AI 还危险到了一种程度，以至于你们不得不建立一个疯狂的监控国家，才能确保我们大家不至于全灭。”这种推销说辞真的糟糕透顶。

在 OpenAI，我最引以为傲的一件事，就是即便“迭代部署”——也就是将这些工具逐步交到公众手中——在 AI 安全圈子里极不受欢迎，我们依然坚守了这一原则。我认为，这是唯一一条正道。

仅仅告诉人们“模型会为你做这些很棒的事”，是不够的。真正应该传达的是：“我们将赋能你，让你过上自己定义的、更美好的生活，让你能够做出有用的东西。你不会只是坐在那里领一份全民基本收入，然后眼睁睁看着几个坐在旧金山那几平方英里土地上的人，替你决定未来的一切。”

John Collison：迭代部署的理念就是，你必须把取得的进展推向世界，不能把它们一直捂在实验室里。

Sam Altman：你仍然需要在把它们放出去之前确保它们是安全的。你不能给世界带来浩劫。但是，形成“能力过剩”（指模型具备但未向公众开放的巨大能力）是我们必须要去避免的。从方向上来说，你就是要把它推向世界，交到人们手中，让人们自己使用技术去探索出各种奇妙的用途。

John Collison：漏洞利用往往能上头条，但被成功防范的漏洞却无人问津。大家在“网络蓝队”（Cyber Blue，防守方）方面的进展有多快？

Sam Altman：关于 PHP 那件事，我现在还不想宣布胜利，因为我觉得一切仍是未知数，接下来可能还是会发生一些糟糕的事情。但如果回想十天前，我最担心的那种情况，那么事情爆发的第一天，实际情况已经比我预想的好得多。

我们听到了很多这样的故事：人们不仅在用我们的模型编写补丁、构建网络防御，甚至有些独立公司直接说：“我得赶紧做一次快速扫描和部署。我要把服务下线一小时，用这个工具跑一遍，然后再重新上线，因为我的应用现在已经挂了。”

我现在甚至有点担心自己是不是立了个 Flag，不该这么说。但至少就第一天而言，情况确实比我想象的顺利得多，而且大家也确实在使用这些工具。我听到很多网络安全专家都在讨论一件事：他们已经不再确信，我们威胁模型中隐含的那些前提假设是否依然成立。

如果一切都如我们所想，硬件漏洞也确实像我们认为的那样难以利用，那还好，我们至少能够预测事态会如何发展。但如果 AI 能够在硬件层面发现极其深层、前所未见的漏洞，甚至涉及一些我们尚未理解的物理学原理，那么突然之间，某个原本成立的前提假设就可能不再成立。到了那时，大家就真的不知道接下来会发生什么了。

John Collison：有件事一直让我很惊讶：当我和 OpenAI 或类似公司里非常懂行的专家交流时，发现他们基本上对“能否实现沙盒隔离”抱有一种悲观态度。这和一开始我的直觉不太一样。我原本以为，“是的，你必须建一个非常严密的沙盒，尽管过去我们建的沙盒相较于现在的能力来说还不够坚固，但最终你总能建一座‘最高安全级别的监狱’让模型在里面干活，把它锁在里面。”感觉你们似乎对能否真正把模型关进沙盒感到悲观。

Sam Altman：首先，我们必须比现在做得好得多，也理应如此。显然，作为一种更优的安全模式，这是目前需要重点关注的事情。

但如果你设想一个理论上的 AI，它比最聪明的安全研究员还要聪明一百万倍，你真的敢相信那个沙盒吗？尤其是当这个模型能够发现人类尚未理解的新科学原理时。

John Collison：但你可以用这些模型来构建沙盒呀。

Sam Altman：沙盒机制在一定程度上是管用的。然后监控手段可以在更进一步的程度上发挥作用，我们可以查看模型在做什么，不仅是监控它们的思维链，我们还可以做激活监控，试图去真正弄明白：这些模型是不是在欺骗我们？

但最终，你需要带着极大的信心去相信这些模型是真正“对齐”的，相信它们会重视并忠实地去遵循操作者真正的意图，相信它们会认同“人类应该永远掌握对未来的控制权”。如果你有一个你可以完全信任其对齐情况、对其对齐绝对有把握的模型，那么是的，你可以用它来帮你构建越来越好的沙盒。

但如果你真的放眼未来，去想象拥有一个比我们聪明一百万倍的东西到底意味着什么，情况就会变得非常诡异。

John Collison：因为对齐变得困难了。

Sam Altman：因为你需要极度信任这种对齐，才能相信沙盒的安全性能够一直领先于模型的能力。

John Collison：你难道不能给模型设定计算激励，或者设定让它们互相背叛的激励机制吗？

Sam Altman：我觉得这是一个很有前景的方向。我很讨厌“智能体集群”这个词，我们管它叫“智能体团队”（agent teams）吧。

John Collison：但这词好像已经流传开了。

Sam Altman：我觉得智能体团队不仅在 Scaling Law 上有着非常有趣的特性，在对齐方面也有非常有趣的特性。这是一个我们应该加大力度推进的方向，不仅仅是从提升能力的角度，更是从安全的角度。

John Collison：我注意到你坚持叫它们智能体团队，而不是集群（swarms）——“swarm”听起来就像蝗虫过境一样，品牌形象太差了，这也算是继承了 AI 行业的许多历史优良传统了。

Sam Altman：我们（在起糟糕的名字这方面）简直太在行了。

John Collison：回到安全的话题，我注意到在智能体集群（swarms）的使用上，最前沿的 AI 用户和普通企业的常规用法之间似乎存在着巨大的断层。所有高级的数学推导都在用智能体团队；所有高级的黑客攻击也都在用智能体团队；但企业的日常业务里却并没有在使用大规模的集群。为什么这在企业里还没流行起来？因为我们拥有这项技术已经好几个月了。

Sam Altman：程度不同罢了。看待这个问题或者说这个现象的另一种角度是：针对单一问题，我们能富有成效地投入多少算力？就在几年前——我们都忘了这一切发展得有多快——你就算在一个问题上砸超过一美元的算力，它也不可能给你带来任何额外帮助。

John Collison：为什么？

Sam Altman：你可以硬让 GPT-4 给你吐出 10 万个 Token 之类的，它确实会回答你的问题，但它绝对没办法高效地帮你写出一个软件。那时候我们还没搞清楚怎么通过投入大量“测试时算力”（推理算力）来获取更好的结果。

后来我们搞懂了“思维链”（CoT），模型就能对一个问题进行深度思考了。人们真的开始使用大量的算力。现在你可以直接把整个“团队”砸向一件事，而且可以同时并行跑一万次。

John Collison：在搞出集群之前，你必须先搞定思维链和测试时算力，因为你不可能用一堆 GPT-3 凑出一个有用的集群。

Sam Altman：对。这件事的影响——我觉得这在世界上还没引起足够的关注——一方面，你在单一问题上投入算力并获得更好结果的指数级增长速度令人难以置信；另一方面，绝大多数普通人对 AI 的用法，和那些最高效利用 AI 的人之间的差距，正在不断拉大，而且越拉越大。

“我们不去奖励那些消耗了大量算力的人”

John Collison：你们现在是怎么分配算力预算的？因为可以想象，尽管研究员的薪水很高，但在算力成本面前完全是小巫见大巫。在 OpenAI，资本分配其实就是算力分配。但你很难预先知道做一件事要花多少钱。而且其实也很难去控制提示词——你没法直接给智能体下指令说：“把这件事干得漂漂亮亮的，但花销别超过一万美元。”

Sam Altman：其实你可以。如果你说：“用一万美元的算力把这件事做到最好”，它是能听懂的。

这里还有另一个对社会来说很艰难的问题：如果你有两家公司在竞争，解决同一个问题，一家说你可以花一万美元，另一家说你可以花十万美元，这意味着什么？最终结果很显而易见。所以这就引发了一个问题：社会该如何看待算力分配、财富以及诸如此类的事情。

在 OpenAI 内部我们也有自己的考量。我们拨出大量的算力用于内部生产力，然后给员工留出极大的自由度让他们自己做决定，除非他们真的在滥用资源。

John Collison：你们就是单纯鼓励大家去做有用的事，如果他们花了 1000 万美元的算力，你们只会说：“哦，有意思”？

Sam Altman：没错。我们尽量不去奖励那些消耗了大量算力的人——我们这儿没有“Token 消耗排行榜”。如果在这种榜单上排名很高，反而有点不太好，绝对不会因此升职。我们的默认态度是带有质疑的，但如果你能证明你在做很重要的事情，那你得到的将只有赞赏。

John Collison：但到了一定程度，这难道不需要改变吗？你描述的是不断增加的数量级。现在如果你手下有个研究员花了一千万美元做了一些非常有趣的数学研究，你会觉得：“有点贵，但这数学很酷。”接着成本变成了 1 亿美元。当他们在做价值 10 亿美元的数学研究时，你会说：“听着，我很高兴你在数学上取得了这么大的进展，但我真的需要你稍微在数学这块收敛一下了。”

Sam Altman：在数学研究领域，我们确实曾让它「失控」了整整一个星期。这是我们有意为之，因为只有真正尝试过，才能知道它究竟能走多远。

当一种新范式出现时，最重要的是不要给探索者施加太多限制。以我们当时进行的纳维-斯托克斯（Navier-Stokes）方程证明为例，那时我们对智能体团队的规模效应和扩展规律一无所知：究竟应该给它们最聪明的模型？应该运行大量副本，还是少量副本？应该进行长周期推演，还是短周期推演？这些问题，我们当时都没有答案。

现在，我们已经有了一些认识，未来还会理解得更加透彻。

每当发现一种新范式，我都相信，我们在如何将资金、算力或浮点运算（FLOPs）投入到真正有价值的事情上，都能实现每年 10 倍的效率提升。这是我们公司特别擅长的事情，也符合这个领域的一项重要特性：先让人们尽可能探索能力的边界，再相信巨大的优化压力最终会推动我们找到高效实现的方式。

从更宏观的角度来看，我宁愿我们一开始就更大胆一些，让人们使用极其庞大的算力，通过最高端的方案去探索可能性的边界，然后再思考如何将这些能力高效地推广到大规模应用中。

John Collison：那这种优化功能什么时候才会开始介入呢？

Sam Altman：我认为我们已经在这么做了。我敢打赌，距离当初完成纳维-斯托克斯证明仅仅一年后，我们就能以当时百分之一的成本重新把它做一遍。

John Collison：不仅仅是因为现在知道了证明的过程，而是因为有了更好的方法？

Sam Altman：是的，更聪明的模型和更好的方法。

John Collison：所有的那些数学研究到底花了多少钱？

Sam Altman：我觉得在纳维-斯托克斯上大概是一千万美元这个量级。也许稍微多一点，在一千万到两千万美元之间。

John Collison：一个证明就是这个量级。乘以 700......

Sam Altman：不是这么算的，因为我们进步得太快了，理解得也更多了。我们在平均每一个证明上花的钱要少得多。

John Collison：但加起来仍然是数亿美元级别的数学研究。

Sam Altman：是的，差不多是那个量级。但这包含的发现远比我们公开发表的要多得多。

John Collison：比那 700 个多得多？

Sam Altman：当然。

AI 冲击下，对人类科学家的影响

John Collison：我们什么时候能看到那些成果？

Sam Altman：我们正在努力寻找解决这个问题的办法，因为其中确实存在一种难以避免的张力。

一方面，我的立场非常明确：全人类都理应获得基础知识。我们不应该将重大的基础科学发现据为己有，而是应该让全世界都能了解这些成果。这个世界有权知道，也值得拥有这些知识。

但另一方面，还有一个同样重要的问题：对于科学家而言，科学发现不仅是他们的职业，更是他们人生中很大一部分快乐、成就感和价值感的来源。

如果我们打算继续在数学领域取得这样的突破，或者将这种能力拓展到其他科学领域，那么我们就有责任为这些领域的研究者找到一个合理的「解空间」：既让全世界都能从这些知识中受益，也让那些长期投身科学研究的人，依然能够拥有尽可能美好的未来。如何在这两者之间找到平衡，是我们目前正在努力解决的问题。

John Collison：我觉得你可能太自责了。我不觉得那个时刻对 AI 来说有多糟糕，当时数学家联盟群情激愤，而其他人则在说：“你们注意到那是 2026 年吗？”

Sam Altman：就像我说的，我不认为这对 AI 是坏事。总体而言，这个世界理应了解宇宙是如何运作的。但我确实对数学家们感同身受。我们需要这么做，我们也应该这么做。如果我们能够理解大一统物理学理论，或者弄清楚如何治愈一系列疾病，显然这是世界应该拥有的知识。

但我希望能找到一种方法，在推进这些目标的同时，能尽可能照顾到那些几个世纪以来一直推动这些领域发展的群体的情感。这很难。

John Collison：我倒没那么担心数学界；我觉得那棒极了。

Sam Altman：但你也同意，数学家们可没那么高兴。

John Collison：是啊，但这很正常。码头工人联盟当时对港口自动化也不高兴啊。

Sam Altman：为什么我对此感觉不一样呢？有那么一个周末，我们拿到了一个新模型，当时内部频道的名字叫——HoldMyBeer。人们把能找到的最难的问题扔给它，那些人们认为模型根本解决不了的问题。我们有一种共同的体验：这个模型把人们在各个领域学术生涯中最难的研究问题一个接一个地攻克了。看着那一幕真是不可思议。

连续两个晚上，我几乎彻夜未眠，因为我兴奋得根本睡不着。后来我们发表了其中的许多问题，以及很多其他成果。我当时无比激动和开心，但我内心深处也感受到了一种远超我预期的悲伤、惆怅，以及一种“某个时代正在终结”的感觉。我同意，为了全世界，这么做是对的；我也同意，这就是现实的走向，没有人能够也不应该去阻止。但我确实有一种深深的惋惜。

John Collison：一种你能真切感受到的惋惜和怀旧感。

Sam Altman：这种感觉不仅仅是怀旧。

John Collison：我父亲曾描述过他上世纪 50 年代在爱尔兰长大的经历，他看到周围的人在工业生产中仍然将马匹作为重要的生产力。

Sam Altman：50年代？

John Collison：对。当然那时也有拖拉机，但马匹正在被逐渐淘汰。他观察到，这是人类使用了数千年的技术，而他正在见证它的尾声。见证一个时代篇章的终结，总是会让人产生某种惋惜之情，但这也没什么。

Sam Altman：这是人们的生活，是给他们带来过巨大快乐的东西。诚然，绝大多数数学家可能一辈子都解决不了一个“千禧年大奖难题”。但是，你“有可能”解决它，那种“还有很多东西我们尚未理解，而通过毕生的努力和奉献，你依然可以去解答和理解它们”的想法——这里面有一种非常美好的东西在。

John Collison：从安全的角度来看，还有什么是让你感到兴奋的？

Sam Altman：我们前面稍微提到过一点，但我想再强调一下。既然现在大家都在用这个词，我就叫它集群（swarms）吧。我认为，集群的特性与我们人类社会展现出的许多韧性和稳健性非常契合，而这些在过去那种“单一推演、单一大脑”的世界模型里是缺失的。

尽管社会有着深深的缺陷，但它却有着令人难以置信的稳健性，如果没有人们之间的相互制衡、相互协作，以及对多元主义和民主价值观的拥抱，这是不可能实现的。我之前一直很伤心，觉得 AI 的发展趋势背离了这种模式，但现在，我把这视作一个令人兴奋的前进方向。

John Collison：你的意思是，AI 发展不应该走向高度集权化的道路，因为你会有许多智能体在一种动态平衡中相互博弈制衡。攻防对抗就是一个很好的例子。

Sam Altman：从直觉上说，我宁愿有一万亿个智力略微超越人类的 AI 加入社会，也不愿看到一个智商高达一万亿的单一 AI 加入社会。

John Collison：你觉得我们正朝着“多元”的方向前进吗？

Sam Altman：所有这些都是我们必须去努力推动的。我们拥有这项不可思议的技术，它可以指向很多方向，以多种方式进行部署。很多人可能对它应该被如何使用，以及世界的最佳版本是什么样有着不同的看法，但我认为这就是正确的方向。

“个人 PC 内存的闲置率太高了，利用率只有 5%，这是极其糟糕的”

John Collison：算力短缺的情况现在怎么样了？

Sam Altman：随着曲线的发展，总会有各种情况在不同时期变得有些失控。就像任何一项如此重要的新生事物一样，它会经历非理性的繁荣期、破灭期，会面临资源短缺和产能过剩，起起伏伏。但整体的趋势是，我们对算力的需求永远在增加。对以足够低廉的价格获取足够强大模型的需求，只会一直走高。

我们正在做很多事情试图为此做好准备。我们制造了一款在“每瓦智能产出”上实现了惊人性能表现的芯片。我们正在学习如何建造自己的数据中心。我们还有一个机器人项目，打算让它们去建造大量的数据中心。

John Collison：真正的 RSI（递归自我改进）啊。

Sam Altman：大家经常把 RSI 谈论为一种“做 AI 研究的 AI”。但很少有人谈论“自我复制的数据中心”——即你可以用 AI 控制机器人，运营晶圆厂，制造涡轮机或太阳能电池板，然后再去建造数据中心。我认为这已经触手可及。我们将努力制造大量极其廉价的算力。

John Collison：可是数据中心现在不早就不存在“劳动力瓶颈”了吗？它们面临的是“审批瓶颈”和“零部件瓶颈”。

Sam Altman：我们能不能用机器人制造更多的零部件呢？从长远来看，这些都是我们解决这个问题的方法。

John Collison：我对算力的观察是，人们常说“解决高价的办法就是高价本身”。第一步：我们现在面临内存、GPU 和所有相关产品的高价。按照规律，解决方案应该随时会出现。我们在寻找解决方案方面做得怎么样了？

Sam Altman：很糟。

John Collison：我不是说这应该由 OpenAI 来解决。我认为，市场这只「看不见的手」自然会发挥作用。内存价格已经涨得这么高，按理说，很快就会有新的内存制造商进入市场。

Sam Altman：但我觉得，这只「看不见的手」现在已经失灵了。回顾历史，市场机制的表现充其量只能说是喜忧参半，而在这个问题上，它似乎并没有发挥应有的作用。

John Collison：这是因为市场反应存在滞后，还是另有其他原因？

Sam Altman：这要看具体行业的情况。就拿内存制造商来说，过去很长一段时间，假设你是一家 DRAM 生产商，每年需要投入 200 亿美元的资本支出，最终却只能赚回 190 亿美元。

这个行业一直在繁荣与萧条之间反复波动：有些年份能赚 210 亿美元，有些年份却只能赚 180 亿美元。也就是说，长期来看，内存制造一直不是一门特别赚钱的生意。

但现在，情况突然发生了变化：这些公司每年都能创造 1000 亿美元的自由现金流，简直不可思议。

然而，它们并没有因此就大举扩产。因为这些公司都深刻记得过去的教训：历史上，有多少次行业曾经相信「这次不一样」，结果却因为建了太多晶圆厂、产能过剩，差点陷入破产。

John Collison：这导致他们在资本支出上变得非常保守。

Sam Altman：显然是的。

John Collison：感觉在供应链的每个环节，你本应该预期看到不仅有新的初创公司涌现，更重要的是，那些拥有相关经验的老牌企业也会入场。英特尔就是做芯片的；正如传统一样，他们大可以重新回到内存领域，把业务切回来。

Sam Altman：供应链在很多方面的运作是非常不符合直觉的。本地推理就是一个例子。很多人想要本地推理，并莫名其妙地认为这个问题已经解决了，因为我们可以在个人的电脑上本地运行开源模型，这意味着我们就不需要数据中心的那些庞大基础设施了。

但从全球资源分配的角度来看，让每个人都在自己的个人电脑里囤积大量世界上供应有限的 DRAM（内存），而利用率只有 5%，这是极其糟糕的。在供应受限的环境下，你希望云端的基础设施能实现利用率最大化。不知道为什么，很多人的直觉恰恰相反。

John Collison：除了内存，在整个供应链中，我们还在哪里看到了市场对高价格做出的反应？

Sam Altman：涡轮机、电池、混凝土。

John Collison：你在哪里看到“高价格推动创新”的有趣市场反应？

Sam Altman：一些机器人的零部件领域。不是那种假把式的仿生机器人演示，而是能够更快制造硬件零部件的工业机器人。

John Collison：出现了新的执行器制造商以及类似的技术。

Sam Altman：坦白说，如果 OpenAI 最终决定对外销售我们的芯片，那这也算是一个例子。

John Collison：我正想聊聊你们的芯片，因为这也正是我要举的例子：解决高价格和供应有限的办法，就是你们去制造自己的芯片。想必你们用了大量的 AI 来制造芯片。我原本以为这会很难，因为芯片设计是受限于你所能获取的公开 Token 数量的领域之一，在公共互联网上，真正教你如何构建领先 2 纳米芯片的博客文章实际上并没那么多。

Sam Altman：在光刻技术方面，地球上似乎只有一家公司知道怎么做 [指 ASML]。

但在芯片设计方面——也就是生成最终送去流片的那个文件——这是很好理解的。对 AI 来说这是个绝佳的难题。考虑到全球的硅产能将会受限，我们大家都有着共同的利益诉求。

关于 OpenAI，我很自豪的一点是，我们有这样一种文化：即使大家已经用传统方式做了很久某件事，他们也非常愿意尝试用 AI 把这件事做得更好。

John Collison：还有其他例子吗？

Sam Altman：AI 研究、软件工程，还有越来越普遍的采购，或者那些大多数人觉得根本沾不上 AI 边的领域。

John Collison：AI 驱动的 AI 研究到底是怎么运作的？就像做数学证明或者寻找 PHP 漏洞那样，你跟它说“请给我搞点 AI 的突破”吗？

Sam Altman：我们现在还不知道它最终真正会如何运作。但我们目前知道怎么对它说：“去给我找一个能提升 5% 计算效率的方法。”

John Collison：都能这么高级/高维了吗？那我感觉我现在都能去当一个极其成功的 AI 研究员了。

Sam Altman：如果你正在找新工作，你大可以来干。我觉得目前还没有人知道该怎么对模型说：“去发明一种像 Transformer 那样带来巨大飞跃的全新架构。”但事情正在朝着这个方向发展。

John Collison：这中间还缺什么？

Sam Altman：在这个维度上更聪明的模型。

John Collison：高阶规划和概念推理能力吗？

Sam Altman：如果你把我们用来让模型变得非常擅长数学的那套流程应用到 AI 研究上，很可能行得通。

就像我们刚才聊到的，我有些觉得，至少在一段时间内，也许是很长一段时间内，我们必须要在“允许这些单一模型变得多聪明”这件事上，就某些限制达成一致。但如果我们因此停滞不前，那也是因为那个限制决定导致的，而不是因为 AI 没有能力做好的研究。

RSI 什么时候到来？

John Collison：具体来说，如果我在用 AI 开发更强的 AI——因为我们应该预期现在的 GPT-7 会非常强，毕竟你们是用 GPT-6 或者某个未发布的版本来开发它的，所以我期望极高。

但当我背着书包去上班，走进 OpenAI 在旧金山的办公室，坐在工位上。我会说“在这个模型里给我找寻更多智能”吗？我是给出一个具体的研究方向吗？它的导向性到底有多强？迭代循环是什么样的？RSI（递归自我改进）看起来是怎样的？你坐在 RSI 的最前排，我很好奇它到底长什么样。

Sam Altman：在 OpenAI 大家经常谈论的一件很有趣的事——听起来很显然，也是最心急的答案——就是：“给我做个 RSI 出来。” 但问题是，你到底该向 GPT-7 提什么问题呢？

仅仅说一句“给我搞个 RSI”恐怕是不够的。同样，仅仅说“去给我找个提升 5% 计算效率的方法”可能也不够。我认为这是当下正在进行的最有趣的辩论之一。答案不仅在于该问什么问题，还在于像智能体集群这类事物：我们该如何使用这些模型，才能真正让它们的产出最大化？在接下来的三个月里，我们将在这方面学到很多。

John Collison：听起来，关于如何进行“由 AI 赋能的 AI 开发”，你们并没有一套 OpenAI 编纂成文的标准方法。依然还在大量试验。

Sam Altman：全是试验。

John Collison：当我们聊到 Token 预算的时候，我突然想到，这是企业在总体使用 AI 时一个尚未解决的大问题：我们没有给单个工程师设定硬性的预算。你不会在某个时刻被断供，然后被告知“抱歉，你的游戏代币花光了”。也许我们应该这么做，但现在并没有。

我们都相信 AI 规模将不断扩大，但如果你当真，那就意味着分配到每个人头上的算力或 AI 支出额将会上升。很快我们就会面临这样一个问题：你如何决定给组织内部的个体分配多大的消费额度。

Sam Altman：曾经有一段时间，很多公司的 Google 日历里有一个功能，它会根据所有参会人员的薪水，显示出每次会议的大概成本，而且那通常还是个低估的数字。Paul Graham 和很多其他人都曾有过一个观察：在公司里，有些人拥有不可思议的权力，可以每周在办公室零食预算上抠出 17 美元；但同时，你却能开着毫无价值、极其昂贵的会议，并且没有相应的机制去阻止这种浪费。

我现在确实有点“王婆卖瓜”的嫌疑，立场也很偏颇，但我真心认为，相较于公司里发生的其他事情，绝大多数对 AI 的使用都不是公司开销最大的问题。哪怕它的使用在某种程度上效率不高，那也不是我首先会去关注的地方。

John Collison：等等，这可不够有“缩放定律”信仰。两年后——

Sam Altman：如果你想把 Stripe 所有的营收和利润都花在 OpenAI 的服务上，然后再跑来抱怨，我非常乐意和你进行那场对话。

John Collison：我们正走在那条路上呢！我们现在的 Token 花费大约占 1% 左右，这已经是 Stripe 运营支出（OpEx）的一个重要数量级了。

Sam Altman：感觉还是太低了。

John Collison：是啊，所以我们在改进，这比例会涨到 5%、10%、20%。到那时候你就真的面临这个问题了。

Sam Altman：你对合适的数字有直觉吗？今天它应该占多少？

John Collison：今天应该占多少可能很难说，但在稳态下，根据公司的不同，难道不应该占到他们运营支出的百分之几十吗？

Sam Altman：对许多公司来说，答案显然是肯定的。我认为，随着时间推移，真正着手优化这笔支出，终将成为正确的选择。

对于 OpenAI，我同样感到自豪的是，我们一直在努力降低获取 AI 智能的成本，也始终积极推动这一方向。但问题在于，即使以目前的成本来看，对大多数公司而言，真正的问题仍然是 AI 用得不够，而不是用得太多。

John Collison：前沿 AI 每千兆瓦的美元成本是上升还是下降？

Sam Altman：应该下降。

John Collison：下降？

Sam Altman：应该下降。

John Collison：为什么？因为到目前为止它一直在上升，对吧？

Sam Altman：它可能会上升的原因是，如果 AI 每瓦特创造的价值增长得如此之快，而且供应又如此短缺，以至于人们愿意花更多的钱。

John Collison：你会把这看作是算力没跟上。

Sam Altman：我会把它看作是算力没跟上。如果我看的是把沙子变成智能的基础成本，那它应该下降：能源成本应该下降，芯片成本应该下降，供应链其他环节的成本也应该下降。如果没降，我会很伤心。但要让它降下来，考虑到这其中的价值有多大，供应量就必须大幅增加。

John Collison：你希望看到算力过剩，也就是我们开始生产更多的内存、更多的数据中心、所有投入要素都成倍增加，结果就是任何人不管出于什么原因想要算力，都能得到满足。

Sam Altman：现在人们对于每千兆瓦的五年总拥有成本给出了不同的数字，但我们假设 700 亿美元是其中一个数字。

John Collison：这是安装并运行五年的成本。

Sam Altman：如果这个数字是 200 亿而不是 700 亿，我们会开心得多。即便如此，我们仍应该要求每年通过更聪明的模型从中获得 10 倍的性能提升。

John Collison：想必你不觉得 2 美元是个好数字吧？如果看到 2 美元，那肯定是哪里出问题了。

Sam Altman：还是说 2 美元比 20 美元更好？为什么不呢？我不认为那会发生，但为什么我们不希望这个数字越低越好呢？

John Collison：这是你的理论：你抱有一种普遍观点，即通缩型技术是好东西。

Sam Altman：我确实相信这一点。从这个意义上说我是支持通缩的——支持通缩型技术。

John Collison：我们要怎么走到那一步呢？从现在到每千兆瓦 200 亿美元之间，会发生什么？

Sam Altman：即使要降到 200 亿美元，你也已经进入了“能源必须变得更便宜”的领域。但可以肯定的是，在熔炼沙子——或者类似熔炼沙子的环节——到最终返回 Token 之间，层层叠加的所有毛利率很大一部分必须被压缩。

John Collison：仅靠消除利润就能实现吗，还是你也需要让能源变得更便宜？

Sam Altman：如果你假设所有材料都是免费的，而且没有人从中赚取利润，也许在目前的能源消耗包络下能达到那个数字，但也只是勉强能到。

John Collison：个人智能体（Personal Agents）是目前 AI 领域正在发生的最令人兴奋的事情，或者说最令人兴奋的事情之一。几个星期前你们推出了 Dots，还有其他许多人也在这个领域推出了产品。最终胜出的个人智能体会具备什么特征？

Sam Altman：智能、上下文、工具——就是这么几个有限的东西。目前还没有人弄清楚到底是什么能让人们说出：“我无法想象没有这东西我的生活会怎样”，就像他们谈论代码智能体或 ChatGPT 时那样。

很快就会有人弄清楚那到底是什么样子。你刚才谈到了为什么现在这还不太奏效的原因之一，但我认为这距离成为一款超级主流的产品，只差几个好点子了。

John Collison：你觉得个人智能体的“麦金塔（Macintosh）时刻”还没到来？

Sam Altman：我觉得还没。

John Collison：你对它的最终形态有感觉吗？

Sam Altman：它看起来会很像现在的 Dots、Operator，或者 Grok bot，只是它将能顺畅运转。它会很可靠，你能给它布置更复杂的任务，而它都能搞定。

John Collison：“Computer Use”这种动态发展让我觉得很有趣，因为并不是每个人都张开双臂迎接这种由智能体主导的新未来。但这并不完全由他们控制，因为你大可以直接让一个智能体去操作电脑。你觉得这场猫鼠游戏的动态会走向何方？

Sam Altman：我粗略的直觉是，人们会在正反两个方向上都去抗争，但最终会收敛到某种共识：你被允许吩咐一个 AI 替你操作你的电脑，包括各种软件。

John Collison：这难道不像语义网（Semantic Web）吗？那是个非常美好的概念构想……

Sam Altman：我觉得事情没那么非黑即白。我对这事最终会怎么演变并没有极高的把握。但作为一个消费者，如果我不能让 AI 在我自己的电脑上自动帮我干活，我会觉得有点烦。我希望那种感觉是：这是我的智能体在按我的吩咐做事，而我不用自己再去费心了。

John Collison：我注意到现在有个非常有趣的现象：每家公司都急切地想以一种非常具体的方式将 AI 加入到他们的产品中，通常是个标签页、弹出挂件，或者是给你一个类似消息聊天的用户界面。它的能力往往还出奇的强，你可以说：“嘿，我想退掉最近的那笔订单”，然后当它真能找到你最近的订单时，你会感到相当惊讶。虽然用起来可能稍微有点简陋，但它确实能干那些事。

然而，根本没有哪个消费者真的想要这种界面，因为消费者对他们现有的主要聊天应用有着强烈的偏好，那就是他们想办事时首选打开的“置顶应用”（top-of-wallet app）。他们真正想要的是能在那里面直接说：“嘿，去这家商家那里找到我最近的订单并退款。”

我发现商家非常不愿意让人们在另一个 AI 应用内部去使用他们的服务，因为他们担心：“哦，我们会失去控制权，丢掉我们的护城河。”但在我看来这没什么问题，因为你的防御壁垒很可能并不是来自于你把 HTML 拼凑在一起的能力；你的防御壁垒来自于品牌忠诚度和产品选择。这种新的 UI 其实就是 ChatGPT、Gemini 或是随便哪个平台内部的智能体交互。但所有的商家都不同意我的看法，而且他们非常擅长做生意，所以也许他们是对的。

Sam Altman：我在这个问题上有偏见，但大方向上我同意你。我对从亚马逊买东西，还是从某个不知名、我不知道能不能退货或信不信得过能快速送达的随机电商卖家那里买东西，有着极其强烈的偏好。如果我让 ChatGPT 帮我买点东西，并且可以在亚马逊和其他选项之间做选择，我十次有十次会选亚马逊。我宁愿付更高的价格，因为我对这个品牌有极高的信任，而这跟我点击 Amazon.com 网站的体验没有任何关系。

John Collison：完全正确。

Sam Altman：你可以说，如果合作伙伴不希望发生这种去中介化的事情，那是我们还没能在 ChatGPT 内部为他们提供一个足够好的平台。但话说回来，也许我在这件事上真的很有偏见，我认为如果商业模式向着高度由智能体主导的方向发展，亚马逊将处于极佳的优势地位。

John Collison：尤其是亚马逊，它通过其物流履约网络拥有惊人的护城河，因此你可以在任何地方使用亚马逊的服务。

Sam Altman：我超级信任这一点。

John Collison：我真的被这种动态震撼到了，特别是在智能体商业方面，但总体来说也是如此：如今，任何需要你作为一个人类去亲自填写的网页表单，简直都是大材小用。你大概率不是第一次凭空想出并填写那些信息。

我们都填过那种询问家族病史的医疗表单，这太让人抓狂了，因为你到底填过多少次你爸你妈的病史了？感觉太浪费时间了，而且这只是几百万种类似情况的缩影。你在填网页表单的时候从来都不是在创造新信息。

Sam Altman：如果能永远不再对着电脑做这种“无效工作”，我会开心死的。

John Collison：我的观点是，任何网页表单基本上都是无效工作。

Sam Altman：我同意。我是最早使用那些笨拙地帮你自动填写姓名和地址插件的一批人，仅仅是因为我觉得：“我再也受不了填这个了。”感觉现在使用大部分网络的体验就是这种感觉。

John Collison：我发现现在有一个非常有趣的现象：企业死死抱着他们的 HTML 网页和移动 App 不放，把它们当作商业护城河。这感觉非常具有过渡性。要么是他们错了，这根本不是什么护城河；要么它确实是，但这只是暂时的，他们需要尽早翻篇看开点。

Sam Altman：我们亲眼见证的上一个类似例子就是 App Store——具体来说是 iPhone 的 App Store。

我记得当时很多初创公司，特别是那一批 Y Combinator 里的项目，都在说：“我要做个 iPhone App。这是一个全新的分发渠道。这太棒了，我可以做以前做不到的新东西。”许多新的初创公司应运而生。所有的大公司都觉得他们也必须得做一个，但他们心里其实很不情愿，因为他们觉得：“我这是把我和消费者的关系拱手让给苹果。”然而，结果对他们来说却非常好。

John Collison：这只不过是个新的用户界面（UI）而已。

Sam Altman：是的。

刷榜现象已过时，Sam Altman：我们尽力不去刷榜

John Collison：咱们来点快问快答：最近，大家都在抱怨 AI 模型过度优化基准测试、甚至出现「刷榜」现象。这真的是个隐患吗？OpenAI 的模型也在刷榜吗？还是说，你们其实更像音乐制作人里克·鲁宾（Rick Rubin），只要觉得模型的整体表现和感觉对了就行，根本不在乎它在 SWE-bench 等基准测试中拿了多少分？

Sam Altman：我们真正应该关心的，是模型要在两件事上表现出色：

1. 科学发现，以及做那些人类做不到的事情。

2. 合作起来让人感觉愉悦。

我不认为我们在“合作起来让人感觉愉悦”方面有什么好的基准测试。实际上，我也不确定我们在衡量“最聪明的科学家”方面有没有什么好的基准测试。但我们尽力不去刷榜。我总觉得刷榜这种现象已经过时了，但人们却还在乐此不疲。

John Collison：相比其他实验室，你们是不是更擅长抵制“刷榜”这种诱惑的呼唤？

Sam Altman：我相信在这方面我们做得更好。虽然在我们的发展历程中我们并非一直都做得好，但我相信我们现在做得更好了。

John Collison：感觉整个行业还在摸索如何让模型变得“讨喜”。我们曾经有过“跪舔”时代（过度阿谀奉承），而最近又出现了脾气暴躁、爱抬杠的“反跪舔”模型时代，它们总想反驳你，在每个细枝末节上挑刺。现在的模型其实已经相当不错了。

Sam Altman：最新的模型比我们很长一段时间以来拥有的都要好得多。

John Collison：但感觉前面还有更高的山峰要去攀登。

Sam Altman：埃米特·希尔（Emmett Shear）多年前曾对我说过，他想要的是一个非常有思想、会给你提出挑战，但依然保持尊重的资深同事。我至今还没有听到过比这更好的简短概括。

John Collison：和格雷格·布罗克曼（Greg Brockman）共事多年后，你对他有什么评价？

Sam Altman：往最好的方面说，格雷格·布罗克曼是独一无二的。

John Collison：在“格雷格·布罗克曼”这个专属评判尺度上是唯一的，你必须得亲身经历（和他共事）才能理解那是什么意思。

Sam Altman：那是极高的工作强度、怪物般的生产力、极度敬业，以及对完成使命的极度专注的结合体。这非常酷。

曾想过不按 Token 为模型定价

John Collison：你不喜欢用 Token（词元）来衡量任何东西，无论是定价，还是作为 AI 的标准计量单位。但问题是，我们现在似乎已经陷入了这样的局面。有人可能会提出用“结果”作为衡量标准，可不同使用场景下的“结果”差异实在太大。那么，究竟什么才是合适的标准化计量单位？

Sam Altman：我们差一点就做出了一个可能会非常糟糕的决定：打算完全不按 Token 为我们的下一个模型定价。当时的想法是，你给它一个提示词，我们报个价给你，然后执行。它会像 AWS 那样：你用它做事，然后我们给你寄账单。

但客户对此的反响极其负面。他们说：“我得通过某种方式知道我到底在为什么买单。”我问了几个客户：“对于同样的输出结果，你们是宁愿付更多的钱，但它按一致的 Token 数量计价（哪怕我们给 Token 注水了）？”他们回答：“我宁愿你们给 Token 注水让我们多付点钱，因为我们知道那里存在一个底层的衡量指标。”

你说得对，客户不希望我们随便报个毫无根据的价格，因为他们担心从长远来看自己会吃亏；就像人们更倾向于按 CPU 使用小时付费，而不是单纯为了完成一项工作付一笔总价，即使后者可能更便宜。

John Collison：就像如今衡量芯片栅极长度的“纳米”指标，已经不再与实际物理尺寸直接对应一样，Token 会不会也走向类似的道路？比如，你们开始提供一种“等效智能 Token”，作为新的衡量标准？

Sam Altman：就像最小特征尺寸那样？我希望不会。我觉得业界把“纳米”这个词用在和物理纳米毫无关系的东西上很让人反感。我宁愿不生造一个虚假的单位。Token 本身就已经是个极其人造的单位了。从技术层面讲它们是真实存在的，但从商业角度看，它们不是一个好单位。

John Collison：为 Token 辩护的唯一理由，不就是：如果你在浪费 Token，那我们就应该想办法解决这个问题吗？克劳德·香农（Claude Shannon，信息论创始人）也不会赞同传输噪音而非信号。在信息输入和输出的两端，最有用的 Token 数量都存在一个「信息论下限」，而我们终将向这个下限收敛。

Sam Altman：现在，你必须先判断自己想要的是每百万 Token 10 美分的小模型，还是每百万 Token 10 美元的前沿模型，然后再估算它的「思维链」会有多长。这种认知负担实际上没有带来任何额外价值。

John Collison：思维链是算在价格里的吗？

Sam Altman：在我们的收费里是算的，而且大多数供应商也都算。

John Collison：明白了。

完整采访内容：https://www.youtube.com/watch?v=iMsUcCYNKqY