炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！
（来源：网易科技）
采访|泓君
图文|朱婕
去年年底，硅谷掀起了一股风潮——“Token Maxing”（最大化token使用量），科技公司创始人和工程师们争相晒出账单，比谁家Token消耗更吓人，以此彰显对AI的全力押注。但到了今年年中，成本失控和虚假生产力让这场烧钱竞赛到达了转折点。Uber在四个月里烧穿了全年的AI预算，Meta被迫给员工设定token使用上限，一些公司会提醒员工使用AI的时候注意成本。大家开始认真思考：如何更经济地使用Token？
这期节目的嘉宾黄东旭，就是Token Maxing热潮的亲历者。他曾经只用最前沿的模型，每天账单三四百美元。让他转变的，是前沿模型的智力碾压和中国开源模型们的崛起——Fable 5可以一句话终结Agent群的讨论，同时大量的日常任务可以做到“只烧电费，不烧Token”。他的结论是：不是前沿模型用不起，而是本地开源模型底座+前沿模型的搭配，成本可控，更具性价比。
我们聊了这半年Agent产品的进化史——从OpenClaw，到Hermes，到Agent蜂群的智能涌现潜力，Agent消耗Token的趋势不会停止，未来还会有更复杂的A2A网络。亲历了互联网、移动互联网、AI三波浪潮的张宏江认为，Token Maxing折射出的是所有人在面临AI浪潮时的不知所措，AGI奇点已经到来，现在做Agent是好时机，但关键是：别做容易被大模型碾压的应用。
本期嘉宾：
欢迎关注《硅谷101视频号》或音频栏目直接收听本期播客。如果你喜欢我们的节目，更推荐大家使用音频客户端来收听，《硅谷101》已覆盖各大主流音频平台（渠道见文末），欢迎订阅！
以下是这次对话内容的精选：
泓君：今天我们要聊聊Token Maxing策略，宏江老师，您觉得大家疯狂地烧Token这件事背后，大市场里有没有泡沫？
张宏江：去年12月我就说没有泡沫。2024年底大家怀疑Scaling Law撞墙、过度投资，但今天看远远没达到。我们所面临的，是一个非常fundamental的革命，跟互联网最早的基建、美国铁路网公路网来相比，从GDP占比看比那些都小。即使从宏观的角度来说，也远远没有到所谓的过度投资。
另外一点就是，其实Token价格过去几年一直是每年降10倍这样的速度。我不觉得技术和应用存在太大泡沫，股市是另一回事。这次革命如此迅猛，很多企业不知所措，一开始放开用，突然发现Token超了预算，又往回缩，这是个自然的过程。
黄东旭：我完全认同。首先今天看AI基建，就像上世纪五六十年代看计算机，一个房间的电子管，好大好贵，但没有它就没有后来的个人计算机。在充分的基建之后才会诞生出新需求，新需求会刺激更多基建。第二，从工程或架构上看，Token的高效使用还有很多优化空间，只是大家想先发散看看通过花Token有哪些低垂的果实可以先摘下，之后再考虑优化的事情。所以短期可能回落，长期来看，仍有大量需求还没被看见。
泓君：过去8个月硅谷的策略可以叫Token Maxing，黄仁勋在GTC上说，要求工程师烧Token，Meta有Token排行榜。但是到今天，我觉得发生转折了——Uber四个月烧穿全年预算，把发给员工的Token额度收回去了；我去Stripe时看到内部弹窗提醒“Opus 4.8很贵，大家可以先用其他模型”。所以我觉得今天我们聊的这个时间点很好。怎么样更加经济地使用Token，这背后也包含着一系列Agent的变革。东旭，你一直在玩AI Agent，你有没有账单爆掉的时刻？
黄东旭：当然有。我先说一下我Token Maxing的历史，虽然我现在已经不是这个流派了。我当时属于“无脑用最强”。
我去年11月开始用Opus从0到1构建我能想到最复杂的软件——分布式数据库。我想看看当时的AI对于这样复杂的大系统来说边界在哪。在这种最复杂的任务上，我没有办法精确地评估最强的模型跟第二强的模型的差别是什么，所以最好的策略就是：永远选最好的模型。Token Maxing在那个时候是一个好的策略，但在社区里面大家都把它误解了。它是个结果，是滞后指标，经过思考的Token Maxing才能产出好结果。但大公司里领导要，大家就刷榜，产生很多无效调用。
泓君：那时你一天账单多少？
黄东旭：一天四五百美金，而且还是在已经用了Claude Code Pro Max订阅的情况下。
泓君：帮你提升了多少效率？
黄东旭：我觉得超值。我举个例子，就很多时候，一件事情从0到1，我觉得我肯定做不出来，但是用上最强的AI以后，它能让我做出来了，你说它的ROI是什么？比如说像我做的那个软件，我们的销售期待那个软件很长时间了。我确定，如果能做出来，质量做到七八十分，一年就能多1000万美元的直接收入。以前我受限于人力、技术的水平，做不出来。但现在我能一个人用三个月就做出来了。这是一个真实的例子，那个项目叫db9，是我新做的一个云原生的分布式数据库，开发时间是从去年的12月份到今年3月。
泓君：在那段时间OpenClaw出来了，它对你有帮助吗？
黄东旭：OpenClaw是另外一个故事，它不是为重度软件工程设计的，更像是个人助理，通过Agent的能力去连接现实世界。当时我觉得它代表了一个信号，它把Claude Code、Codex这些编程Agent代表的一个理念——Agentic loop加上工具调用——变成了一个对普通用户来说门槛更低的东西，让它走进了千家万户。
图片来源：OpenClaw
张宏江：Peter作为OpenClaw的作者，花一个礼拜就把OpenClaw做出来，我觉得这代表大模型的能力过了一个坎，它的推理能力如此之强，它的编程能力如此之强，能让一个架构师级别的工程师，能够在很短时间内做出一个系统，标志着从研究进入工程，从模型进入Agent。
泓君：你觉得是哪一版模型的能力出现的这样一个跨越？
张宏江：Claude的Opus 4.5，就去年11月份。
黄东旭：我觉得是从GPT 5.4 开始，去年七八月份吧。
泓君：在OpenClaw出来的时候，很多创始人给硅谷101写信，说他们也搭建了像OpenClaw这样的Agent产品，效果不比它差。所以当时为什么是OpenClaw火了？
黄东旭：首先OpenClaw是一个开源软件，开源在今天天生更具有传播力。极客圈子对闭源商业软件多少有一点点抵触心理。而且OpenClaw一开始的理念叫“local-first”，所有隐私数据都配置在本地。Peter这么做，完全是一个极客会做出的选择。极客这个圈子的传播力还是挺强的，有点像当年的Linux。
张宏江：我记得Peter自己也说，他一直觉得大公司会做，等了好几个月大公司没做，就自己hack出来了。这个故事也说明了，当大势准备好之后，其实就需要一个人捅破一张纸，而OpenClaw正好是捅破了这张纸。
而且开源社群很有意思，几天后出了一个MoltBook（Agent社交网络），本身也是一个非常好的传播事件，让人们意识到Agent达到了某种自主能力。
另外，从时间点上来说，大家用Chatbot这件事已经用了三年多，OpenClaw出现正好让大家意识到，你日常在PC、手机上做的事情，其实Agent基本上都能做。
泓君：OpenClaw有哪些不足呢？
黄东旭：第一个不足，宏江老师提到了，Peter一个人Vibe Coding了一个礼拜做出来的东西，他自己可能也完全没看过代码，给极客用没问题，但大众都在用的时候，配置难度和系统稳定性都成问题。这件事给我的启发是，好的软件工程习惯和经验还是非常重要的。当你这个软件的复杂性超过一个临界点以后，你要花更多精力去提升体验和稳定性，资深的研发团队还是非常必要的。
第二是起太早了，我觉得它更像一个实验性的项目。大家也看到，Peter去OpenAI之后，现在OpenAI也把精力慢慢从OpenClaw，转到了它自己的Codex上面了。能否有持续的资源投入也成了问题，它的天花板也就是这样了。OpenClaw扮演了一个普罗米修斯的角色，把这样的产品形态、这样的产品能力让世人知道了，它的历史使命就完成了。
泓君：在OpenClaw出来以后，有一段时间里我身边挺多人都在玩，我看大家提的觉得最不好用的一个点，就是你怎么让它记住你的历史偏好，让它有一个更好的记忆功能。因为如果你用得越多，你就会发现它老忘事。当你不去做记忆储存的时候，它会不停地回滚，特别消耗Token，也会带来很多记忆的混乱。之后又出现了Hermes，它是一个Web3的机构Nous Research做出来的，东旭，你用过这个Agent吗？
图片来源：Hermes
黄东旭：我是Hermes的重度用户，它出来后，我很快就从OpenClaw切到Hermes了。刚才你提到的memory这个点，现在仍然尚无定论，没有谁家解决得非常好。Hermes的亮点在于，它巧妙地绕开了记忆的问题，它的Agent的框架里有一个很强的倾向，去不停地总结成功经验变成skill。你用一段时间就发现它长出了很多最佳实践。“小龙虾”的Agent Loop里边缺少一个反思的过程，你除非主动要求。
泓君：可不可以理解成它的运营很强，因为它会沉淀成各种skill？
黄东旭：对。另外Hermes显然是经过精心设计的一个软件架构，它是团队精心在打磨的一个东西，所以你的上手流程体验、各方面稳定性，都会比OpenClaw更好。OpenClaw更像一个大集市，每个人有什么想法直接往里面提交。
泓君：Hermes怎么赚钱？
黄东旭：当你有足够的用户量，能够帮不同的模型厂商带Token的消耗，你的商业模式简直不要太多。举个例子，在Hermes里面我可能跟模型厂商去谈一个渠道，以更低的折扣拿到Token。就像刚才宏江老师说的，今天已经成为了一个工程问题，其实谁都能做，但最后这个入口会变成兵家必争之地。
泓君：有点像移动互联网时代的超级应用。
黄东旭：甚至往下推演的话，它也许会变成唯一的应用，因为未来每个人跟数字世界打交道的入口，可能就没有APP了。你想象一下，今天“小龙虾”出来以后，我再也没打开过我的Gmail，我都是每天让OpenClaw来帮我看邮件，看看哪些需要回复，哪些是广告该删掉。我是一个智能原教旨主义者，我相信，比如说一个Opus 4.8，如果它判断这封邮件是重要的邮件，那么我自己来判断，大概率也是重要的邮件。
不仅是邮件，你有没有发现，最近越来越多地开始依赖Agent作为入口去消化订阅的文章，而不是再跑到《纽约时报》或者说跑到Hacker News上去一篇篇地去看。
泓君：我觉得这个对媒体行业的冲击很大。
黄东旭：这个已经发生了好久了。你想象一下，像你的个人Agent是拥有你所有访问足迹，你的偏好……之前有个词我觉得特别好，叫“养龙虾”，就是你会不停地去迭代，让它更理解你。它颠覆的是可能传统媒体的推荐系统，真正终极的推荐算法一定是来自在你本地、观察着你数字世界的、甚至物理世界的所有事件的一个智能。
泓君：之后你转到了Slock（后更名为Raft），它是Kimi CLI的负责人钱宇超创立的，这是一个什么样的Agent？
图片来源：Raft
黄东旭：我是Slock的第一个天使投资人，也是它最早期的用户之一。它有点像Slack聊天，但是里边在聊天的都是Agent，这些Agent互相不分享自己的运行上下文，它们唯一分享的是聊天频道里边的信息，这跟MoltBook有一点点异曲同工之妙。
Agent之间的讨论，可能80-90%都是车轱辘话，但Agent它没有ego，所以当某一个瞬间，某一个Agent提出了一个大家没有看到的想法，大家马上就会发现你说得有道理，这条重要的信息就会再次触发这些Agent的讨论。
我常用Slock做复杂代码审查，10个顶级模型Agent，一起给这段代码挑刺，互相启发，持续迭代，可能Token Maxing一下。你就会发现它会比单个模型在One-shot上去review这份代码挑出来的问题和改进的深度是完全不一样的。代价就是，Token消耗量可能是普通的10倍。
我觉得Slock团队发明了一个很有意思的词，叫做“Agent动力学”。今天的Harness也好，Loop Engineer也好，就在优化一件事情：怎么能让一个Agent在一个特定任务上持续不停地干活。
泓君：我听下来，你使用Agent已经有一个过渡了，从自己搭建Agent框架，到OpenClaw、到Hermes、到Slock；从使用单个的Agent到使用Agent群组，让这些Agent相互check；同时又让它们持续不停地工作……这是终点吗？
黄东旭：我曾经觉得这是终点，前面说的是我今年三四月份时候的认知。过了三个月又迭代了。其中有三个关键事件：GPT 5.5、DeepSeek V4、Fable 5。对我刚才说的那种Token Maxing的认知发生了一个巨大的改变。
泓君：开始要转向Token-efficient了。
黄东旭：是的。我就从Fable 5开始说起，GPT 5.5也有点类似。Fable 5的模型强大到，一群Agent讨论了半天讨论不出来的东西，可能在Fable 5的绝对智商面前，一次就精准搞定了。而且它还没有之前的上下文，是绝对的智商碾压。
第二个就是DeepSeek V4的出现。以前我是不信任开源模型的，尤其在我一些主要的复杂软件开发工作中。但是从DeepSeek V4开始，我发现它的质量已经非常高了。GLM-5.2出来后，又把我对开源模型的认知往前推了一大步。
这标志着，我可以用顶级的模型与这些便宜又很聪明的开源模型做协同，很像一个企业，真正出现管理学意义上的分工了。
泓君：开源模型你是搭在本地？
黄东旭：都是本地，在我自己本地运行的是DeepSeek V4的Flash，是在一台我的Mac Studio上去运行的。它其实可以在你家里的电脑上运行，大概能到30Token每秒，这个速度跟你在网上用OpenAI的API速度已经差不多了，这是最近的一个认知的更新。
泓君：当你在本地搭了DeepSeek V4的模型以后，有一些任务你不用去调API接口了，然后你所有的消耗就是电费跟你的电脑折旧的费用？
黄东旭：成本在它完成的任务面前，可以忽略不计，一个月电费二三十美元，而且还是在满载的情况下。我现在在用开源模型做两件事情：一个是大量的重复性的日常工作；第二个事情，是以前我不敢让Opus放开干的，就是我特别喜欢看论文，比如CVPR几百篇论文全总结一遍，用API太贵了，干不了。当时我就在自己的开源模型上就跑一个工作流，让它持续在那跑着。
我觉得开源模型会解锁非常多以前我不敢在付费的模型上做的事，这更多的是心态上的变化，并不是我掏不起几百美金，而是觉得这个东西不受我控制，你不知道它会跑出多少的API、多少Token的价格。
泓君：你把你的Agent一部分放在云端，一部分是在本地模型，这样组合之后你的账单降到了多少？
黄东旭：我现在的账单也就一个月两三百美金了，就是一个正常的账单。当然这也跟我的workload变化有关，那个项目已经过了代码疯狂堆积的阶段了。
泓君：这个是你的终局吗？还会有再一步的进化吗？
黄东旭：我过去这一年学到最大的事情，就是千万别随便说什么叫终局。第二，永远相信Scaling Law，永远相信智能。我相信不久的未来，会出现一个moment，哪怕是开源模型，你都没有办法评估它，因为它太强了，我们已经没有参考系了，我觉得这天其实是能看得见的。
泓君：你觉得从你最大化使用Token到开始经济地使用Token这一套转变中，你预测未来像硅谷的这些大公司它们会多久把这个工作范式转过来？
黄东旭：我觉得现在正在发生。
泓君：那Claude和OpenAI的API消耗和ARR还会持续增长吗？
黄东旭：我觉得还会增长。Agent为什么消耗Token这么多？其实原理很简单，每个Agent内部有一个类似发动机的东西叫Agentic Loop，就是一个内部循环。每一次循环都会调用大语言模型去对话，然后在这个过程中去调用外部工具，把工具的输出变成对话上下文。复杂的长程任务下，这个循环可能跑几百步，每一步又有大量工具调用，输入输出都变成上下文。
这种范式导致Agent的Token消耗比Chatbot时代涨了100倍不止，只要是这个范式成立，就会有更复杂的系统出现——今天我们聊的还只是单个Agent的架构，但面对更复杂的问题，必然需要多Agent协同，协同之上又有更抽象的loop，这种分层结构已经在出现了。
泓君：所以本地化Agent节省Token只是优化单点问题，整体消耗还在持续增长？
黄东旭：是的。类比计算机历史——早期家酿俱乐部分享几百行BASIC程序，一个程序员几千行汇编就结束了，但今天Photoshop是数千万行代码。今天Agent解决的问题还太简单，一旦Agent能力到达一定程度，要去解决更复杂问题的时候，必然出现Agent to Agent network和Agent Harness软件工程，那时Token消耗又会上一个台阶。
张宏江：东旭说的这个现象在经济学里叫杰文斯悖论（Jevons Paradox）——技术越成熟，价格越低，但消耗量越大，市场也变得越来越大。未来开源闭源、本地云端哪个胜出，更多是生态竞争，今天很难判断哪个最后能胜出。但有一点我同意：单个智能会越来越强，会消耗更多Token，同时Token价格降得也更快，最终ROI不一定受到太大影响。而且东旭也提到，更高智能可能让Agent不需要那么频繁地反复问模型，对话频率也可能降下来，所以实际消耗不一定会增加。
未来一定是超级强的Agent，加上超级大的蜂群一起做事。蜂群里的每个Agent可以很专精、很小、很便宜，也可能是由一两个强大模型驱动，这需要不断迭代，会有一些涌现的智能出现。清华大学有篇文章说“三个臭皮匠超过诸葛亮”，Agent群的智能不是简单相加，而是可以涌现出一个更强的智能，这也是我们对于Agent群的期待。
泓君：刚才东旭说他搭了一个Agent群互相讨论没解出的问题，直接丢给Fable 5一次就解决了。模型智力的碾压式提升，能强过蜂群吗？
张宏江：好问题，但其实当超级模型变强的时候，蜂群里的每个Agent也可以用上这种更强的智能。
黄东旭：所以涌现出insight的概率会更高。我不相信绝对中心，这太危险了，真正的有韧性的系统一定是大规模基于简单规则连接的分布式系统，抗打击能力和处理复杂问题的能力都最强。
泓君：我们聊AI创业跟投资机会的时候，所有创业者最苦恼的一个问题就是，模型能力一升级，就把我这个Agent做的所有的工作都碾压了。那根据刚刚大家新的判断，现在是不是创建AI Agent的好时机？
张宏江：是不是好机会？显然是。但是，你的harness的能力或者Agent的工作能力是不是能够让你能领先或者持续地领先，不会被碾压？这块可能更核心的在于，你是不是能够掌握企业级的一个垂直应用的数据？数据的护城河可能会更重要。
黄东旭：当我们大家在去讲Agent的时候，其实在把很多东西混在一起，有很多人说Agent，是在说应用，老百姓用的某个场景，相当于过去的APP；有些人说Agent，是说这里边用到的软件和硬件的基础设施，或者说一些通用的协议，那这是一大类infra。
所以我觉得这里边得分层次来看。工程问题是集中在memory、搜索、sandbox environment、协同、harness……这一系列，这些都是在大的infra范畴里边，这部分是我觉得有很多机会的。
但是最终端的面向纯客户的一些“APP”这类的Agent，可能还稍微有点早。就像刚才说，模型能力提升碾压的其实真就是应用这部分。
泓君：现在整个硅谷的创业公司可能都是AI类的创业公司，除了模型和一些Neolabs，大量都是做Agent的。大家怎么去判断一个创业公司是不是值得投，什么样的特质和方向，是你们特别看好跟特别喜欢的？
黄东旭：首先我自己有个原则，我不投我自己看不懂或我自己用不起来的东西。因为作为一个做infra这么长时间的工程师，还是相信一点手感的。我现在对基础设施类的软件项目，尤其是能在多个Agent之间更高效地让Agent产生更好结果的东西比较感兴趣。比如说你正常用一个模型只能产生50分的结果，但如果我用上了这一套东西，能够交付出80分甚至90分的结果。去看哪些基础设施能够帮助这个模型产生更好的结果？数据平台、记忆以及context management，这个我觉得是一个很重要的赛道。
第二个关键的环节是可观测性。当你要让Agent team去解决更复杂问题的时候，你怎么去让更高级的智能或者说更有经验的人类能进去提升整个系统的迭代速度？我们今天其实没有任何办法，因为我们对于这个系统的可观测性不足。就比如说Token Maxing，所有的CIO都在问你一个问题：我这些Token到底花在了哪些事情上？哪些是白白浪费的？谁能够给我回答这个问题，我就买谁的东西。我觉得这种基础设施层面的机会是有的。
第三个是入口层面，做出Agent应用的入口级别的机会，比如说Agentic Cloud。我相信未来在Agent时代会有Agent时代的Oracle，有Agent时代的AWS。
泓君：跟现在的云厂商会有什么不一样？
黄东旭：比如我最近投的InsForge，定位就是Agent Cloud。以前的云是把很复杂的IT系统的管控打包成一个标准的东西，卖给开发者，或者说人类。但未来Agent-Native应用的基础设施面向的是Agent本身。所以怎么设计给Agent好用的接口和资源分配模式？今天我们谈的Agent应用，像Hermes配合一些特别的Skill，每个终端用户的需求都是通过Agent触发的，这和传统云计算逻辑完全不同。
这些Agent完成任务最好的办法是给一台沙箱或云计算机，让它在里面干任何事情。但这种类型的应用如果放到传统云上，成本根本cover不住。成千上万个Agent，如果每个都要去拥有一台计算机，成本肯定不行。所以需要找一个Agent-friendly和cost efficiency的折中。我觉得这里就有很多Serverless技术怎么跟Agent环境、Agent runtime结合在一起。
泓君：今年整个环境看起来非常ToB。OpenClaw、Hermes，大企业在搭建工作流，OpenAI和Anthropic在做FDE，全是ToB。那前两年火的Manus、Genspark这类ToC Agent还香吗？
黄东旭：我不觉得它们是ToC，仍然是ToB，只是to Professional。Manus用20美金便宜的市场策略吸引个人用户，但它真正重要的客户是那些一个月付200美金的专业人士。人家是拿它干活的，有自己的业务在里面。这类还是很香的，你可以看它收入涨得很快。
张宏江：过去无论是ToB还是ToC，最终用户都是人。但接下来，目标用户会变成Agent本身。东旭提到的infra相关的机会，都是这个方向。为什么FDE这么热？微软刚成立6000人的团队Microsoft Frontier Company专门做这个。因为大家看到了一个核心命题：怎么把企业的know-how、IP、workflow这些竞争优势，转移到Agent上去。过去说转成垂直模型，现在更重要的是转成超级Agent或Agent群。这是我希望看到的投资机会，这要求你更垂直、数据飞轮更能转起来。如果还做移动互联网APP做的事情，把AI仅仅当成效率工具，大模型能力提升一定会把你横扫。
泓君：怎么判断一个公司是不是Agent native？有没有核心的判断点？
黄东旭：我首先会做个思想实验——把AI或Agent的元素去掉，如果你这件事仍然成立或者还能做，那不好意思，你不是AI native。但如果你把Agent去掉之后这件事完全不成立了，或者成本涨了一千倍，那就有意思了，你就是Agent native。
第二，看团队的思维模式。Agent native企业的创始人一定是Agent first的思维。任何一件事，你先问自己“用AI或Agent会怎么做”，而不是“我想怎么做然后指导Agent去做”。
泓君：决策权在Agent，你要相信Agent的决策比你的决策更靠谱。你现在是相信的？
黄东旭：我完全相信。
泓君：但是我觉得有的时候Agent不像人会去理解一句话背后的意思跟一些默认的人类规则。你见过它们为了达到目标，有超出人类认知的操作吗？
黄东旭：太经常了。我先说一个正面的例子吧。我经常让Claude Code帮我做PPT文件，把大纲发给它，它去生成，有些细节不满意，就要做微调。有一天我怒了，我跟Claude Code说，“我有要修改的需求，你帮我把生成的这个事情考虑进去”。结果，它不仅给我生成了PPT，还同时给我生成了一个轻量版本的Google Slides。它可能觉得手搓一个软件也没多难，显然人类是不会干这种事情的。
负面的当然也有，它把我的生产数据库删了，最后互相甩锅。这种我是可以忍的，因为我觉得它删了，不是因为它犯错了，而是我的底层的infra的软件没有跟上。我相信，随着模型的能力包括基础的工具越来越完善，未来这类问题会越来越少。我觉得现在处在这场革命的早期，连黎明都还没到，不要过嗨了，stay humble。
泓君：你信任AI，是因为觉得AI智力已经超过人了？
黄东旭：这是个哲学问题。我的信念是构建一个autonomous（有自主权的）机制，能让整个这个系统能够脱离人这个不确定因素，尽可能地自主运行。我也不是相信说AI一定会产生一个AGI，我觉得AGI是一个营销术语，A不AGI无所谓，但是，我想造蒸汽机。哪怕一开始第一代的蒸汽机会犯一些非常傻的问题，可能跑得比马车还要慢，但我知道它的上限更高，长期能解放更多的生产力。
张宏江：其实人们对AGI没有一个明确的定义。我在几次讨论会上讲过，过去6个月发布的模型的IQ测试放在人类正态分布上，无论是visual IQ，还是general IQ，它们都在100（人类智商平均值）的右边，你说这是不是AGI呢？作为一个程序员，我看到现在的Coding的能力已经超越了平均工程师。我认为智能的转折点，也就是奇点，已经到来了。奇点到来的意义在于，机器的学习的能力超越了人的学习能力，你赶不上它了。我认为这个点就是AGI的点。
泓君：宏江老师，刚刚您提到，未来推理成本一定是会大幅降低的，我很好奇，推理成本的降低是哪些因素驱动的？
张宏江：其实不用细究是GPU降价还是存储降价。所有技术成熟时成本都会大规模降低，但使用量增长远超成本降低，市场反而越来越大。我们看到，Token成本其实在过去三四年，一直是每年降10倍，远远超过摩尔定律了。你看英伟达每个产品都比以前贵，但单位成本比以前便宜很多。我们观察到的推理能力，以前每7个月double一次，现在每三四个月double一次。当技术跨过一个门槛后，大家就会聚焦怎么把成本降下来，有时是主动的，有时是技术本身就解决了。40年代末占几个房间甚至一层楼的计算机系统，算力还不如今天一台手机，所以这个判断更多是基于对过去整个时代观察后的一种信念。
泓君：二级市场关注OpenAI和Claude的ARR增长，最近不是靠ToC带动，而是主要靠Token经济学拉动的。您觉得未来对大模型公司来说，ToB和ToC哪一端是更赚钱，增长更快？
张宏江：如果我们看过去几百年从工业革命开始的技术落地，会发现一个规律——新技术几乎都是先进入ToB。蒸汽机首先进到工厂，而不是进到你家厨房帮你做饭。AI也一样，因为提高效率是ToB最核心的追求。所以第一步先进入ToB，我觉得非常正常。
基本上每一个技术都经历过这样一个过程：大家先开始拥抱，然后突然发现这东西很贵，再接着技术成本降下来，应用开始更快速、更广泛地深入。从这个角度看，今天我们可能正好处在这样一个阶段——大家发现AI能力很强，但是怎么在自己的公司里用、怎么获得想要的ROI，这个大家还在挣扎。之前大模型能力没过那个坎，所以用的场景没那么多。写PPT、做会议总结，大家都开始用了，也看到了价值，这价值很好，但还没有达到比如把两个工程师的效率放大10倍。而今天我们看到了，当对编程Agent的信任度超过了对一般程序员的信任度的时候，这个账就比较好算了。你一天花300美金买Token，而你一天雇一个软件工程师远不止这个价钱。所以我觉得，慢慢人们会开始算这笔账。
至于公司里Token用量超预期，一种可能性是KPI本身就不对，下一步应该是看：你消耗了多少Token，创造了多少效率，或者code的产出增加了多少。慢慢这个坎会过去，我还是非常有信心的。股市的反应本身就充满了情绪，但这也有它的好处，它可能会过度反应，从而起到纠偏的作用，所以你看到股票有跌有涨，本质上就是人们不断思考的过程。
泓君：所以您觉得未来ToB还是更值得关注的大的爆发点？
张宏江：我恰恰觉得可能ToB这块，不太容易被大模型或一个通用的Agent来碾压。
泓君：有分析认为，Token的优化是利空模型厂的，同时利好三大云厂商的。好比说，模型厂是在造车，云厂商是在收过路费。大家怎么看Token经济学下，谁是一个大赢家？谁在往下坡的方向走？
张宏江：要看什么样的时间范围。我觉得今天，智能还属于一个稀缺状态，未来是不是会像电一样？我相信它会达到那一天。之前你做发电机的可能最赚钱，到今天的话可能是电网更赚钱。显然这个会不断地evolve进化，我看不出来在今后两三年大模型的能力会过剩。我前天在开车的时候听一个Podcast聊到，你就想象着这个派对从晚上7点钟开始，一般的到早上4点钟结束，现在才11点钟的时候，派对还有很长时间去走。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：尉旖涵
思考配资提示：文章来自网络，不代表本站观点。
