收听这篇文章:
我常会讲起自己在凯洛格管理学院修读 STRT-431 的第一天。那是每位 MBA 一年级学生都必须上的入门课;我翻阅阅读材料和案例研究,却沮丧地发现课程表上没有任何科技公司。照我一贯的性子,课后便去问教授为什么;他告诉我,这门课的目标并不一定是了解具体行业,而是揭示可广泛适用的普遍原则,可用于任何行业中的任何公司。
正如我通常讲这个故事时所说的,我并不觉得这很令人满意:在我看来,科技的本质——尤其是软件和分发的边际成本为零(交易成本也为零)——是一种根本性的不同;在公式里填入零往往会掀翻一切!不过,我很快意识到,这正是我的机会。聚合理论的底层洞见是:零边际成本会带来与人们过去对互联网预期截然不同的价值链——在一个控制需求比供给分发更重要的世界里,中心化与规模会胜出。
然而,AI 有趣之处在于,过去那些普适原则正在多大程度上重回舞台中央。上周末,X 上围绕 Kimi K3 的影响爆发了激烈争论:这又是一款来自中国的开放权重模型,其能力正在逼近前沿水准。长话短说:边际成本正强势回归——无论是前沿免费模型的短期影响,还是行业的长期结构,都是如此。
销售成本与研发
围绕开放权重模型讨论中最常见的误解之一,是它们更便宜——甚至是免费的。毕竟,你只需下载权重,便省去了自行创建模型所需的时间、成本与能力。这当然没错,但这里的“免费”指的是无需投入研发;研发是固定支出,与产生多少收入无关。即使你在研发上花了 100 万美元,无论收入是 10 万美元还是 1 亿美元,研发支出仍然是 100 万美元(当然,这会影响盈利能力)。
与收入相关的是销售成本(COGS,cost of goods sold)。对于 AI 而言,COGS 的真实存在感是软件长期以来未曾有过的。具体地说,运行模型推理——无论是 Kimi 还是 Fable——都要花钱;在大多数商业模式中,AI 提供商的推理支出与收入直接相关。沿用上面的例子:创造 1 亿美元收入而不是 10 万美元收入,很可能需要高出 1,000 倍的 COGS。具体而言,若生成每 1 美元收入所需的 token 成本为 50 美分,那么 1 亿美元收入将对应 5,000 万美元 COGS;10 万美元收入则只对应 5 万美元 COGS。
对开放权重模型而言,重点是:提供服务并非免费。Kimi K3 的定价是每百万输入 token 3 美元、每百万输出 token 15 美元;这比 Sol 的每百万输入 token 5 美元、每百万输出 token 30 美元便宜,但这甚至可能不是正确的衡量方式。
Token 与智能
英伟达 CEO 黄仁勋将英伟达正在打造的东西描述为“token 工厂”;从英伟达的角度看,这个框架很合理。英伟达 GPU 与模型无关:它们生成 token,并以尽可能快、尽可能高效的方式完成这件事。这自然带来诸如每秒 token 数、首个 token 延迟、每瓦 token 数、token 成本等指标;黄仁勋认为,这些指标将成为决策基础。
在 AI 的第一范式——ChatGPT 时代——这种框架无疑合理,因为 token 直接交付给终端用户。然而,AI 的第二范式,即推理时代,却让这种衡量方式失效。推理会使思维链 token 急剧膨胀,而不同模型需要不同数量的推理 token 才能得到正确答案。例如,据称 Kimi 使用的 token 显著多于 Sol,因此其价格优势变得没有意义。Agent 也带来类似动态:有些模型在执行 Agent 工作流时需要的 token 数量比其他模型更少。
这意味着,token 并不是标准化商品。标准化商品的定义特征是可替代性:一加仑石油就是一加仑石油;一吨铜就是一吨铜;一蒲式耳小麦就是一蒲式耳小麦。但一个模型生成的 token 与另一个模型生成的 token 并不相同。可替代的是由 token 构造出的东西,也就是智能。换言之,如果 Kimi 和 Sol 都得到了正确答案,那么这个答案是可替代的;为得到该正确答案而生成的 token 数量差异,则会造成 COGS 的差异。
智能的 COGS 取决于几个不同因素:
- 模型占用: 权重和运行时状态决定每个服务副本需要多少昂贵内存与多少加速器。
- 推理效率: 架构选择(例如 Mixture-of-Experts)可减少每生成一个 token 所需的计算量。
- 内存效率: 架构选择可减少 KV 缓存需求,从而容纳更多并发请求、提升 GPU 利用率。
- 服务效率: 批处理、调度、前缀缓存以及其他推理优化,能最大化利用率并在请求之间共享工作。
- Token 效率: 得到正确答案所需的 token 越少,推理成本越低。
这之所以重要,是因为我们正迅速接近这样一种状态:对许多具有经济价值的任务而言,智能事实上会成为标准化商品。例如,任何构建基础 CRUD 应用的人,都很可能可以使用多家提供商的模型完成它。在标准化商品市场中,盈利路径并不是收取更高价格——毕竟你可以(或者很快就能)用多个模型做出完全一样的应用——而是拥有更优的成本结构。
理解标准化商品市场
有必要逐步拆解这里的机制。正如我几个月前在《亚马逊的持久性》中所指出的,科技行业的人通常并不熟悉标准化商品市场的动态:
- 在标准化商品市场里,每个人收取的价格都相同,因为每个人卖的是同一种东西;价格由供需决定。
- 对标准化商品的需求取决于价格弹性:商品越便宜,需求越多,反之亦然。
- 标准化商品的供给取决于生产该商品的边际成本。
要理解的关键是,不同供应商的边际生产成本并不相同。实际结果是,成本结构最差的供应商会以自己的边际成本出售商品(前提是还能生产);其他所有人的利润,则取决于其成本结构比这家边际供应商好多少。
举例来说:
- 供应商 A 可以以每单位 10 美元的成本生产 10 单位商品。
- 供应商 B 可以以每单位 15 美元的成本生产 10 单位商品。
- 供应商 C 可以以每单位 20 美元的成本生产 10 单位商品。
假设价格弹性使得该商品在 20 美元时有 25 单位需求。那么:
- 供应商 A 将以 20 美元出售 10 单位商品,每单位赚取 10 美元。
- 供应商 B 将以 20 美元出售 10 单位商品,每单位赚取 5 美元。
- 供应商 C 将以 20 美元出售 5 单位商品,每单位赚取 0 美元。
这并不完全精确:供应商 C 承担供给缺口的原因,是供应商 A 和 B 可以在价格上略微压过它,这当然会影响具有弹性的需求,但它足以说明问题。供应商 A 是一门很棒的生意,供应商 B 是一门不错的生意,而供应商 C 将会破产。
破产风险让固定成本重新回到前台:供应商 C 不仅有固定成本(例如潜在的研发支出),还可能为购置生产该商品所需的设备而举债。它无法在定价时把这些成本考虑进去——请记住,市场出清价格近似于满足需求所必需的、成本最高单位的边际成本——但这些成本完全可能把供应商赶出市场。而如果该供应商退出,价格就会上升,直到另一家供应商决定进入,或其他供应商扩大产能。
智能市场
现在把讨论拉回模型。目前,上述分析都不适用,因为前沿模型的需求超过了供给,供给又受制于算力不足。这种算力短缺不仅让像英伟达这样的算力供应商获得极高利润率,也让英伟达的客户——例如 SpaceXAI——可以再以高利润率把算力转售给 Anthropic 这样的公司。与此同时,Anthropic 可以支付这一加价,因为它还能够以更高加价出售 token。
不过,让 Anthropic 拥有优异利润率的不只是过剩需求:凭借模型能力、服务规模和 token 效率,Anthropic 与 OpenAI 很可能是单位前沿级智能成本最低的公司。它们在竞争对手之前数月就提供达到特定能力水平的模型,同时也在用最好的模型优化这些成本。
还要注意,市场尚未把智能当作标准化商品:需求具体指向 Anthropic 和 OpenAI,对能力较弱模型的需求则小得多(因此 SpaceXAI 和 Meta 向 Anthropic 出售产能)。理解推动成本优化的一种方式,是将其视作按智能等级定义待完成任务的过程,让智能买家能够创建一个智能被商品化的市场。从长期看,处在前沿的公司同样最有能力主导非前沿市场;后者不过是前沿减去 n 个月,也就是前沿模型制造者已经优化了其服务成本的那些月份。
所有这些意味着,我认为人们对 Kimi 以及中国模型总体的反应相当夸张,至少从经济角度看是如此。当前有一把由算力不足造成的价格保护伞;我高度怀疑中国模型在边际成本上更便宜。它们看起来更便宜,只是因为 Anthropic 和 OpenAI 的供给约束极强,在智能供给足以满足需求时,它们的收费会低得多。
前沿实验室的偏执
那么,为什么模型制造商尤其显得如此恐慌于中国模型?
第一,我认为前沿实验室仍锚定于一个训练成本主导财务建模的世界。只要训练消耗的 GPU 多于推理,最大化推理收入以资助下一轮训练就至关重要,这意味着推理必须定出很高的价格。
但往后看,我预计推理市场的增长会远快于训练成本(这还包含训练成本会继续飙升的假设),这意味着它们确实可以靠规模弥补收益。就在八个月前,这一点仍不明确;但 Agent 范式的解锁效应如此巨大,前沿实验室应更有信心:一旦拥有充足算力,它们不仅能以更低价格存活,还能蓬勃发展。
第二,智能其实并不是完美的标准化商品,部分原因在于被应用的智能会让自身变得更聪明。具体而言,谁在运行推理,谁就在收集数据,而这些数据又会让下一代模型变得更好。一方面,随着更多算力上线,这更加说明前沿实验室应降低价格、提高使用量;另一方面,这也是为什么微软等公司越来越执着于帮助企业运行自己的模型。如果中国模型是可行替代方案,这件事就可行得多。
第三,前沿实验室不仅能与中国模型区分开来,也能彼此区分开来的另一种方式,是继续向上整合到客户体验中。Claude Code 与 Codex 已被证明相当黏性,这一点令人瞩目;你开始使用哪个 harness,很可能就会持续使用它,对非技术用户更是如此。从长远看,这种向上移动技术栈的必然性,确实意味着前沿模型会威胁软件提供商,其中也包括微软。反过来,当前掌握客户体验的软件公司能够获得多少有竞争力的模型,就在多大程度上能够抵抗前沿实验室的侵入。
最后,Anthropic 尤其突出的意识形态维度不可能被忽视。这是一家相信只有自己能够被托付 AI 的公司,而开放权重替代方案的存在,对这一预设构成了致命打击。
中国的动机
Kimi 并非唯一的新中国模型。彭博社报道:
阿里巴巴集团控股有限公司股价周一一度上涨 5.4%,此前该公司推出旗舰模型 Qwen3.8 Max 的预览版本,并称其仅次于 Anthropic PBC 的 Fable 5。就在几天前,初创公司 Moonshot AI 推出一款强大的新产品,搅动市场,也引发美国对中国正缩小与 Anthropic、OpenAI 等全球领导者差距的担忧。Qwen3.8 Max 拥有 2.4 万亿参数,与 Moonshot 的 Kimi K3 一同跻身重量级行列。K3 有 2.8 万亿参数,可与顶级产品抗衡,阿里巴巴也对自己的模型寄予了同样高的期待。
开发者现在可以通过包括 Qoder 在内的阿里巴巴编程平台访问 Qwen3.8 Max。阿里巴巴计划不久后将该模型开放权重,让访问范围超出预览版本。市场对这些中国制造的人工智能系统与模型兴趣极高,以至于 Moonshot 周日晚间不得不暂停接收新订阅,以应对压倒性的需求。
Qwen3.8 Max 也会开放权重这一点值得注意。阿里巴巴今年早些时候停止发布其最前沿模型的权重,但现在看来又撤回了这个改变;我猜测,这一转向与上周习近平关于 AI 的讲话有关。该讲话再次确认了开放权重路线:
我们应坚持开放共赢,推动创新驱动发展。作为世界经济增长的新引擎和增长动能转换的加速器,人工智能正从数字世界走向物理世界。我们应抓住这一罕见的历史机遇,鼓励开源、开放、协作与共享。我们应推动人工智能技术创新、产业发展和场景应用,统筹推进传统产业转型升级、新兴产业培育壮大和未来产业前瞻布局,让各行各业、各类企业都能从人工智能中受益。
中国的策略很明显:将你的互补品商品化。注意,习近平明确把开放与 AI “从数字世界走向物理世界”联系在一起;物理世界正是中国占主导的领域,而中国在机器人等方面的领先,将从广泛可得的 AI 模型中大幅受益。
同样,中国并不希望美国在 AI 上获得不对称优势;只要能削弱美国前沿实验室、同时壮大所有潜在的美国对手,效果就越好。中国也能从附着于开放生态系统的创新中受益。
蒸馏问题
同理,也别指望中国会对针对前沿实验室的蒸馏攻击采取什么行动。我认为,把中国实验室的所有成功都归因于蒸馏是错误的;但假装蒸馏没有给中国实验室带来巨大优势,同样错误。过去一年中,随着后训练强化学习对模型性能变得日益关键,这种优势真正显现出来。中国实验室无需从零构建强化学习环境,只需把前沿实验室模型作为教师,便能以低得多的成本快速提升(这不是中国模型开发更便宜的唯一原因,但确实是一个重要原因)。
有趣的是,中国模型在西方最重要的使用场景之一,本身就是蒸馏。例如,刚刚发布开放权重模型的 Thinking Machines,依靠中国模型解决强化学习的冷启动问题。Dean Meyer 和 Konstantine Buhler 在 X 上的一篇优秀文章中解释了:蒸馏意味着西方开放权重模型相对于中国存在根本性劣势:
蒸馏并不能解释中国在开放模型上的全部领先。中国实验室拥有世界级研究人员、充足算力、强大的预训练模型、软硬件协同设计能力,以及快速提升的后训练能力。但蒸馏压缩了从强大基础模型到接近前沿系统之间最后一段昂贵的差距。即使蒸馏在中国模型总能力中占比不大,它在中国模型相对美国开放模型的优势中也占据了有意义的份额。
新的执法机制会让中国公司大规模蒸馏更难、更慢、也更昂贵。不过,执法无法消除由国家行为者支持的蒸馏。因此,西方每一次前沿突破都会为中国实验室创造另一位教师。西方开发者要么独立复现这些能力,要么等待从中国模型中学习。这一缺口为中国实验室带来持续性的结构优势。
这一点值得重复:由于美国开放权重模型制造商必须遵守前沿实验室的服务条款,它们(1)比中国替代方案差,(2)最终只能蒸馏“蒸馏的产物”——只是绕道经过中国实验室。若西方开放权重模型制造商可以直接去源头获取,岂不是更好吗?
为此,还有一个关于蒸馏更有意思的问题:它究竟为什么不好?毕竟,大语言模型不正是将前沿实验室从开放互联网抓取的一切知识蒸馏进模型,而这些模型本身又被再次蒸馏吗?究竟谁受到了伤害?
实际上,这个悖论就是解决方案。我相信开放权重模型有益于创新(并且,如上所述,我认为处在前沿的实验室也会没事),但依赖中国是个问题。美国应通过一项法律:(1)明确收集数据训练模型属于合理使用;(2)至少禁止面向美国公司的服务条款限制蒸馏。阻止蒸馏——它本质上只是查询 API——几乎不可能;美国应反其道而行,拥抱一项新的版权政策:既让实验室获得保障,也确保它们所学到的东西能为所有人进一步创新提供动力。
值得害怕的理由
整篇文章都在试图为人们对 Kimi K3、乃至中国开放权重模型总体的过度反应降温;不过,确实有一个值得担忧的理由:网络安全。请看 The Stack 的报道:
Hugging Face 表示,其生产基础设施在上周早些时候遭到一个“自主”AI Agent 系统入侵。该平台的安全团队最初在事件响应(IR)中受阻,原因是未具名美国 LLM 前沿模型的护栏“无法区分事件响应人员和攻击者”。因此,Hugging Face 的防御者转而使用中国智谱 AI 实验室的开源 GLM 5.2 模型,在自有基础设施上运行它,分析攻击者留下的 17,000 多条日志或足迹。
对总部位于纽约、允许用户协作处理模型、数据集与应用、且今年夏天 ARR 达到 1 亿美元的 Hugging Face 而言,这是一个令人震惊的公开承认。公司在事件报告中建议防御者“在事件发生前准备好一款经过审查、可在自己的基础设施上运行的强大模型(此处为原文强调),既避免受到护栏封锁,也避免攻击者数据和凭据离开自身环境”。
很难夸大特朗普政府对 Anthropic 发布 Fable 所作恐慌式反应有多么方向错误,尤其是它还加剧了 Anthropic 最糟糕的倾向:假定只有自己能够被信任来使用强大 AI。若世界上只有一种 AI,或许有道理把最强的网络安全能力保留给美国政府与可信盟友;但这不是我们所处的世界。
现在已经有、未来还会有非常能够发起针对现有基础设施网络攻击的模型,它们会——实际上已经——被广泛获取。最佳防御——事实上唯一可行的防御——是确保防御者同样能获得最好的模型。由于特朗普政府的指令,防御者目前实际上被禁止将 Fable 或 Sol 用于网络安全;这意味着最好的替代方案,是使用一个多年来一直试图削弱美国网络防御的国家所提供的模型。这太荒谬了!
更好的路线很清楚:第一,放宽 Fable 和 Sol 在网络安全方面的限制;第二,确保美国开放权重模型制造商与中国处于公平竞争的环境。是的,前沿实验室会为此大吵大闹,但政府应意识到,听从它们的歇斯底里,已经让美国处在公司必须依赖中国进行防御的位置。让前沿实验室凭更好的实力取胜;不要让它们定义安全或安保,也不要让它们抽走人类集体知识的梯子。中国已经足够难以竞争;让中国高举开放与创新的旗帜,无异于白白交出我们最大的优势。