二.1
护城河护的不是软件
是「全世界的代码都已经写在上面了」这个既成事实
约 6 分钟·1,719 字·5 题
01
一个被说滥了、但很少被说清楚的词
「CUDA 护城河」到底是什么
只要讨论 AMD 能不能挑战 NVIDIA,一定会出现「CUDA 护城河」这个词。
但大多数讨论到此为止,没有再往下问一句:这条护城河具体是由什么构成的?
先说 CUDA 是什么:
它是 NVIDIA 2007 年推出的一套软件平台,让开发者能用接近 C 语言的方式给图形处理器写程序。
在它出现之前,想让显卡做通用计算,得把计算任务伪装成画图任务,极其别扭。
现在关键的问题来了:CUDA 之所以难以撼动,是因为它写得特别好吗?
不完全是。真正的原因平淡得多,也可怕得多:二十年下来,
全世界几乎所有的深度学习框架、算子库、推理引擎,它们的默认实现都是 CUDA 版本的。
一个研究者写论文的代码、一家公司的生产系统、一个开源项目的示例——默认都跑在 CUDA 上。
所以护城河的宽度可以被量化
如果护城河的本质是「所有人的代码都写在上面了」,那么它的宽度就等于:
把这些代码迁到另一个平台,需要多少工程师小时。
这个定义看起来平平无奇,但它有一个极其重要的推论:
护城河的宽度不是常数。它会随着「一个工程师小时能干多少活」而变化——
如果有什么东西让迁移变便宜了,护城河就变窄了,而这跟 AMD 做对了什么没有关系。
第 6 节会告诉你,2026 年恰好发生了这样一件事。
02
AMD 的对应产品:ROCm
以及一段不太光彩的历史
AMD 对标 CUDA 的软件栈叫 ROCm。
它的历史相当不光彩,而且这段历史直接解释了今天客户为什么犹豫。
最有说服力的证据来自客户的行为。2023 年,微软在采购了 AMD 上一代加速卡之后,
放弃了 AMD——理由是两条:当时采购的高带宽存储不可靠,以及软件质量太差。
放弃的结果是,微软连续跳过了 AMD 后面两代产品。
这件事的分量要这样理解:微软是全世界最有能力自己评估软硬件的买家之一,
而且它有极强的动机去扶持 NVIDIA 之外的第二供应商——毕竟谁也不想只有一个卖家。
即便有这样的动机,它还是走了。
03
把「软件不行」翻译成具体的东西
三个可以检查的层次
「软件不行」是一句模糊的话。要判断 AMD 到底追到了什么程度,
必须把它拆成可以逐项检查的层次。业内实际用的是下面这三层。
| 层次 | 问的问题 | 怎么检查 | AMD 的现状 |
| ① 能不能跑 | 新模型发布当天,这块卡能不能跑起来 | 看社区有没有可用配方 | 已基本解决 |
| ② 跑得快不快 | 同样的模型,吞吐和延迟差多少 | 看第三方跑分 | 单机已接近对手 |
| ③ 稳不稳、能不能组合 | 多种优化同时打开还能不能正常工作 | 看门禁测试的对等率 | 差距最大的一层 |
第三层需要多解释两句,因为它是本单元的胜负手。
门禁测试指的是自动化测试里最硬的一档:
不通过就不允许把代码合进主干。它和普通测试的区别在于强制力——
普通测试挂了可以先合进去以后再修,门禁测试挂了就是合不进去。
为什么只看这一档?因为厂商很爱展示「非门禁测试通过率 95%」这类数字,
但那个数字不阻止任何一行坏代码进入主干。
只有门禁的覆盖率和通过率,能说明软件质量的真实水位。
一个可以自己上网核对的数字
在 Kubernetes 推理场景下(这是全世界大多数推理部署实际使用的编排层),
AMD 第一方网卡的门禁自动化测试,对 NVIDIA 对应产品的对等率是 0%。
第三方特意说明了原因:这不是 AMD 的工程师不想做,
而是内部测试集群的容量投入不足,工程师被卡住了。
而且原定 2026 年某个时间点达成对等的计划,已经错过了。
第一层和第二层的难度是线性的:多支持一个模型、多优化一个算子,工作量可以估算。
第三层不是。它的难度是组合式的:一个真实的生产部署要同时打开好几项优化——
某种数值精度、某种并行策略、某种推测解码、某种网络拓扑。
每一项单独都能工作,但它们两两、三三组合起来时,可能出现只在特定组合下才暴露的缺陷。
第三方报告里记录了一个非常典型的例子:某个模型在并发数为 64 时,准确率会从 94% 掉到 80% 左右,
而其他所有并发数都正常。更早还有过一个更严重的版本:同一条路径会
安静地输出「流畅但错误」的内容,评测得分直接为零——
根源是某个计算核里一块内存没有初始化。
「安静地输出流畅但错误的内容」——这句话值得停一下
硬件崩溃、程序报错,这些都是好的失败——你立刻知道出事了。
而「跑得好好的,只是答案是错的」是最坏的一类失败。
在生产环境里,它可能几个月都不被发现。
这解释了一个经济学问题:为什么客户换供应商时如此保守。
省下的硬件钱是确定的,而承担的风险是「可能有一类你根本不知道自己踩上了的错误」。
这就是护城河真正的形状——它不是技术壁垒,是信任壁垒。
本节最后留一个引子。既然护城河的宽度等于「迁移需要多少工程师小时」,
那么它至少有两种被削薄的可能:
第一种,让工程师小时变得更便宜、更多。
如果有一种工具能让一个人干出十个人的活,护城河就窄了——这是第 6 节。
第二种,战场换了地方。如果竞争的关键从「已有代码能不能迁过来」
变成了「新出现的能力谁先做出来」,那么存量代码的优势就不再是决定性的——
但这也可能对 AMD 更不利,因为新战场上大家都得从头做,而对手跑得更快。这是第 7 节。
这一节要带走的一句话 所谓「CUDA 护城河」,护的不是 CUDA 这个软件本身有多好,而是二十年下来「全世界的人工智能代码都写在它上面了」这个既成事实。所以这条护城河的宽度有一个可以量化的定义:把这些代码迁到别的平台,需要多少工程师小时。这个定义很重要——它意味着护城河可能被两件事削薄:一是迁移成本下降(第 6 节:编程代理),二是战场本身换了地方(第 7 节)。
检验一下:护城河护的不是软件
5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。
二.2
从 0% 到「很大的机会」
一家公开记录过自己说错的机构,三次修改了同一个结论
约 7 分钟·2,218 字·5 题
01
先说为什么这家机构的判断值得单独讲一节
一个公开记录过「我曾经说 0%」的机构
市场上看多 AMD 的声音很多,看空的也不少。为什么本课要专门花一节,
讲一家第三方研究机构的观点变化?
因为它满足三个条件,而绝大多数研究做不到:
第一,它是一手的。这家机构自称是 AMD 每个季度的头号缺陷提交者,
日常使用 AMD 各代加速卡,有几十名 AMD 工程师在处理它提交的问题。
它的判断来自实际使用,不是来自调研纪要。
第二,它公开记录过自己的错误。它的第一篇 AMD 软件文章给出的结论是
「0% 的机会」——白纸黑字。一个愿意留下这种记录的机构,
后来的改口比一贯看多者的改口更有信息量。
第三,它改口的时机是逆向的。第二次改判(从 0% 上调到「有实质机会」)
发生在市场对 AMD 的情绪处于谷底的时候,当时多数人认为这个判断过于乐观。
| 阶段 | 结论 | 当时的理由 |
| 第一篇 AMD 软件文章 | 0% 的机会 | 软件是坏的,进展乏味,看不到追赶的可能 |
| 《AMD 2.0》 | 有实质机会 | 领导层能推动改变(而非委员会式决策);公司终于意识到软件的重要性并有了紧迫感 |
| 2026 年 7 月最新一篇 | 很大的成功机会 | 三条理由,见下文。但附带一个前提句 |
那个前提句很重要,不能省略
最新一篇的原意是:我们把判断从「非零概率」再次上调到「很大的成功机会」——
只要 AMD 解决我们在下文列出的两个主要风险。
这是一个有条件的乐观,不是无条件的看多。
引用这个结论时如果把前提句去掉,意思就变了——而这恰恰是市场传播中最常发生的事。
那两个风险是什么?一个是第 4 节讲过的机架量产爬坡,
另一个是内部缺乏稳定的测试集群(本节第 05 段)。
03
理由一:最有能力自己判断的买家回来了
四家客户,两种性质
第 5 节讲过微软 2023 年放弃 AMD 的事。现在讲后续:微软调头了。
它已宣布将部署 AMD 新一代机架,而第三方判断,
OpenAI 会是这批机架的主要终端客户。
同期还有另外三家:Anthropic 公开宣布将部署 2 吉瓦的 AMD 芯片;
OpenAI 和 Meta 各签下 6 吉瓦。
这四家客户的共同点是:它们是全世界最有能力自己评估软硬件的买家,
不需要听任何人的推荐。它们同时转向,本身就是一个信号。
但这四家必须分成两组来看
第一组(微软、Anthropic):没有拿到股权协议就下单。
这一组的分量重得多——它们是被产品本身说服的。
第二组(OpenAI、Meta):下单的同时,各自拿到了最多 1.6 亿股、
行权价 1 美分的认股权证。
把这两组混为一谈,是评估 AMD 时最容易犯的错误。
单元四会完整算清第二组那笔账——先给一个数:股权返还的价值,
相当于这两家客户付款金额的 94.4%。
04
理由二:编程代理正在削薄护城河本身
本节最重要、也最反直觉的一段
第 5 节给护城河下过一个定义:它的宽度 = 把代码迁到别的平台需要多少工程师小时。
现在这个定义要发挥作用了。
第三方给出的核心论证是这样的:写代码和测代码,已经不再是去年那种护城河了。
通过让 AI 代理承担原本由人类工程师完成的工作,所谓 CUDA 护城河的重要性被削弱,
而这帮助 AMD 抵消了 NVIDIA 在工程师人数上的优势。
它还给出了自己的一手证据:这家机构用编程代理为几个新发布的前沿模型做首发日适配——
代理自动从网上拉取配方、搭好流水线、监控运行状态;遇到引擎报错时能自己定位根因,
要么自动迭代重跑、要么找人介入。文中列出了四个已经合并进上游开源项目的具体修复。
它对这件事的评语是:这种迭代速度,在三到六个月前、以一个两个半人的团队,根本不可能做到。
这段论证之所以重要,是因为它指出了一件很少被说破的事:
护城河变窄这件事,可能跟 AMD 做对了什么完全无关。
NVIDIA 的护城河建立在「迁移很贵」之上,而迁移的成本主要是人力。
当一种新工具让人力成本大幅下降时,护城河就自动变窄了——
受益者是所有落后者,而 AMD 恰好是落后者里位置最好的那个。
AMD 自己也在押这条路。它在 2026 年的发布会上推出了一整套面向代理的工具:
一个自动写和调优计算核的代理,加上一个编排器——
后者会先分析真实服务负载找出瓶颈,派代理去优化,
并且强制要求端到端的对照验证通过才算数。已有的实测战果是某个场景下
约 21.8% 的端到端提升。
一个有趣的细节:防作弊比生成更花工夫
第三方在读这套工具的源码时发现,相当一部分工程量花在了防止代理作弊上:
要防止它偷偷给没打补丁的版本打分、要剥掉它对测试脚本的改动以免它靠改考卷通过、
还要有一份禁用库清单,防止它把「优化」变成偷偷调用一个已经调好的现成库。
第三方的总结是:生成一个计算核是容易的,让人相信那个数字才是难的。
这句话可以直接搬到投资上——本课后面每一个数字,
我们都会说明它是怎么被验证的。第 12 节会用两条独立路径算同一个数来做交叉验证。
05
理由三:单机性能确实追上来了
以及那个还没解决的风险
第三条理由是最实在的:在几个主流模型的单机服务场景下,
AMD 上一代加速卡的性能已经接近 NVIDIA 的对应产品;
某个模型的交互性能在 30 天内提升了最高 18 倍。
文档、复现配方、部署指南也比一年前深了不止一个层次。
但紧接着就是那个尚未解决的风险,也是前提句里的第二条:
AMD 内部缺乏稳定的图形处理器集群,供开发团队和自动化测试使用。
第三方记录的具体情况是:某个关键开源推理引擎的门禁测试进度「大幅倒退」,
原因是公司管理层把集群从内部团队手里调走了,去满足别处的容量缺口。
而工程师们的首要抱怨,正是集群不稳定、总被搬来搬去。
这个风险的性质,比它听起来严重
注意第 04 段的逻辑:AI 代理能加速软件开发——但代理本身也要消耗算力。
第三方明确指出:过去一个工程师需要几台机器,现在一个人可以同时跑几十个代理,
每个代理又要跑自己的测试。
于是出现了一个尴尬的循环:AMD 最有希望用来追赶的那个工具,
恰恰需要它最缺的那个资源。
第三方给的量化是:即便算上今年新增的几千颗芯片,
内部可用容量仍比对手用于内部开发的稳定集群少一个数量级以上。
最后补一个耐人寻味的技术细节,它比任何评论都更能说明谁在定义标准。
业界目前有两套互相竞争的四位数值格式
(低精度数值格式):
一套是 NVIDIA 随其新架构推出的,另一套是 AMD 一直主推的开放标准。
按理说 AMD 应该坚持自己那套。
但第三方在拆解 AMD 最新架构时发现:它的矩阵计算单元原生支持了对手的那套格式,
而且相关的调度代码已经写好并接入了运行时。
这是一个很诚实的信号:当你不得不原生支持对手定义的格式时,
说明客户的模型是按对手的标准做的。标准的话语权,仍然在对面。
这一节要带走的一句话 全球跟踪 AMD 软件最深的第三方,对「AMD 能否追上」的判断经历三次改判:0% 机会 → 有实质机会 → 很大的成功机会。三条可验证的理由:① 最有能力自己判断的四家客户回来了(微软调头、Anthropic 2 吉瓦、OpenAI 和 Meta 各 6 吉瓦);② AI 编程代理正在削薄护城河本身;③ 单机性能确实追上了。但它同时列出了两个必须解决的风险——而且给出的结论有一个前提句:「只要 AMD 解决下面这两个风险」。
检验一下:从 0% 到「很大的机会」
5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。
二.3
护城河搬家了
AMD 在追赶上一场战争,而竞争前沿已经换了地方
约 7 分钟·2,075 字·5 题
01
先看模型这两年变成了什么样
越来越稀疏,越来越依赖搬运
要理解「护城河搬家」,得先看被服务的对象——模型——变成了什么样。
前沿模型正在集体走向一种叫「混合专家」的结构:模型里养着很多个「专家」子网络,
但每处理一个词只激活其中很少几个。这样做的好处是参数量可以做得极大,
而每次计算的开销却不按比例增长。
关键在这个结构的演化方向:激活的专家数量一直固定在 4 到 10 个之间,
而专家总数却在飞速扩张——128 个、256 个、384 个,现在到了 512 个。
与此同时,很多新模型还把缓存压缩到只相当于一两个注意力头的大小。
这个演化方向决定了竞争的胜负手换了
当模型是「稠密」的时候,跑得快不快主要看单颗芯片的矩阵乘法有多强——
这是硬件和算子库的功夫。
当模型变得极度稀疏时,瓶颈换了:
怎么把 512 个专家摊到几十台机器上、怎么在毫秒内把数据路由到正确的专家、
怎么在机器之间搬运缓存而不让计算单元空等。
前者是「一颗芯片的问题」,后者是「一个分布式系统的问题」。
竞争前沿就是这么搬走的。
新战场上有两项能力是入场券,它们的名字听起来很技术,但道理都很朴素。
第一项是 PD 分离。
大模型推理分两个阶段:先读完你的整段提示词(算力密集),再一个字一个字往外吐(显存带宽密集)。
这两件事对硬件的需求完全不同,混在一台机器上跑会互相干扰。
拆到不同机器上,各自按需配置,效率会高很多。
第二项是宽专家并行。
与其在每台机器上都复制一整套专家,不如把 512 个专家摊到 64 张卡上,每张卡只放 8 个。
省下来的显存可以拿去装缓存,从而跑更大的并发批次。
公开数据显示,这项优化能带来每卡吞吐最高 2.28 倍的提升。
请记住这两个名字。它们是本节判断 AMD 位置的两把尺子。
| 时间 | 开放的 CUDA 生态 | AMD |
| 2024 年初 | 已在出货 PD 分离 + 宽专家并行 | — |
| 2025 年 11 月 | 前沿实验室与算力服务商已在生产环境普遍部署 | 官方文档仍称双批次重叠「仍在开发中」 |
| 2025 年 12 月 – 2026 年 1 月 | — | 官方发布分离式推理相关文档 |
| 2026 年 1 月 | — | 第一个公开可用的 PD 分离 + 宽专家并行配方落地 |
| 2026 年 2 月 | — | 双批次重叠合入开源引擎;数天后因破坏测试被要求回退 |
把这张表读一遍,时间差是大约两年。而且注意最后一行:
迟到的功能合进去几天就被要求回退,因为它弄坏了持续集成。
第三方对这一现象的总结很精准:这就是 AMD 推理软件故事的缩影——
原料越来越齐了,但太多关键优化仍然来得太晚、落地时很脆弱,
还需要再打磨一轮才能变成客户可以默认信赖的东西。
04
在最新的 Helios 硬件上,情况更严峻
本节最硬的一段证据
上面说的还是 AMD 上一代硬件。而第 2 节讲的那台 Helios 机架,用的是一颗全新架构的芯片——
它和上一代的指令集完全不同,意味着此前调好的算子几乎要重写一遍。
第三方逐层检查了这颗新芯片上的软件状态,结论是:
| 软件层次 | 新架构上的状态 |
| 深度学习框架 | 支持代码已合入,但只是编译期的架构管道,且没有任何自动化测试 |
| 计算核库 | 是全栈中推进最快的一层,但关键的专家并行核仍未完成 |
| 分布式通信框架 | 集成路径尚未接通,宽专家并行跑不起来 |
| 开源推理引擎 | 只构建镜像、无测试任务、无精度门禁,因为上游根本没有这颗芯片的测试机 |
| AMD 自研引擎 | 缓存搬运的一半已经在做,但没有专家并行;官方配方仍是单机 |
第三方的原话总结
从底到顶——框架、计算核、通信库、引擎——Helios 有了架构使能,
以及分离式推理的前一半;而宽专家并行,哪儿都没有。
配合第 4 节那个「机架量产地狱」,可以得到一个完整的图景:
这台机器的硬件还在爬坡,跑在它上面的分布式软件也还没到位。
要公平地补一句:这是 2026 年 7 月的快照,而这类工作推进得很快。
第三方自己也说,一旦某个集成路径被接通,宽专家并行「应该就能工作」——
它不是做不出来,是还没做完。
但对投资判断来说,「还没做完」和「已经做完」之间的差别是决定性的,
因为客户下的是真金白银的订单,他们要的是能默认信赖的东西,不是「应该能工作」。
05
一个几乎没人讨论的事实
ROCm 最关键的几块,是在中国建的
第三方报告里有一段信息,在中文和英文的讨论中都极少被提及,但它的投资含义很重。
原文明确写道:AMD 最好的顶尖工程师大多在上海;
负责分布式通信、缓存卸载、分离式应用前置部署的几个团队,
主要都在上海;ROCm 软件栈里最重要的几块,很多是在中国建的。
其中那个分布式通信框架,被明确记为由一支位于中国的工程团队从第一性原理构建。
为什么这件事重要?因为市场讨论 AMD 的地缘政治风险时,
几乎只讨论一件事:能不能把芯片卖到中国——那是收入端的风险。
这条事实指向的是研发端
如果人员流动、出口管制或合规要求触及这部分团队,受影响的不是某个季度的收入,
而是追赶 CUDA 的速度本身。
而按本单元的全部论证,追赶速度恰恰是这家公司估值的核心假设。
这是本课认为市场目前几乎没有定价的一个风险维度。
它不一定会发生,但它应该出现在风险清单上——第 17 节会把它列进去。
单元二从「CUDA 护城河是什么」出发,走到这里可以给出一个结论了。
「AMD 能不能追上 NVIDIA」这个问题,如果理解成「ROCm 好不好用」,就已经问错了。
按第 6 节的证据,单机层面 ROCm 确实追上来了——但那是上一场战争。
正确的问法是:AMD 的分布式推理栈,能不能默认地、跨模型跨拓扑地组合工作?
注意「默认地」和「跨模型跨拓扑地」这两个限定词。第三方说得很清楚:
差距已经不是「这些零件从来没法一起工作」,
而是 AMD 还不能假定它们在各种模型、各种数值格式、各种并行策略、
各种网络拓扑下都能一起工作,而不需要特例处理。
这就是第 17 节跟踪清单里最重要的一条
它是可以被外部验证的:去看开源推理引擎和 ROCm 的公开仓库,
查新架构上的宽专家并行有没有进入默认的门禁测试。
这一条如果被验证,单元四那笔股权交易就是划算的——
因为它换来的不只是 12 吉瓦订单,而是一个能自我维持的生态。
如果长期不被验证,那笔交易就只是用公司 16.41% 的所有权,
换了一批一次性的大单。这笔账第 13 节会算得清清楚楚。
这一节要带走的一句话 第三方最核心的一句判断:AMD 的软件故事已经不再是「ROCm 是坏的」,而是 ROCm 终于在紧迫地往前跑,但竞争前沿跑得更快。战场已经从「单机跑得快不快」,移到了「多机分布式推理能不能默认地、跨模型地组合工作」。时间差是硬的:开放生态 2024 年初就在出货这套能力,AMD 第一个公开可用的配方 2026 年 1 月才落地;而在最新的 Helios 硬件上,关键的宽专家并行能力「哪儿都没有」。
检验一下:护城河搬家了
5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。