AI产业链地图·知识库 公司深度研究 · AI 产业链三讲
🚧 网站建设中 → 产业链图谱
AI 产业链三讲华夏基金内训
0/1
全产业链 · 华夏基金内训

把 AI 产业链的黑话,一层一层讲成人话

三堂课把整条 AI 产业链讲成人话:先讲算力和 GPUHBM光模块这些 AI 硬件,再讲一颗芯片怎么从沙子造出来,最后讲 微软谷歌 这些云厂商的资本开支怎么带动整条链——课堂口语原味保留,黑话都用生活里的比喻讲开。

Unit 01 / 03

AI 硬件产业链:算力、需求与一座 AI 超级工厂

什么是算力、这轮需求为什么爆发、算力的载体长什么样,再把 GPU、HBM、PCB、光模块一层层拆开。

阅读 约 70 分钟分节 12 节测验 60 题(每节 5 题)

第一讲从零讲起:先讲清楚算力到底是什么、AI 每天在算什么(训练与推理、token 与 ARR),再讲这轮需求为什么是指数级爆发撞上制造业产能;然后把算力的载体从一台 AI 服务器讲到超节点万卡集群智算中心;最后用「AI 超级工厂」的比喻,把 英伟达GPUCPUASICHBMPCB光模块这些黑话一个一个放回工厂里——谁是厂长、谁是工人、谁是仓库、谁是物流。

一.1

算力到底是什么

这轮行情的核心:大模型越用越多、算力不够用、上游硬件紧缺涨价

约 5 分钟·1,401 字·5 题
01

为什么现在还在聊 AI 硬件

今天我就是给大家我们一起来梳理一下这个 AI 硬件产业链。虽然我们知道整个七月确实是发生了一个比较大的调整,但是调整之后,不管是从一个策略的视角,还是我们看市场热点关注的一个视角,好像都还没有脱离去对于整个 AI 产业链的这种聚焦,因为本质上也是因为它代表着整个这个市场景气度最高的一个方向之一吧。以及,不管是我们作为金融从业者,还是说作为一个二级市场的投资人,可能在接下来很长一段时间,我们都会反复地去关注到 AI 硬件相关的一个话题。

但这个话题它有一个特点,就是它那种所谓的黑话或者说缩写特别多,是吧?一会儿什么 GPU,一会儿 MLCC,一会儿 PCB,就是很有可能某一个概念,我们今天是感觉已经看明白了,但是,如果没有一个那种逻辑的主线把它梳理出来的话,可能明天就很容易就忘记了。所以今天我们这个交流,我们就是企图去建立一个核心的主线,就是帮助大家我们一起把这个产业一层一层地看清楚。

那为什么市场关注整个这个 AI 硬件板块?核心就是因为下游的这个 AI 大模型它越用越多,各行各业都需要算力,那算力不够用,上游的硬件,它确实就出现了紧缺涨价,也就是这轮行情的一个核心。

02

今天交流的四个部分

所以说今天的这个交流,我们就分成四个部分。第一个部分就是说一说,就大家天天说的这个算力,它到底是什么,以及 AI 到底在算什么?第二个就是为什么这轮算力会出现这样的一个史无前例的需求爆发。第三个就是,算力的载体到底是什么?就是大家听到的这个 AI 服务器,包括万卡集群,它都是什么样的?第四个就是我们站到一个 AI 超级工厂的视角下,我们再去拆解一下这些 AI 相关的核心概念。

那就先来到第一个问题,到底什么是算力?且 AI 整天到底在算什么?其实算力最直接简单的理解就是计算的能力。比如说你和我,咱俩比拼口算,你一秒钟能算一亿道,我只能算一道,那你的算力就比我强,强非常多倍。那这个是我们人脑视角下的,但是我们来到这个 AI 的视角,我们进入一个计算机和算法的视角,它是有所不同的。就是我们给 AI 我们给它输入的任何一条指令,比如说你给我生成一篇工作总结,我们说的是人话,但是来到 AI 的最底层,那些算力芯片,它们在计算的时候,它们可是看不懂人话的。

03

FLOPS:衡量算力的通用指标

计算机的世界里面只有二进制,它们看到的就是无数的零一零一零一的数字。然后每一颗芯片里,它可能都有成千上万个比头发丝还细的那种晶体管,这些晶体管每秒钟都在处理这种零一零一零一的运算。那每秒钟到底能算多少次?就叫做浮点运算次数 FLOPS,它就是行业里面衡量算力的通用指标,浮点算力。

那这个 FLOPS,因为它是在这个计算机视角下去展开的,所以你看它跟我们电脑里的那个存储空间的那个单位换算很接近。比如说我们电脑里的存储空间是 MB,过了之后是 GB 对吧,GB 过了之后是 TB,按照 10 的三次方往后推进对吧?1GB 就是 10 的三次方 MB,对吧?这个 FLOPS 的不同量级也是这样的,从 MFLOPS 开始到 GFLOPS 到 TFLOPS。

那什么叫浮点运算?我们可以理解成小数的加减乘除。虽然说这个浮点数它不等同于那个小数,但是它是有一些类似的。

04

比算力,先拉到同一个精度

那我们有了这个 FLOPS 这个每秒浮点运算次数的单位之后,我们就可以开始去感知不同 AI 芯片它的一个算力的水平。比如说英伟达它的旗舰产品叫 B200 对吧,它的算力是 FP16 下的 2250 TFLOPS。这个 FP16 就是 16 位浮点数的意思,我说它不等同于小数点后面有多少位,但是它也是一种非常客观的精度指标,就是精度在这里非常重要

就好像咱俩比拼这个口算,比如说您要是全部算的是小数点后四位的那种口算,我只算一位小数点,然后我说我比你算得快,那样不客观。所以我们去看 AI 芯片的算力的时候,大家也要先拉到同一个精度下来比较,比如说这个 FP16。你看到 B200 的算力是 2250 TFLOPS,你了解这一点之后,你就可以知道其他的那些算力芯片,它们的算力情况是怎么样的,它们跟这个英伟达的 B200 对比起来到底如何。那可能说到这里,就是我们大概地解释了什么是算力。

这一节要带走的一句话 算力最直接的理解就是计算的能力,行业里衡量它的通用指标是 FLOPS——每秒浮点运算次数。看 AI 芯片的算力,要先拉到同一个精度下来比较(比如 FP16),就像比拼口算,一个算小数点后四位、一个只算一位,直接比速度是不客观的。而市场关注 AI 硬件的核心,就是下游大模型越用越多、算力不够用,上游硬件出现紧缺涨价

检验一下:算力到底是什么

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.2

AI 到底在算什么

训练是找参数、推理是用参数——从一元回归讲到培养一个基金经理

约 4 分钟·1,278 字·5 题
01

一元回归:找参数就是训练

那 AI 到底在算什么?我们用一些我们生活当中能够接触到的例子来举例,其实通俗地说吧,就是两件事,训练和推理

那比如说,如果大家学过统计,或者说学过计量经济学,我们可能见过这种比较简单的一元线性回归模型,它长这样,y 等于 a 加 bx。我们说这里面有两个参数,一个是 a,一个是 b,因为我们不知道它具体是多少,对吧?比如说它展现出来的是散点的样子,我们要通过那个 OLS 拟合的方法,把它拟合成一条线,这样一来我们就知道 a 是多少,b 是多少了。去找出这个 a 和 b 这俩参数到底是多少的这个过程,我们就叫做训练。

当然就是真实情况下的模型,不管是神经网络还是 Transformer,我们后面的一些交流当中会跟大家具体讲解,它远比这个复杂得多,因为它们会去搜集那个人类世间的万物的规律和数据去总结,但是底层的逻辑是比较类似的。找到参数的过程就是训练,但是我们现在一旦知道 a 和 b 是多少之后,我们新输入一个 X 就可以算出对应的 Y 是多少,这个就叫做推理。

所以看训练的过程,它会耗时比较长,投入也比较大一些,但是等到推理的时候就比较快了对吧?X 一带进去你就算出来 Y 是多少了。但是你这个 Y 到底算得准不准?它极度地依赖于你之前训练得到底怎么样。

02

黄金价格:一次完整的训练与推理

我们再举一个例子,我们现在想知道黄金的价格它到底跟什么有关系,我们能不能去进行一些分析或者说预测?那我们就把比如说过去 20 年的黄金的价格呀,还有当时的美元指数,战争,通胀数据,一股脑全部喂给 AI。然后这个时候 AI 它就不停地算,然后它自己总结出了一套极其复杂的公式,可能我们用肉眼我们都看不明白,但是它已经自己搞明白了,这些东西跟黄金的价格之间到底有什么联系。

这个过程,可能需要一个月甚至几个月,靠很多张这个 GPU 没日没夜地跑。但是一旦公式到手了,比如说现在美联储突然宣布我要加息 25 个 BP,那我们就把加息 25 个 BP 这个新变量,往 AI 那套公式里边一输入,它马上就给我弹出一个结果,黄金要跌 10%,那这就是推理

03

培养一个基金经理

我们再换一个金融化的场景,训练就好比我们这个基金公司,我们去培养一个基金经理的过程。那我们可能会拿过去比如说三十年大盘的涨跌,财报的数据,政策新闻,全部给他看,然后我就告诉他,这种情况股票涨了,那种情况股票跌了,我就让他自己找规律。他就反复看,反复模拟炒股,他猜错了就调整思路,猜对了我就肯定他,强化他这个经验,可能经过千万次的演练,他可能就能够沉淀出一个有效的投资框架了。当然就是整个这个培育周期它是非常长的,投入也非常巨大,这个就是训练了。

那再说推理,推理就是说我们把这个基金经理终于培养完成了,我现在让他上岗了,可以实操了。然后他每天来到办公室,他先打开万得,他看一下最新的宏观数据,看一下公司的这个公告,看一下昨天比如说隔夜美股的行情,他就可以依托他已经固化的这种投资的体系,快速地识别出比如说哪些标的可能上涨,哪些可能下跌,然后他做出买入卖出的一个决策和指令,这个反应的过程就是推理。就是推理的速度会很快,但是我们看它非常依赖于前期训练好的这个模型体系。

04

训练与推理的简要对比

那我们做一个简要的对比吧。训练就是找出参数是多少的这么一个过程,目的是总结规律,耗时比较长,可能几个月,算力要求也是比较高的,需要高端芯片,需要很多张卡,这个我们后面会说,万卡集群是什么。

然后推理就是用参数的过程,它的速度就很快了。然后,因为通常来说,它可能对算力的要求没有那么极致,需要一些终端或者说少量的、没有那么多的高端芯片就可以了。

这一节要带走的一句话 AI 算的通俗地说就是两件事:训练和推理找到参数的过程就是训练——耗时长、投入大、需要高端芯片和很多张卡;知道参数之后,新输入一个 X 算出 Y,就是推理——速度很快,对算力要求没那么极致。但 Y 算得准不准,极度依赖于之前训练得怎么样,就像基金经理上岗后的每一个决策,都依托前期沉淀下来的投资框架。

检验一下:AI 到底在算什么

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.3

AI 时代的新货币

训练消耗 GPU 小时、推理消耗 token——大模型公司靠什么赚钱

约 3 分钟·987 字·5 题
01

两种算力消耗的单位

训练和推理这两个过程都消耗算力,但是它们算力的消耗单位有所不同。训练消耗的算力单位,我们把它叫做 GPU 小时。它衡量的就是一张 GPU 芯片连续满负荷工作一小时所完成的工作量。

那推理,它消耗的算力单位叫做 token,词元。这个词儿我们可能最近经常听到,就是自从我们官媒给了它一个中文翻译之后,词元这个词,什么词元经济、词元工厂,我们经常看到。词元它是大模型处理信息的最小的信息单位。

02

token:一个一个往外蹦的词元

比如说我们给 AI 发一个指令,你给我写一份年终总结吧,它给我们返回,它不是一段一段生成的,它也不是一个字一个字生成的,它是一个 token 一个 token 生成的。它每次只预测下一个 token,按照它的模型最大概率可能出现的是什么,预测出来之后,它把这个 token 放回去,继续预测下一个,直到结束,然后把这些 token 拼起来,就是我们最终看到的回答。

那一个 token,大概就是类似约等于 0.7 个汉字吧,就是一次问答,可能消耗几十到几百个 token 吧。

token 我觉得最恰当的比喻吧,最贴近我们生活的感知,就是我们用的那个手机上网要用的流量。token 你是输入要消耗流量,输出也要消耗流量,就跟我们手机上网一样。给你打开百度,比如说你给我找两张这个颐和园的图片,你输入的时候它要算你流量是吧,它把图片返回给你也要算流量,就是这么一个感觉。

03

ARR:大模型公司怎么赚钱

然后,市场把这个 token 称为 AI 时代的新货币,为什么这么说?因为比如说我们这些大模型公司,它赚的这个钱,它的商业模式,它的收入这一侧,它就跟 token 的消耗息息相关。

大模型的收入叫做 ARR,annual recurring revenue,翻译成中文就是年度经常性收入。它类似于,就是把它每个月稳定在跑的那种业务,折算成它一年能赚多少钱,它衡量的是一个年化稳定可持续的收入。然后现在我们市面上见到的这种大模型公司,管你 OpenAI 也好,Anthropic智谱DeepSeek 也好,基本上都是按照 token 收费的

如果说它是 To B 端,比如说它给咱们企业提供服务,它通常是给一个接口,然后按照 token 的使用量计费的,就是每百万 token 输入是多少钱,每百万 token 输出是多少钱。如果是 To C 端,比如说提供给我这样的个人用户使用,它通常就是比如说按照订阅费来收的,一个月费一个年费。

04

订阅费买的是 token 额度

像我自己是开了两个会员,一个是这个 ChatGPT 的 ChatGPT Plus,它的这个订阅费是一个月 20 美元,然后我还开了一个 Kimi 的会员,Kimi 的会员是一个月我交 90 多块钱吧。反正在这个订阅的套餐下面,它就会给你一定的这个 token 额度,让你去执行你的任务。比如说今天这套 PPT,大部分都是用这个 Kimi 生成的,那这个就要消耗我的额度了。所以,token 就被称为 AI 时代的新货币了。

然后,我们看到一些头部模型厂商,不管是 OpenAI 还是 Anthropic,他们的 ARR 都是快速地提升的,这个也是三月以来这个 AI 能有行情的一个非常核心的助推力。好,我们理解了算力是什么之后,接下来就来看一看,为什么这轮算力需求会出现这样的一个史无前例的爆发。

这一节要带走的一句话 训练和推理都消耗算力,但单位不同:训练消耗的是 GPU 小时,推理消耗的是 token(词元)。token 最贴近生活的比喻就是手机上网的流量——输入要消耗,输出也要消耗。大模型公司的收入 ARR(年度经常性收入)就跟 token 的消耗息息相关:To B 按 token 用量计费,To C 收订阅费。头部厂商 ARR 快速提升,是三月以来 AI 行情非常核心的助推力。

检验一下:AI 时代的新货币

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.4

万亿参数与中美包圆

从两个参数到万亿参数,头部大模型基本被中美两国包圆

约 5 分钟·1,369 字·5 题
01

从两个参数到万亿参数

为什么这轮算力需求会出现史无前例的爆发?那一个非常重要的原因,就是模型的参数量它经历了一个爆发式的增长。就什么叫模型参数,我们来回忆一下刚才说的那个比较简单的一元线性回归公式,y 等于 a 加 bx,它就两个数要算,一个 a 一个 b,所以它就是两个参数。但是来到 2026 年,这个万亿参数,已经成为头部大模型的常态了。

这个万亿参数我们怎么理解?我们可以想象就是一个大模型,它的内部是一个神经网络,它里面有很多层网络,然后每一层网络里边儿都有无数个那种小的计算单元。每一个小的计算单元它都是一个微缩版的 y=a+bx,然后它把这些线性单元给它层层地摞起来,中间经过了非常多的非线性转换,所以我们能够想象到它所在的那个空间它有多么的复杂。然后,它在这个堆叠的过程当中产生了万亿个你需要去算的参数。所以你能够想象这个训练就是这个找参数的过程,到底有多么的复杂,对于算力的需求有多大。

02

一张榜单:基本被中美包圆

那说到这儿,现在头部有哪些大模型?我们也可以简单地介绍一下。有一张图,它来自这个 Artificial Analysis,这个是我经常会用的一个网站,因为它就是定期做一些测评,就会对于现在市场上的这些大模型给它打出一个智能分数,那你可以作为参考。

然后我们看这个图,我们就会很明显地发现一件事儿,这里边基本上就被中美两个国家的大模型包圆了,只有两个例外,一个是现在排最后的二十三分的这个 Command R+,这是一家来自加拿大的公司,然后这里还有个橙色的三十分的叫 Mistral,这是一家来自法国的公司。其他的这些什么 AnthropicChatGPT,对吧?然后阿里的千问,这些全部都是中国和美国的大模型。所以从某种意义上讲,大模型的竞争现在就是中美两国之间的竞争,这句话,中美两国科技领域的竞争,好像也没有什么大问题。

03

美国战队:Claude、GPT、Gemini、Grok、Meta

那展开介绍一下吧。比如说,美国战队的代表 Anthropic,它的模型这一套叫 Claude,现在比较领先的是这个 Claude 5 还有 Opus 5。然后 Claude 5,之前刚上线的时候,还一度被这个美国政府要求要分批展示对吧,他们的理由是太过于先进不便于展示。那后来现在也是可以开放使用了,然后它的表现,确实能力还是比较强的,就是推理能力展现出来是比较强的。

然后 OpenAI,它的 GPT5.6,大家感兴趣的话也可以试用一下,它展现出来的模型能力也是比较突出。包括你看他们上线的那个 Codex 就是一个编程的智能体吧,然后导致现在 Vibe coding 非常流行,就是比如说一些我们没有编程基础的人,我们可以通过跟大模型用我们人类的语言进行对话,进行交互,然后生成我们自己需要的程序,这个也是一个比较好的功能。

然后 Google 这边,它旗下的这个 DeepMind 有他们自己的 Gemini 模型。然后马斯克,他旗下有个这个 Grok,刚出了 Grok 4.6,然后 Grok 它也是接入了他旗下的那个平台,以前叫 Twitter 现在叫 X 的一些相关的数据进行训练,那个实时联网能力也是比较强的。然后 Meta 你看它自己它是两条线都在推,它有它自己的一个 Llama 是属于开源生态,然后它也推了它这个 Muse Spark,这个就是属于闭源的。

04

中国战队:开源占比更多

美国的大模型整体还是以闭源为主,但是我们中国的大模型就是以开源会占比比较多一些了。比如说阿里巴巴通义千问,刚上线了这个千问 3.8 Max,表现还是比较突出的,因为现在千问办公也在开放使用,像目前这个阶段它送积分,暂时是免费的,大家也可以感受一下。

然后 DeepSeek 这家公司就更不说了,我们大家都很熟是吧,DeepSeek 的横空出世也是使得我们整个这个中国的科技股,都迎来了一轮价值重估。然后,阶跃星辰上线的产品,确实也是性能比较好的,推理能力也是比较突出的。

然后 Kimi 的 K2,这是一个将近万亿参数的一个大模型,也是实测当中跑分非常靠前的。你看它在这个 Artificial Analysis 的排名当中,也是非常靠前了,就仅次于 Claude 和这个 GPT-4o,它就排在这个位置。像我感受下来,我觉得它的能力也是比较好,包括尤其是做 PPT 这块,我是比较满意的。然后还有智谱,还有 MiniMax,也是已经在港股上市的我们的大模型公司,被称为这个大模型双雄。

这一节要带走的一句话 算力需求爆发的一个重要原因,是模型参数量的爆发式增长——一元回归只有 a、b 两个参数,而 2026 年万亿参数已成头部大模型的常态,找参数的训练过程对算力的需求可想而知。看格局,头部大模型基本被中美两国包圆,只有加拿大的 Command R+ 和法国的 Mistral 两个例外;美国的大模型整体以闭源为主,中国的大模型开源占比更多

检验一下:万亿参数与中美包圆

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.5

需求为什么爆发

Scaling Law 没证伪、智能体让推理上台阶,而供给是制造业追不上

约 8 分钟·2,311 字·5 题
01

Scaling Law:智商的代价是算力

在这里再提一个概念吧,叫做 Scaling Law 尺度定律,就是说研究发现,我们这个 AI 智商的提升的代价就是算力需求的持续增长,就是说如果我们想让 AI 大模型的能力进一步提升,我们需要的训练数据和计算量它就会不断地增加。这个也是我们在训练这一侧,AI 算力需求大幅增长的一个重要的原因。

当然,现在也有观点认为说,这个 Scaling Law 它有所放缓,就是当你这个模型总参数量已经很大之后,你再去堆比如说训练的算力,它可能提升是比较有限的,但成本会大增。这个有点儿像我们之前说那个摩尔定律,它开始接近物理极限——摩尔定律它说的是我们把晶体管造得越来越小,然后芯片的性能提升,但是你小到一定程度之后,你把它造得更小,你成本会大幅提升,但是性能可能不会等比例地放大。就是一样的,Scaling Law 这边儿放缓,也是大家的一个质疑。

但是我们也看到了它的一些有效性和延续。比如说刚才说的 Kimi K2 对吧,你从之前就是普遍的比如说万亿参数规模,提到了接近 3 万亿参数规模之后,我们发现它性能确实是提升了。包括字节的这个 Seedance,它是一个多模态的、主要是生视频的一个模型。这多模态跟单模态的区别就是说单模态它主要处理文本,那多模态,除了文本、视频、声音、图像,它都可以得到一个比较好的处理。我们就看到 Sora 它其实也是一个堆参数的某种意义上的一个重要的结果吧,包括字节也提出他们要打造 10 万亿参数的可能性。

所以从这一点,我们就可以了解到一个事情,就是说这算力,它还是一个非常重要的一个资源对吧。因为毕竟你这个 Scaling Law,你只要没有证伪,你还在生效,那么对于这些大模型厂商来说,他们就还是想发力,尽量去训练出更领先的更优秀的模型,去抢占这个技术的制高点,去吸引更多的用户。所以,对于这个算力的军备竞赛,从某种意义上讲,它也是不可避免的。

02

推理:比训练更广阔的市场

那刚才我们说的是这个训练环节对于算力需求的提升,导致了我们看到的这种算力需求的爆发,但是其实推理需求,它可能是一个比训练更加广阔的市场。就是训练的过程,我们说类似于培养一个基金经理的过程,你培养他确实费劲儿,但是其实你培养完成之后,可能有的故事才刚刚开始。

比如说来到现在,我们看到这些大模型产品,其实你每一次跟它完成交互,它都在完成一次推理。比如说你问一个天气,让它写一份报告,再让它写一份工作总结,每一次用户过来的调用,每一次交互,模型都要完成一次推理运算。如果说推理的这个算力总需求,我们把它写成一个公式的话,它就等于用户数乘以使用时长乘以使用深度,你会发现它是一个乘数级增长的一个过程。用户数这个很好理解,那就是有没有越来越多的用户来用这个大模型,对吧?衡量的是你这个大模型的这个渗透率。

那用户数的爆发,这个确实也是我们能够看到的。比如说今年豆包上春晚之后,像我姥姥这样的老人,她也装了个豆包,每天她买什么菜,做什么菜,她去公园,她规划一个路线,对吧?她都使用一下豆包。然后使用时长和使用深度这一点,就跟这个大模型它自身功能的迭代是分不开的。比如说一开始大模型它更多的是那种一问一答的交互方式,像一个聊天机器人一样,你问它一个问题,它给你答一个问题,然后聊完之后就没了,对吧?就终结了。但是现在更多从这个 OpenClaw(小龙虾)的爆发开始,大家更多地关注到了 AI 智能体的这个领域,就是你是可以让它给你智能地执行一些任务的。

03

一个智能体看板的现身说法

就比如说我用千问办公,给我自己建的一个每日的智能体的定时任务。因为我是基金公司的策略分析师,然后我每天早上 8:30 到公司,到那个 9:15 集合竞价之前,我要做一下市场复盘的。比如说我要看一下昨天隔夜美股怎么样了,然后昨天大宗商品,比如说这个黄金、原油、白银、铜,它的价格表现怎么样,以及再复盘一下昨天 A 股上市公司有什么重要的消息,美股上市公司那边儿有什么重要的消息,因为这个会直接影响到今天的市场行情,包括影响到我跟客户的一些交流。那我在这个过程当中,我是费时费力的,一个很重要的点就是我要打开比如说行情终端,我要先开万得,看完了我要再打开财联社,对吧?我要到处去看一遍。

所以我就直接做了这么一个智能体的任务,我让它每天八点十五自动执行,然后八点三十发给我。其实我都不需要编程,所以咱们看到的是一个 HTML 的网页,但是它不需要我有编程能力,我只需要跟 AI 智能体说清楚我是谁,我要干什么,我需要哪些东西。然后因为我不是一个产品经理,我可能说的不是很完善,我就让它给我补充完善——等于我先跟这个 AI 智能体,我把它当做一个产品经理用,让它给我生成一份完整的需求文件,我再把这个需求文件输入给它,然后调动我的这个编程智能体来给我执行。执行完了之后,我需要它每天定时给我输出,我就直接说你每天给我生成一个固定的网页,这个网页它就给我生成了。

然后这个看板就摆在这儿,按照我要求的方式,每天开盘前需要关注的事儿,隔夜美股怎么样,是吧?包括这些历史新高什么的都能给我标出来,重点公司发生了什么,板块发生了什么。这样子对于我来说,它就是一个效用的明显提升。但是与此同时对于大模型来说,对吧,你看这个需要的算力,它肯定是跟之前的那种一问一答的聊天机器人完全不一样了。所以市场普遍认为说,今年可能就是 AI 训练和推理需求的一个重要分水岭了,就是未来推理算力的需求它是有可能超过训练算力需求的,而且是一个大概率的事件。

04

行情爆发的本质:供需缺口

好,那我们到这里我们就知道了,到底这轮 AI 硬件的超级周期是怎么爆发的。首先就是因为你这个需求在大模型的那一侧,它经历了一个指数级的增长,就是每天那么多的用户,它产生了海量的推理需求,然后大厂就争相研发最先进的大模型,产生了这个训练投入的需求。但是供给端,它的爆发就不能像那种乘数级、指数级的模型这样爆发,因为本质上你 AI 硬件,你就算再高端,你也只是一个制造业,制造业的产能是不可能这样子爆发的。

比如说我现在需要高端的算力芯片,我们去做一个先进制程的芯片工厂,我从动工到稳定量产,我至少需要两三年,如果是在那种海外比较躺的那种地方,我可能要三五年,对吧?那你这个产能的扩张,你就会受到物理条件的一个严格的约束。

所以这就是行情爆发的一个本质的原因,就是因为你供给的滞后,它是落后于这个需求的指数性增长的。所以接下来我们要讲的所有的 AI 硬件,GPUHBM光模块,本质上它能走多远,它都取决于这个供需缺口的一个持续时间和紧张的程度。

这一节要带走的一句话 Scaling Law 说的是 AI 智商提升的代价就是算力需求持续增长——它只要没被证伪,大模型厂商的算力军备竞赛就不可避免。而推理可能是一个比训练更广阔的市场:推理总需求 = 用户数 × 使用时长 × 使用深度,是乘数级增长;智能体的爆发让任务从一问一答变成多步骤执行,市场普遍认为今年就是训练和推理需求的分水岭。行情爆发的本质,是供给的滞后落后于需求的指数性增长——所有 AI 硬件能走多远,都取决于这个供需缺口的持续时间和紧张程度。

检验一下:需求为什么爆发

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.6

算力长什么样子

从一台 AI 服务器到超节点 NVL72、万卡集群,再到智算中心

约 5 分钟·1,466 字·5 题
01

一台 AI 服务器长什么样

我们就来聊下一件事情了,就是关于 AI 算力的一个具体的载体。就是算力它也是没有办法凭空产生的,它需要以这个物理设备作为载体的。这个载体,最基本的单元,就是 AI 服务器了。其实普通的服务器我们所有人都见过,就比如说我们办公室电脑的那个主机箱,它本质上就是一台微型的个人服务器,但是它更多的是去处理我们什么日常打字、上网、做表格这些任务。但是 AI 服务器不一样了,它是专门为了这个 AI 训练和推理去量身定做的一个超级主机。

那一台 AI 服务器长什么样?我就拿了一台英伟达的 AI 服务器,用 AI 生成了一个俯视图,我们可以来看一下。目前行业里通用的一个配置标准是 8 张 GPU 算力卡就排在下面,然后每一块 GPU 它都会跟一个 HBM 紧密相连,它们紧密地绑在一起,HBM 在这里是为了给 GPU 高速地搬运数据,我们后面会详细地说。然后在上面会配两颗主处理器 CPU,然后还会有这个系统的内存,就是 DRAM,内存条的一个插槽。然后两侧我们会看到有给它供电的电源模块,还有散热的系统。

因为它的发热量非常巨大,你用风扇对着它吹是没用的,就像用风扇对着火炉吹一样,就必须要上液冷,就是现在的这些 AI 服务器。然后两侧还有那种企业级的固态硬盘,它是用来放一些比如说系统的数据、训练集等等。大概就长这样子。然后它们整体是放在 PCB 板上的,然后底下你看有个高速网络接口,那光模块它就是插在这儿的,就是光模块它是负责到时候把数据传出去,这个我们后面会说。

02

一台不够怎么办:铜缆与光模块

然后,就像这样单台的一个 AI 服务器,它的算力其实是比较有限的,就是你一台不够,那怎么办?就是目前两种方案吧。第一种就是比较传统的,你把好几个 AI 服务器你给它连在一块,距离比较近你用铜缆连就行了。因为刚才我们说芯片它是不是只能识别那种零一零一的电信号,你距离比较近的时候,那个电信号它在铜缆里边传的还是挺好的。但是你如果距离比较远的时候,你用铜缆再去连就不行了,因为电信号它跑不远也跑不快,它得把电信号转成光信号,光信号跑到光纤上,它才能够快速地跑起来,这个时候就要用到光模块,光模块它负责的就是把那个电信号转成光信号,然后传得远一点。

那这种模式,就是你把它这样连起来的话,它存在一个效率上的问题,就是说它可能有一些系统上的延迟吧。

03

超节点:让 72 颗 GPU 像一颗一样干活

所以说现在行业内推的主要就是超节点。超节点它能够让很多个 GPU 像一颗 GPU 一样干活儿,它靠的就是那种高速互联的系统。比如说一个常见的超节点就是英伟达的这个 NVL72 机架,展示的是它新一代的这个 Vera Rubin 型的机架,这个 72 的意思就是说里面集成了 72 颗 GPU,它也会搭配相应的 CPU。

然后,它不是随便这么塞到这个柜子里的,它是把它好好地集成在一块儿的,它既考虑了算力也考虑了通信,还考虑了散热,就是这里面是一整套的那个散热系统也放好了。因为这个 NVL72 机架运转起来,它的发热量类似于 100 到 200 台那个微波炉同时运转对吧,所以必须要上液冷。然后负责造这个机柜的,就是帮英伟达造机柜的,主要就是工业富联

然后比如说一个机架不够用的情况下怎么办?一个机架的算力都不够,那我们就要把好多这些机架连起来。那一般来说你机架连机架就要用到刚才我们说的光模块加光纤,就光通信的那一套了。然后你好多机架连起来,当你里面有那个比如说上万张 GPU 卡的时候,它就是一个所谓的万卡集群了。

但是这些集群,它也不是随便放在哪儿都行的,因为它在 24 小时不停地运转,它会产生巨大的这个热量和电力的消耗。它必须统一安放在一个那种恒温然后配电也比较完善的 IDC 机房里边儿。那这样的一个专门用来放 AI 算力集群的大型机房,就是我们常说的 AI 算力中心了,又叫智算中心 AIDC。

那这个智算中心是谁建的?你在北美就是那几个大的云厂商,比如说什么亚马逊谷歌微软Meta,他们出钱建的,以他们为主导。对,他们要去买地皮,他们要去买这个 GPU 算力芯片,要去买 AI 服务器,要去买刚才说的光模块、光纤、光通信,要去买电源等等,他们来组建。那在国内,这个智算中心,主要是由我们的三大运营商主导的,就是我们的这个移动、联通、电信,由他们来主导的。

这一节要带走的一句话 算力没办法凭空产生,最基本的载体单元就是 AI 服务器——行业通用配置是 8 张 GPU 加 2 颗 CPU,每块 GPU 都和 HBM 紧密绑在一起,发热量巨大必须上液冷。一台不够就连成超节点(如英伟达 NVL72,让 72 颗 GPU 像一颗 GPU 一样干活),机架再连机架、上万张卡就是万卡集群,统一放进恒温配电完善的机房,就是智算中心 AIDC北美的智算中心由云厂商出钱主导,国内主要由三大运营商主导。

检验一下:算力长什么样子

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.7

算力从哪儿来

自建适合有矿的巨头、租赁贵三成但轻资产,还有第三方算力租赁

约 4 分钟·1,075 字·5 题
01

自建:只适合有矿的巨头

然后,对于大模型公司来说,他们的收入是 ARR,他们的成本主要就在算力的支出这一块。他们通常有两种方案。一种就是自建,一种是租赁。

但是自建,就刚才我们说的,你还要去拿地,你还要建这么一个巨大机房,你还要买那么多设备,买那么多硬件,你还要配运维人员,这个只适合有矿的那种巨头,比如说谷歌Meta字节跳动、阿里,他们来投入。它的好处,就是你这样一来,算力资源完全是自主可控的,你不受外部供应链限制,你可以深度地去匹配你自身的这个 AI 业务需求。那坏处我们也知道,这是一个重资产投入,你得有相应的现金流来支撑。

02

租赁:贵三成,但轻资产

那还有另外一批公司,比如说像 Kimi,就是月之暗面的母公司这样的,以及还有很多的那种应用开发商。他们就是,他们没有矿对吧?但他们要开展业务,他们就可以去找刚才我们说的那些云厂商,去租他们的算力。他就直接找到那些云平台,比如说亚马逊的云叫 AWS微软的云叫 Azure,然后阿里叫阿里云腾讯腾讯云,字节叫火山引擎。他通过这些主流云平台去租算力资源,对吧?你就可以做到一个轻资产快速启动。

虽然在算力租赁模式下,你整个成本肯定比自建要贵个比如说百分之三十左右吧,但是,轻资产是比较匹配算力公司的节奏的。

03

第三方算力租赁公司

然后在这个算力租赁模式下,还有另外一类的公司,他们叫第三方算力租赁公司。代表性的,比如说海外的 CoreWeaveNebius,CoreWeave 是高度绑定这个英伟达的,用的基本上都是英伟达的卡。然后国内比如说利通电子协创数据润建股份中科曙光,他们是这样的一个业务模式。

比如说刚才我们说那些云厂商,云厂商他们不是建了算力中心,但是,因为现在算力需求还是比较旺盛,就是你有时候投了钱,毕竟你这是一个建设的过程,你也没有那么快拿出产能来,有时候产能跟不上了怎么办?他们就可以去找这种第三方算力租赁公司。那这些公司它主要就是干一个事儿,它就去买算力卡,然后提供算力服务。那对于云厂商来说,他跟他们合作就是合作共赢,他们一块儿分润就行了。

然后,算力租赁公司等于找到了长期大客户,签一些长期的合作协议,把算力租给云厂商。云厂商,他再分销给下游的客户,比如说我们一个创业公司或者说我们个人,我们就可以通过云厂商租赁到这个算力服务了。

04

需求传导的完整链条

好,那我们梳理到这儿,整个产业链它的需求的传导链条就比较清楚了。因为 AI 技术突破,导致各类 AI 应用开始快速普及,普及之后,用户的规模爆发了。然后大模型厂商又想着那我要怎么样做出更先进的模型抢占市场,就开始了这个算力的军备竞赛。然后训练加推理两股需求合流,就导致了对于算力的需求大幅增长,需要海量的算力来支撑。

那算力怎么来?就是你要么自己去建这个智算中心,要么你就去租赁这个云算力,反正最终都落实到你要去采购组成智算中心的这些所有硬件。这个就是需求传导的一个完整链条了。

那我们接下来要拆解的所有的那些 AI 硬件,说到底就看这个链条拉动的需求,到底有多么紧俏和旺盛了。

这一节要带走的一句话 大模型公司的收入是 ARR,成本主要在算力支出,拿算力通常有两种方案:自建和租赁自建只适合有矿的巨头——算力自主可控、深度匹配业务,但是重资产投入;租赁贵个 30% 左右,但轻资产快速启动,匹配没矿的公司的节奏。中间还有第三方算力租赁公司:买算力卡、给云厂商补产能、一块儿分润。需求传导的完整链条最终都落到一件事:采购组成智算中心的这些所有硬件。

检验一下:算力从哪儿来

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.8

厂长 CPU 工人 GPU

从 AI 工厂的人力说起:英伟达的发家史、CUDA 护城河与两个格局变化

约 8 分钟·2,387 字·5 题
01

CPU:AI 工厂的厂长

来到最后一个部分,我们从一个 AI 超级工厂的视角去理解一下这些 AI 硬件。就想象一下,我们每天接触到的这些 AI 应用,这些 AI 大模型,你无论让它生成一张图片,还是让它回答一个复杂的问题,本质上都像是一个巨大的生产任务。然后,我们完成这个任务,我们是需要一个高速协同、24 小时运转的 team,我们可以把它想象成一个现代化的 AI 工厂吧。然后我们接下来就去理解一下这个工厂的运作逻辑,我们就能够理解这些 AI 硬件它们本身的一个情况了。那我们上来,先介绍一下这个工厂里边儿的人力,我们工厂的这个核心的智慧大脑和我们的工人。

我们先说 CPU。CPU 中央处理器,大家都很熟对吧?哪个电脑里边儿都有 CPU。那 CPU 在 AI 工厂里呀,它相当于厂长,它是领导核心,它的职责就是调度任务、协调资源、发号施令,对吧?你给大模型发出一个指令,对它来说就像来了一个大客户,只有厂长这个级别的人才有资格出来对接你,他去理解你的需求,然后把这个大任务拆解成一个个小的工序,分给下面的工人去执行,然后再把成品交付给你。

就是这个厂长,他不是不能出来干活,只是你如果让厂长去下那个流水线,他干的不一定有那些天天干熟了的工人快,以及对也是一种资源的浪费吧,多少有点儿大材小用。就比如说我现在开了一个酒店,我来了一个大单子,来了很多客户要洗两万件衣服。我要是这个酒店的老板,我肯定不用自己去洗对不对?我把它拆解一下,分给下面的人去执行就可以了。这个就是 CPU 干的事儿。代表性的公司,美国的两家老牌头部厂商英特尔AMD,然后中国这边是海光信息,沿着这个自主可控的这条路,我们也在一步一个脚印。

02

GPU:流水线上的王牌工人

然后,接下来我们说 CPU 作为厂长,他发号施令,他让谁来执行?那就是 GPU,GPU 就是我们流水线上的王牌工人,它叫图形处理器。就是爱玩游戏的小伙伴儿对这个词肯定不陌生,我们那个游戏显卡,它本质上就是一种 GPU。GPU 最初本身也是为了处理游戏的图形渲染而生的,因为图形渲染有一个特点,它同时需要处理大量的像素点,需要非常强的并行计算能力,然后这个特点就跟 AI 时代的神经网络训练它非常相似,所以说 GPU 就成为了 AI 时代的核心算力芯片。

那在工厂里边,GPU 它就是生产线上的熟练工人,或者说你把它理解成一群特别擅长大规模同时开工的底层搬砖牛马。你厂长,你把任务分解好,一声令下,你几千个 GPU 工人他同时开干,他也不需要有厂长那样的全局观,他反正每个人只负责算自己手上的那一小块活,然后他瞬间就能把他的活干完,这个就是 GPU 要干的事情。

代表性公司,海外是英伟达,它是绝对的龙头,然后 AMD 是在追赶。然后我们国内也有我们的 GPU 四小龙,摩尔线程、沐曦、壁仞天数智芯

03

英伟达的发家史与 CUDA 护城河

那因为这儿已经说到英伟达了,我觉得我们就是补充一些背景,就是为什么英伟达会成为这轮 AI 行情的全球总龙头,以及它的护城河到底在哪里?其实 GPU 这个词本身就是英伟达它在 1999 年提出和发明的。就是 30 多年前,你看 1993 年英伟达刚刚成立的时候,它瞄准的就是个人电脑的图形处理计算方向了。它为什么不干 CPU?其实那时候一提起电脑,大家只会想到 CPU,一说起电脑就等于在说 CPU。只是那时候的 CPU 市场,它完全被英特尔和 AMD 两家巨头垄断了。你英伟达一家创业公司,你没有办法跟他们硬碰硬正面刚的,所以它只能选当时巨头们看不上、然后复杂程度相对也低很多的这个图形处理器来当一个突破口了。那 GPU 就是显卡的一个核心计算单元。

结果只能说,运气来了挡都挡不住。本来他做 GPU 是为了搞游戏的图形处理,那谁知道我们说二十年之后,你这个人工智能的神经网络训练,竟然和这个图形计算存在那么惊人的相似,都需要超大规模的并行计算。所以说 ChatGPT 这类大模型的训练需求爆发之后,GPU 就成为了时代的选择。所以我们去看英伟达的成功,你可以说是时代选择了它,当然也跟它自己一开始选中了这个路线,并且也坚持在这个路线上面持续发力,做到了全球的一个领先者有很大的关系。

但是如果只说到这一点,还是没有办法去理解它为什么能够成为全球的 AI 总龙头。这里有一个非常关键的一点,就是它很早就在布局的一套软件生态系统 CUDA,这构成了一个非常重要的护城河。这个软件系统我们怎么理解?比如说你插了显卡,你把显卡连到你的这个电脑上,让它帮你处理任务,你是要写一些代码的。然后过去十几年,全世界的程序员他都是用英伟达的 CUDA 工具在写代码。就是说即便现在有竞争对手做出了跟这个英伟达性能不相上下的 GPU,你用户也是不敢轻易替换的,因为你这个换了新的 GPU,所有代码都要重写,成本也是比较高的,而且你切换天然就存在代价。

比如说我平时用的信息终端是万得,我切到同花顺之后,有各种各样适配上的麻烦。那如果说咱们是一家创业公司,我之前用的 CUDA,你现在让我换了其他的芯片,我切到其他的系统了,那如果说出了一些这种适配上的问题,业务中断了,那我这个客户丢了,我可能就倒闭了,对吧?所以就是说切换方面就是也会慢慢来,也会比较审慎一些。那我们就看到,当所有人的业务它都围着这个英伟达的规则运转的时候,从某种意义上讲,它就成了行业标准。

04

格局正在发生的两个变化

与此同时,我们也留意到,这个格局,它正在发生两个非常值得关注的变化。第一个就是 CPU 的角色,它在强化。刚才给大家展示过,过去一台 AI 服务器里边,标配是八个 GPU、两个 CPU,是一比四这样的一个比例。但是,随着这个 AI 智能体的发展,任务从过去那种简单的一问一答的对话机器人的模式,变成了比如说像刚才我生成一个那种每天自动更新的看板一样的、更加复杂的多步骤推理的模式,就是需要 CPU 这样的厂长他多多地出来去深度地理解任务,拆解任务,再调度牛马 GPU 去执行。所以说行业里正在热议,这个比例它正在迈向比如说 1:2,甚至未来会到 1:1,这意味着整个 CPU 的用量,它可能会大幅提升。我们看到美股的 CPU,比如说英特尔,这个老牌厂商它也焕发新生了,背后走的就是某种意义上讲就是这个逻辑。

那么第二个,就是国产芯片的机会窗口打开了对吧。你看前几年英伟达高端 AI 芯片被出口管制,它反而给国产芯片厂商腾出了一个重要的发展空间。就是说虽然说你这个高端训练芯片还在追赶吧,但是,你看现在大模型的训练需求它阶段性趋稳了,那更多的增量来到了推理这一侧。推理对芯片的绝对性能要求,它不像训练那么高,但是它对成本和自主可控的要求会更高,包括我们看到国产的这个算力芯片在推理这一侧,它渗透率也是不断提升了。

比如说某家这个运营商的产品经理就在跟我聊,他们那儿的数据大概是这个 2025 年的时候,国产这个芯片在推理这一侧的渗透率可能是 30% 左右,那今年年初已经来到了 50% 到 60%,然后根据他们的预测,可能年底会达到 80% 以上。所以说国产芯片,在这个推理这个方向确实是大有可为。

这一节要带走的一句话 在 AI 工厂里,CPU 是厂长——调度任务、协调资源、发号施令GPU 是流水线上的王牌工人,靠大规模并行计算干活。英伟达的护城河不止芯片,更在很早布局的软件生态系统 CUDA——全世界的程序员用了十几年,切换代价太大,它就成了行业标准。格局正在发生两个变化:智能体让 CPU 的角色强化(配比从 1:4 迈向 1:2 甚至 1:1)出口管制给国产芯片打开机会窗口,推理侧国产渗透率快速提升

检验一下:厂长 CPU 工人 GPU

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.9

GPU 的对手们

ASIC、芯片 IP、NPU、TPU、LPU、FPGA——算力芯片的全家福与部署格局

约 6 分钟·1,693 字·5 题
01

ASIC:专业的技术工人

刚才我们说完了这个 GPU 的一个格局,我们现在来说一个 GPU 的竞争者叫做 ASIC,它是一个专业的技术工种,一个专业的技术工人。就我们说 GPU 它什么都能干,但是它的代价就是功耗大、成本高。那如果说我这个 AI 工厂,我的任务非常固定,比如说我开了一个厂,我八成订单都是做红烧牛肉面的,如果我找一个会写代码的人才,我也没有什么用,是吧?我不如直接找一堆擅长做红烧牛肉面的工人,我直接定制一条红烧牛肉面的全自动生产线。

ASIC 就是这么一个思路。它不像通用的芯片那样什么都会干,但是,它只干自己的那一项的话,它会更加省电,效率更高,成本更低,对吧?比如说我专门用来做这个 AI 训练和推理,或者专门做 AI 加速,它的表现就会比较好。它的缺点就是你确定了它的任务之后,你不能轻易改,你改了的话,你这条产线就要重做。

那在这个 ASIC 这个赛道,海外的代表性公司就是博通Marvell。那博通,它也是帮谷歌Meta 这些大厂做定制 AI 芯片的一个重要的公司了。然后 Marvell 也是同一赛道的这个重要的玩家,对吧?黄仁勋之前还公开说,觉得跟他这个业务未来有更多的合作点,希望他未来能做到万亿对吧,之前也是给这个赛道加了一把火。

02

插播八卦:戴氏兄妹与芯片 IP

那说到 Marvell,这里也插播一个行业的八卦。它的创始人叫戴伟立,因为这个 Marvell 是美国的 ASIC 龙头,然后国内的 ASIC 龙头叫芯原股份,它的创始人叫戴伟民。这个戴伟立跟戴伟民,他俩是亲兄妹,就是他们俩各自创办了一家这个芯片 IP 设计服务公司,一个在美国做到了巨头,一个在中国做到了行业龙头。

就大家可能听到这个芯片行业的时候可能会听到这个 IP 设计,什么叫 IP?IP,它就是知识产权核,通俗讲它就是芯片的设计图纸。因为现在的芯片越来越复杂了,就是没人从零开始设计一整块芯片的,可以去买别人已经设计好的成熟模块。就像我比如说我去买乐高,我买回来的一盒那个赛车的乐高,其实你拆开会发现里面的什么座椅、方向盘这些都是集成好的。这个芯片 IP 设计也是类似的,你就买别人做好的成熟的模块拼在一起做成自己的芯片,IP 核就类似于这种现成的乐高积木材料吧。

03

NPU、TPU、LPU、FPGA

那刚才说的是这种帮别人定制的 ASIC 公司,还有一类 ASIC 公司,它是提供成品的,它对标的就是 GPU 这种 AI 芯片。就是我们听到的那种 AI 算力芯片,大体上主要就两种,不是 GPU 就是 ASIC。那我们说到国产算力芯片的时候,除了刚才说的那种 GPU 四小龙或者是那些 GPU 创业公司,其他大部分都是属于 NPU。NPU 叫做神经网络处理器,它是 ASIC 的一种细分赛道,它就是专用性比较强的一种,它只干 AI 训练和推理,它不做图形渲染,就是它的专用性会比 GPU 更强的。那我们听到的那些国产芯片厂商,比如说华为昇腾寒武纪思元、阿里平头哥,它都是属于 NPU 这种类型的。

那还有一种 TPU 张量处理器,这个是谷歌提出的产品名,就过去它是不单独出售 TPU 芯片的。就是你想使用到它的 TPU 算力,你得租他们家的这个云服务,这样子去租赁它的算力。那你看现在,比如说英伟达的业务很景气,他也想来分一杯羹,他已经官宣,接下来他也会交付他的 TPU 主机柜。

然后还有一个被热议的新方向叫 LPU,全称是语言处理单元,它就是专门用于这个大模型的推理的解码阶段,它就是逐字生成回答的那个过程。LPU 它是由美国的一个公司叫 Groq 首创的,然后被英伟达收购了,然后英伟达就在今年的这个 GTC 大会上展出了。GTC 大会就是类似于英伟达一年一度的产品发布会吧,但是因为英伟达是很多概念的这个引领者,所以市场都非常关注它在这个大会上的一个动向。

好,然后除了 GPU 和 ASIC,其实算力芯片里面还有一个非常细分的一个方向,但这个相对来说比较小众一些,叫 FPGA 可编程芯片,它相当于一个可改造的万能工人,它可以根据需求反复修改功能。跟我们刚才说的 ASIC 不一样,ASIC 是你定了之后你就只能干这个,它这个可以调整,你可以今天干 AI 计算,明天干通信,后天干军工电子。它的优点是灵活,改起来也比较快。缺点就是可能成本会更高一些,然后峰值性能也不如 ASIC 那么强,它比较适合做一些新技术的验证,或者说一些小批量的定制场景。

04

主流部署格局

然后给大家展示一下这个全球比如说 GPU 或者算力芯片的一个主流部署情况。GPU,它算是通用型 GPU 市场的主导者对吧,英伟达。刚才我们说了它上一代的架构叫 Blackwell,这一代叫 Vera Rubin。B200,是它现在旗舰芯片的单颗 GPU 的名称。GB200,你就可以理解成一种封装好的 B200 吧,里边通常是两颗 GPU 加上一颗 CPU 这样子,你就可以拿来使用,就是一种封装好的 B200,可以这么理解。

然后中国本土这边,华为昇腾系列是一个非常重要的一个玩家。就比如说我们看到那些国产智算中心里边,尤其是在训练这一侧,很多都是华为昇腾的芯片,之前 910C 大规模出货,你看现在最新一代的 950 也开始批量出货了。然后包括我们本土还有一些其他的玩家,像寒武纪,摩尔线程、沐曦、壁仞,都有各自的代表性产品,尤其是在推理的这一侧,不断从能用到好用到更好用,在演进在进步。

这一节要带走的一句话 AI 算力芯片大体上主要就两种,不是 GPU 就是 ASICASIC 是专业技术工人:只干一项活,更省电、效率更高、成本更低,但任务定了不能轻易改;国产芯片里除 GPU 四小龙外,大部分属于 ASIC 的细分 NPU(华为昇腾、寒武纪思元、阿里平头哥)。部署格局上,英伟达是通用型 GPU 市场的主导者中国本土华为昇腾是非常重要的玩家——尤其在训练侧,910C 大规模出货、950 也开始批量出货。

检验一下:GPU 的对手们

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.10

AI 工厂的仓库

DRAM、HBM、NAND 与三巨头——这轮存储涨价为什么史无前例

约 7 分钟·2,019 字·5 题
01

两大类存储:断电丢不丢数据

刚才说的就是 AI 工厂里干活的人,有厂长有主力工人有专业技工有万能工人。但是你一个 AI 工厂里边,你光有人不够,那你还要工作台呀、仓库、厂房这些基础设施,你才能让工厂正常运转。我就先来讲一讲这个 AI 工厂的仓库吧。那我们说工人干活,你需要地方放物料,放你的原材料和半成品,AI 工厂里需要仓库存储成品。那存储芯片,它就类似于整个 AI 工厂的仓储系统。我们直接根据断电后数据会不会消失(叫易失性),我们就可以把存储芯片分成两大类。

第一类是断电后数据会全部消失的,叫 RAM,它前面有各种各样的前缀,比如说 DRAM、SRAM,反正看到 RAM 你就知道它断电后数据会消失。比如说这儿我们主要介绍的就是 DRAM。像我们买那个手机它不都有参数吗?12GB 加 512GB,这个前面的 12GB 运行内存,就是 DRAM,就是内存。包括我们说电脑太卡了,执行多个任务的时候非常卡,也是内存不够,通常对应的也就是这个 DRAM。

还有另外一种是断电后数据不会消失的,它就叫 NAND。最常见的一种 NAND 的形态就是我们电脑里边儿的那个固态硬盘对吧,就是比如说我们看什么 C 盘有多少空间,D 盘有多少空间,它不会因为你把电脑电源关了它就会消失的。包括我们手机里边儿的那个 512GB,我们存照片存视频的那个空间,也是一样的。

02

DRAM 是案板,HBM 是焊在工人身边的工作台

那这个 DRAM,它就类似于我们 GPU 工人手边的一个临时的工作台,它也有点儿像我们家里的那个,比如说我们在厨房里面做菜的那个案板吧。那你 AI 训练时的那种海量的临时数据,它都放在这里,它的特点是读写速度非常快,但是断电后数据就会全部消失。那我们也可以理解,就像做菜的时候,案板越大,我们能堆的东西越多,对吧?你这个工作台越大,你同时能放的东西就越多,那你工人不用来回跑仓库取料,你干活效率就越高。

然后另外一种内存,AI 时代最火的豪华版内存,它叫 HBM。它的本质就是把很多个内存芯片垂直堆叠起来的一种 DRAM 的升级版。这个 HBM,它是专门负责给 GPU 这样的 AI 芯片去高速地喂数据的。因为你那个普通 DRAM,你像内存条,你插在主板上,你跟这个 GPU 你有一定的距离,你数据传输的时候就像用那个小推车运料一样对吧,你会稍微慢一些。那这个 HBM,它是直接跟那个 GPU 封装在一起的,跟大家展示过那个俯视图,它俩紧紧地贴在一块,你就像把工作台焊到了工人身边一样,你工人伸手就能拿到材料,你这样传输速度就是普通这个 DRAM 的 10 倍以上,这样一来就是比较适合我们现在大模型这种密集爆发的算力的一个需求了。

那 DRAM 也好,HBM 也好,整个这个内存的市场,它还是一个垄断程度比较高的市场。它主要是头部的这三个玩家,SK 海力士三星电子这两家是韩国的,然后美光是美国的。他们三个基本上垄断了 HBM 的一个产能,然后在内存 DRAM 这一侧也是占比 90% 以上。那我国的这个长鑫存储来看,刚刚上市不久,这几年也是快速发力,市场规模也是快速地提升,包括市场也传闻说它 HBM 已经开始送样华为昇腾了。

03

这轮存储周期为什么不一样

那传统服务器,可能配个 128GB 的内存就够了,但是 AI 服务器因为我们刚才说我们需要工作台越大,对于工人来说效率越高,所以它可能配套的内存高达两个 TB,这也是这轮我们看到整个存储周期爆发的一个非常重要的原因。

因为过去存储周期,它虽然也有周期,过去十几年已经经历了三轮周期了,但是它每一次周期它都会相对来说可预测一些。因为它之前都是跟下游的那个消费电子所绑定的,比如说你手机换新机了,卖得很好,那存储需求上升;电脑出了一款很炸裂的机型,大家买得多,存储需求上升。但是这一次,它是 AI 需求拉动的,它的这种增长规模,它的这种涨价规模可能是行业里边的大家以前都没有见过的。

那刚才我们说到的那个 NAND,这个是闪存。闪存它类似于工厂里的这个永久档案室,它的特点是断电后数据不会消失,所以那些原始的数据集,训练好的大模型,用户数据,文件资料,它都全部存在这里。就是它的读写速度会比这个 DRAM 要慢很多,但是它容量大,可以放的东西多。然后这一块它的玩家会相对刚才说的这个内存那块要相对分散一些,你看头部的厂商,除了 SK 海力士、三星、美光三巨头之外,还有美国的闪迪、日本的铠侠和我国的这个长江存储

04

为什么 DDR4 涨得比 DDR5 还厉害

然后我们看一下这轮这个存储芯片的涨价,确实也是非常惊人。比如说那个内存条,DDR4、DDR5,那都是十几倍、甚至二十倍的一个涨幅。这个 DDR4 跟 DDR5 你就理解成那个 iPhone 的代际,比如说 iPhone 4、iPhone 5、iPhone 15、iPhone 16 这样子。像我们大家平常用的笔记本电脑,比如说我用的这台,普遍是 DDR5 为主了。

那现在就有一个点在于,比如说我们刚才看到 AI 需求,它主要拉的是内存,主要是 HBM,然后闪存虽然也会用,它用量可能没有内存那么大。然后包括我们其实比如说 AI 服务器里边我们需要的更多的是那种高端的内存,但是你看 DDR4 的涨价比 DDR5 还厉害,包括传统的那些固态硬盘,甚至机械硬盘涨幅也那么巨大。核心的原因就在于,你现在存储厂商,比如说刚才说的三巨头,他们晶圆厂的产能是固定的。然后现在因为 AI 需求爆发,HBM 利润高,或者说那种高端内存的利润高需求旺,他们就把大量的产能优先调配给这种高端的产线。

尤其是这种高端的 HBM 产品,传说中有一换三的比例,就是你生产一颗 HBM,你需要的这个晶圆厂的产能是普通的那种 DRAM 产品的三倍。那么你产能这么一挤占,其他的那种消费级的或者说没有那么高端的产品,你的供给就被压缩了,那你价格就自然跟着涨了,因为你的供需缺口也被拉了出来。

那么对于国产厂商来说,这也是一个历史性的机会了。因为你海外大厂,你把重心都压在了这个高端的内存上,你在消费级和终端的闪存市场,你也给留下了一些空间,正好给了我们这些国产厂商向上冲的一个风口。包括你上市之后,你这个募集资金你也会继续地投入这个产业链的一个扩产,逐步地去打开我们的一个全球化的市场。

这一节要带走的一句话 存储芯片按断电后数据会不会消失分两大类:会消失的 RAM(DRAM 是工作台)和不会消失的 NAND(永久档案室)HBM 是把内存芯片垂直堆叠、直接跟 GPU 封装在一起的 DRAM 升级版,传输速度是普通 DRAM 的 10 倍以上。这轮存储涨价史无前例,是因为过去的存储周期绑定消费电子、相对可预测,这次是 AI 需求拉动;而且三巨头产能固定、优先调给高利润的 HBM(传说一颗 HBM 耗三倍产能),消费级供给被挤占,DDR4 涨得比 DDR5 还厉害

检验一下:AI 工厂的仓库

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.11

AI 工厂的地基

PCB 与层数、CCL、铜箔、电子布、MLCC——缺一个工厂都开不了工

约 6 分钟·1,717 字·5 题
01

PCB:电子工业之母

我们说完了仓库,我们再来看一下下一个 AI 工厂里的地基,就是我们的一些基础元器件和连接层。那如果我们刚才说的这些计算芯片,它是人力,存储是仓储系统,那你刚才说的这些所有产品,你还是得在这个工厂里边儿运转,你这个工厂里是需要地基的。就是这些地基类型的产品,它可能看起来技术含量不如芯片,但是你缺了任何一个,你整个工厂你都没有办法开工。他们是整个这个 AI 硬件产业链非常基础但也不可或缺的一个部分。

我们先说第一个 PCB,PCB 它就是印制电路板,最常见的形态就是那种绿色的一块板儿,然后它在英伟达AI 服务器里面,它可能长得要显得更高端的样子,那种高端的 PCB 它通常是黑色的,就是有黑色绿色这些颜色。它又被称为电子工业之母,因为你所有的那些比如说芯片、元器件,你都要焊接在这个 PCB 上面,你才能够传输电信号,你才能使用起来。

那普通的 PCB 它只有 6 到 12 层。那 AI 服务器的 PCB,因为它需要承载那么多的 GPU、内存、高速接口,它的核心板卡层数普遍在 20 到 30 层以上。这个英伟达最新一代 Rubin 架构的服务器 PCB 层数是达到了 78 层,就这一点就是大幅拉动了行业的增量预期。

这层数是什么意思?你要把这个芯片跟那些元器件连在一块,你上面要布线是吧?好,现在我们这些芯片的设计越来越复杂了,你上面的元器件越来越多了,你这个走线现在就出现了一个问题:你要是只有一层的话,这个线它可能会绕到一块的,但是你不能绕到一块,绕到一块你这个信号可能就出问题了。你说我不绕到一块,那我就绕远路,我为了不让它们重叠,我就多走几步,那你这样子你这个信号传输的效率又下来了。那怎么办?我就多做几层,就好像一条高速公路上车太多太拥挤了,我就做高架桥对吧,我做很多高架桥,我多落几层,大家各走各的路,这样信号的传输它就顺畅了。

02

Rubin 升级里的 PCB 增量

那刚才我们说 AI 服务器的升级带来了 PCB 的增量需求。我们就看 Morgan Stanley 他拆解的一个物料图,就英伟达的机柜,从这个之前的 GB300 就 Blackwell,升级到 Vera Rubin 的这个过程当中,增量规模最大的是它的这个内存,就是 memory,你看 memory 这一行增幅是 735%,但同时第二大的就是 PCB,PCB 增幅也是达到了 233%。而且你这个 AI 服务器 PCB 单机的价值量本身也比较贵一些,它是传统服务器的 3 到 10 倍。

然后,他们这些厂商的一个核心的壁垒就在于,你比如说你跟英伟达这种公司沟通的时候,你的认证周期会很长,长达一到两年,然后,进入供应链之后,也是比较难以被替代的。那 PCB 这边的代表公司,就是沪电胜宏深南电路,如果大家关注行情也是经常听说。

03

CCL、铜箔与电子布

那 PCB 的核心原材料叫做 CCL 覆铜板,它就相当于盖房子用的那种钢筋混凝土预制板。CCL 是由玻璃纤维布就是电子布,浸上一种树脂,再压合铜箔制成的,就是它的一个材质、介电常数、耐热性,它会直接决定 PCB 的一个信号传输速度、损耗和可靠性。然后,大家听到的这些什么 M6、M7、M8、M9,又叫马 6、马 7、马 8、马 9,它就是这个高速覆铜板性能的一个等级标准。你这 M 后面的数字越大,它的性能越好,它的价格也越贵。现在 M8、M9 已经成为 AI 产业链最紧缺的环节之一了。那 CCL 的代表公司,有这个生益科技华正新材

然后我们说 CCL 它是用电子布浸上某种树脂再压合铜箔制成的,所以说铜箔它也受到市场的关注。就铜箔它也很重要,因为你这个高速信号传递的时候,它有一个趋肤效应,就是它主要就贴着表面的那一层跑,这就意味着你这个铜箔必须特别特别光滑,你才能让这个信号传输得特别顺畅。然后在铜箔这边儿,现在虽然是这个海外比如说日韩厂商主导的,但国内也有一些公司,比如说铜冠铜箔、德福科技还在不断地发力。

好,电子布这一侧也是,现在高端的电子布主要是由日本的日东纺主导的,然后国内,像国际复材、宏和科技、中国巨石,也是在不断地生产不断地发力的过程当中。

04

MLCC:从边角料到第三大成本项

然后下一个是这个 MLCC,叫做片式多层陶瓷电容器,它是用量最大的一种基础电子元件。电容器,大家可以宏观地理解,它就是类似于一个电流或者说电压的一个蓄水池和稳压器。比如说你这个 PCB 板上,你芯片要在上面运作对吧,你要正常地运转,你有的时候你那个电压会出现一些变化,比如说你电压过高的时候,你就由电容出来吸收多余的电荷,你后面电压有点儿低的时候,它又释放出来。你的目的就是为了熨平这个电路的电压波动,确保所有芯片能够平稳地运行。

然后这个 MLCC 它叫电子工业大米,是因为它真的很小。像村田制作所,也是现在 MLCC 的全球龙头,一家日本的公司,它生产的这种比较小的微型 MLCC,它可能就比一颗米粒儿还小。然后,你在一整台 AI 服务器上面要用到数千颗甚至上万颗,它已经成为了仅次于 GPU 和存储芯片的 AI 服务器第三大成本项了,彻底摆脱了过去边角料的定位。

那 MLCC 这边,它还是高端产品是日韩垄断的,就是日本公司村田制作所、太阳诱电,韩国公司三星电机,然后我们中国大陆比如说三环风华高科,在中低端市场发力,然后国产替代这边也是在一直努力当中。

这一节要带走的一句话 地基类产品看起来技术含量不如芯片,但缺了任何一个,整个工厂都没办法开工PCB 被称为电子工业之母:普通的只有 6 到 12 层,AI 服务器核心板卡普遍 20 到 30 层以上,英伟达 Rubin 架构达到 78 层,层数就像给拥挤的走线修高架桥。PCB 的核心原材料是 CCL 覆铜板(电子布浸树脂压合铜箔),M8、M9 已成 AI 产业链最紧缺环节之一;MLCC 则从边角料变成了仅次于 GPU 和存储的 AI 服务器第三大成本项

检验一下:AI 工厂的地基

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

一.12

AI 工厂的物流

光模块、光芯片、CPO/LPO/NPO、OCS 与光纤——数据传不出去工厂就转不起来

约 9 分钟·2,836 字·5 题
01

光模块:一条完整的传输通路

我们说完了这些元器件,我们再来说下个部分,光通信层,就是工厂里的物流部门了。就是你在整个这个 AI 工厂里边吧,比如说刚才也跟大家展示过那个 AIDC 里边有好多机柜,机柜里边,可能比如说按照传统模式,你有好多 AI 服务器,你得让他们高效地协同工作,你就需要光通信。因为你芯片传得再快,你存储容量再大,你这个数据传不出去,传不到位,你整个这个 AI 工厂照样运转不起来,所以光通信层它也是非常重要的。

我们先说光模块吧。光模块,它就类似于工厂里边穿梭往返的高速运输车。现在我们说光模块主要指的就是这种可拔插式的光模块,它有点像一个 U 盘一样。它接在那个 AI 服务器的高速网卡上。在一块 PCB 板上,我们说芯片它只能识别 0101 的电信号,比如说 GPUCPU、存储芯片之间我们要交流,我们传的是电信号,我们就是通过 PCB 板上的那些铜布线来进行传递消息的。然后我们刚才说一台 AI 服务器不够用吧,你要把好几台 AI 服务器连起来,那近距离的时候,我们可以用铜缆连就行了,铜缆它传输电信号还是比较合适的,比较快的。

但是当我们一个机架不够,我们要把好多机架连在一起的时候,你这个时候你用铜缆就不行了,因为电信号它跑不远,它也跑不快,怎么办?我们就接上光模块,把电信号转成光信号,然后光信号它就通过那个机柜之间的光纤光缆传播,这样传输速度又快,损耗也小。然后你传到下一个机柜的交换机上。交换机,它里边的核心是交换芯片,它就干一件事儿:它看一下这个数据包的一个地址,然后就像一个物流的总管一样,啪的一下就把它投到对应的地方,你就能够保证你信息传递的时候能够有条不紊。然后你这个数据通过这种光信号的形式传到下一个光模块上了,下一个光模块再把光信号转回电信号,你又能拿给芯片去做 0101 的计算了。你看整个通路就完成了。那 AI 数据中心里边成千上万台服务器之间的沟通,它都是需要用到光模块的。

那光模块的速率,也从主流的过去的 400G、800G,发展到现在的 1.6T,甚至 3.2T 了。这个 800G、1.6T 指的就是带宽。那么带宽,就理解成那个一个水管有多粗,越粗你同一时刻能够通过的水流就越大;带宽越大,你同一时刻能够通过的信息量就越大,你感受到的速度越快吧,像我们在家里上网一样,宽带速率提升之后,你感觉要好多了。好,那光模块,它的代表性公司,中国的新易盛中际旭创天孚通信这三家在全球都是比较领先的,那美国有 CoherentLumentum。那光模块,它要用到这个磷化铟的衬底。那磷化铟,我国是占据了 70% 以上的这个磷化铟的资源,可以说从某种意义上讲吧,我国也是站在这个总阀门上。

02

光芯片:运输车的发动机

好,然后如果说光模块是运输车的话,光模块里边有一颗非常重要的零部件叫做光芯片,它就类似于这辆车的发动机,它决定了光模块最核心的性能和成本。那它占到光模块总成本的这个 50% 到 70% 左右,然后越是高端的光模块,光芯片的成本占比就越高。

那光模块里边其实有两种芯片在工作,一种是光芯片,一种是电芯片。光芯片,它就是这个光电转换的一个核心,它负责发出激光和接收光信号,比如这个激光器芯片和探测器芯片。那电芯片,它负责的是信号处理和驱动控制,比如说你这个信号出现了一些波动,它来给它调整一下,给它修复一下,比如说 DSP 芯片就是常见的电芯片。

然后我们说这个光模块它的一个升级,从 800G 到 1.6T 到 3.2T,核心的卡点就是这个光芯片,因为光芯片的技术壁垒是比较高的,它可以直接决定传输速率、功耗和可靠性。那现在更主要的一个卡点就是磷化铟的衬底和这种高端的 EML 激光器芯片。然后高端的 EML 激光器芯片,主要还是被美国和日本的一些厂商垄断,合计市场份额占比超过百分之九十,这是我国这个光通信产业链上卡脖子最集中的一个环节。然后我国的本土厂商,比如说源杰科技长光华芯东山精密,也是在不断地发力,进行一个国产替代和提升升级。然后这块光芯片的美国代表性公司就博通,它主要是电芯片的头部公司,然后还有这个 Lumentum、Coherent,光芯片的一个头部公司。

03

CPOLPO、NPO:三条升级路线

然后,像我们说光模块,它现在以这种像 U 盘一样可拔插的形式存在,那这个时候,你看它的数据需要从芯片传出来,经过 PCB 板上的那种铜箔线路,再到光模块,可能传输距离有几十厘米。那市场就在想,行业就在想,你这样是不是速度有点慢?我再想一种办法,我就想到了这个 CPO 共封装式光模块,我直接把那光模块的核心收发引擎跟它的那个交换芯片,直接封装在一块儿。这样一来,这个信号的传输的距离,就从之前的几十厘米变成几毫米了,你功耗就更低了,速度就更快了,它被视为下一代的一个核心互联技术。

但是大家也不要想这个事情很简单,不简单。就是里边的那个交换芯片,它干的就是那个我们说接到那个数据包看一眼地址,然后啪地投射出去,它干这个活儿,它的功率很大,所以它的发热量也非常大。你这么小小的一块儿,还有其他的芯片在工作,你要是发热量很大,就像我们那个电脑太热了,你这个性能也会出现影响,所以解决这个也是非常重要的一点,然后包括你这个高端的交换芯片,也是一个重要的卡点。代表性公司就是美国的这个博通,博通这一块它是交换芯片的龙头,然后英伟达,英伟达它自己的 Spectrum-X CPO 交换机也已经量产了,然后中国这边,天孚通信、中际旭创跑得比较靠前一些。

那如果说 CPO 是一个比较远一点儿的规划,LPO 它走的是另外一条更加务实的路。我们说传统的那种可拔插光模块里边有一颗耗电量很大的 DSP 电芯片,它是负责信号纠错和处理的,但是在那种比较短的距离的场景里边儿,我信号质量本身就不错,我不需要你来纠错。那 LPO 的思路就是我把这颗 DSP 电芯片给它砍掉,让光模块可以在一个轻装裸奔的状态下工作。这样一来,功耗下降了,成本也降低了,并且你还可以保持这个可拔插的便利性,不像这个 CPO,全部封在一起了。那现在代表性公司,比如说新易盛、剑桥科技、中际旭创等等,目前已经在这些短距的连接上开始出货了。

那还有另外一个现在市场比较关注的一个热点,叫 NPO。前天 Lumentum 的这个财报就提到说这个关于 NPO 这一侧,可能是未来重要的一个业务亮点,然后市场也比较关注这一块儿。它的一个特点是,它也是把光引擎,它跟 CPO 一样,从交换机的前面板移到了靠近交换芯片的位置,但它不像 CPO 一样把它们封在一起了——封在一起虽然说这个信号传输距离非常低,是毫米级的,但是你要是坏了,你整个都得换,成本高,技术难度也比较大。它作为一种过渡方案,它把它移到靠近交换芯片的位置,但它仍然是独立的模块,把它并排安装在同一块 PCB 板上。你这样传输距离,就从之前那种 U 盘一样可拔插的光模块的二三十厘米,下降到几厘米了,距离更近,功耗更低,但同时,你又比 CPO 更加灵活。那这个,预计可能目前已经进入一个试点和小批量的阶段了,可能 2027 年前后吧,就会开始逐步的一个量产了。代表性公司美国博通、英伟达,中国这边华工科技、中际旭创、新易盛、天孚通信、光迅科技等等,都是一些重要的厂商。

04

OCS 与光纤:调度系统和路本身

那刚才我们说到的是一些光模块的具体的点,或者一些光通信的具体的设备。然后,其实这个光电路交换机 OCS,它也是园区内的一个非常重要的调度系统。那传统的交换机,它是需要频繁地进行光电光的一个转换的,那这个光电路交换机,它是直接在光域它就能完成信号的交换和调度了,它可以降低延迟和功耗,也会成为未来这个大规模 AI 数据中心的一个重要的基础设施之一吧。那代表性公司就是光迅科技、华工科技、Coherent、Lumentum。

然后,光模块负责收发,OCS 负责调度,但是你信号本身跑下来的那条路,就是光纤的本身,那它也是核心的基建。你看光纤就是这种细细的玻璃丝,然后光缆就是把这些光纤封装好之后的一个成品。就刚才我们说,在一个那个 AIDC,在一个那个智算中心里边,你如果距离比较近的话,你可以用铜缆连;那距离稍微远一点,比如你机柜跟机柜之间你要交流,你还是要用光模块加光纤了。

那如果你是那种数据中心跟数据中心之间你要交流,尤其是那种跨市、跨省、跨洲际的,你更要用到光纤了。所以光纤也是比较重要的,它的损耗越低,信号就能传得越远,越稳。

这一节要带走的一句话 光模块类似工厂里穿梭往返的高速运输车:机柜之间电信号转光信号走光纤,到交换机再分发投递,速率已从 400G、800G 发展到 1.6T 甚至 3.2T。光芯片是这辆车的发动机,占光模块总成本的 50% 到 70%,高端 EML 激光器芯片被美日垄断九成以上,是我国光通信卡脖子最集中的环节。升级路线上,CPO 把光引擎和交换芯片封装在一起(几十厘米变几毫米)LPO 砍掉 DSP 走务实路线,NPO 是移近但不封死的过渡方案,OCS 直接在光域完成调度,而光纤是信号跑的那条路本身。

检验一下:AI 工厂的物流

5 道题,选完立刻出反馈。做错的那道,恰好是这一节你真正学到东西的地方。

免 费 部 分 到 此 结 束
还有 2 个单元、16 节没解锁

你刚读完的是AI 产业链三讲这门课的前 1 个单元(12 节 · 60 题), 讲清楚了这家公司是做什么的、靠什么赚钱。
剩下的部分是这门课真正花功夫的地方:

  • 芯片制造全产业链:从沙子到芯片9 节 · 45 题 · 17,561 字
  • CSP 和 Capex 黑话科普:云厂商的资本开支7 节 · 35 题 · 18,626 字
登录 / 免费注册 →

注册免费,测验成绩存进账号;解锁其余单元凭会员兑换码 · 返回课程目录

还没有兑换码?扫码领 ¥100 券,直接加入知识星球
  • 📡Serenity 实时订阅 全网订阅第一「白毛股神」一手推文,分钟级中译直推邮箱,每天约 20~30 条,含她付费订阅才有的独家内容
  • 💼白毛持仓 · 完整台账 她公开推文里亲口说过的持仓,整理成一张带原话出处的表:75 只在持 · 43 只明确否认 · 16 只已清仓,每条带首次披露日、成本锚与最后确认日,新披露实时上表。不是荐股,是「她说过什么」的可核对记录
  • 📈大行研报 · ima 知识库对话 境内外一线投行研报每日汇入腾讯 ima 知识库(AI 相关精选 7,000+ 份、境内外日增 30+),你在库里通过 AI 对话随问随答、带出处,等于雇个 7×24 研究助理
  • 🗺️知识库全开 + 深度报告解析 1,151 公司 / 694 概念全词条 + 全景图谱,外加 86 篇机构深度报告可视化解读、巨头供应链拆解、产业大事件复盘
  • 🎓两套课程全解锁 金融人的产业链大课 18 讲(能源→芯片→基础设施→模型→应用,每周上新)+ 公司深度研究 27 门(英伟达 / 台积电 / SK 海力士 / 博通 / 中际旭创…一家公司一门课,分单元、节节带测验、给成绩单)
  • 💬会员微信群 入圈后可加入会员微信群,会员之间日常交流,我也在群里
微信扫码领优惠券并加入知识星球
全站会员 ¥599 / 年
扫码自动领 ¥100 优惠券 · 到手 ¥499
9 月 30 日 12:00 到期 · 仅剩 18 天
来源与说明 本课三讲的正文取自 华夏基金 的内部培训材料(AI 产业链黑话科普系列,2026 年 8 月)。原文为语音转录稿,本站仅修正转录错误、划分小节并配套测验,讲述内容与口吻一律保留原样;观点归属原讲者,不代表本站立场。