
田衡平
当所有人都在追问谁买到了更多GPU时,AI算力真正的瓶颈,已经从芯片扩散到整个基础设施。 大模型训练要吞下海量数据,推理服务要承受千万次调用,背后烧掉的不只是显卡,还有光模块、CPO、PCB、CPU、ASIC、电力、散热和数据中心。 本书以“AI算力六环节”为线索,从GPU狂热讲到传输瓶颈、承载分化、国产替代、估值周期与普通人的行动边界,帮你看懂AI热潮背后的真实成本。 未来AI能不能更便宜、更稳定、更普及,关键不只在模型有多聪明,更在算力系统能不能撑得住。
如何用“六环节图谱”定位算力瓶颈? 要把“六环节图谱”真正用起来,可按以下四步操作: 1. 把系统拆成六环,建立坐标系 • 环节顺序可按数据流向排列:GPU/ASIC → 光模块/CPO → PCB → CPU/内存 → 电力/散热 → (可再加一层运维与软件生态)。 • 画出链条后,先记录当前集群在各环的资源配置与流量负荷,形成“初始应力图”。 2. 逐环采集关键指标,标注压力值 • GPU/ASIC:利用率、显存带宽、HBM 用量;当利用率持续低于 40%~50% 且 HBM 易满,说明本环已卡顿。 • 光模块/CPO:速率升级节奏、每瓦特带宽;如果网络拥塞或长距离电信号损耗大,光电共封装就成为首选。 • PCB:高速差分对数量、电源完整性;当速率提不上去或信号完整性难以保证时,板材和层数成为瓶颈。 • CPU/内存:核数、带宽、并发请求数;推理阶段 CPU 调度失灵会拖低整机吞吐。 • 电力/散热:PUE、机柜功率密度;AI 训练耗电巨大,电力扩容与液冷能力往往最后到位。 3. 比较指标与阈值,圈定真实瓶颈 • 将各环指标与行业经验值或供应商宣称极限对比,找出“已触线”或“即将触线”的环节。 • 若 GPU 利用率低而网络利用率高,则瓶颈在光模块/CPO;若 CPU 核数充足但电力扩容受限,则电力成为新瓶颈。 4. 动态复盘,跟随“压力接力”迁移 • 算力产业链的利润和瓶颈会像接力赛一样沿链条转移,定期(季度)重跑 1–3 步,更新“应力图”。 • 当前环节被解决后,立刻关注下一环的潜在瓶颈,形成持续优化闭环。 通过“拆链—测环—比阈值—动态复盘”四步,六环节图谱就能帮助你从纷繁现象中快速锁定真正制约算力的那一个环节,并且随着技术演进及时捕捉新的瓶颈位置。
《AI算力六环节:从GPU狂热到电力瓶颈》 田衡平 22个笔记 1. 算力热潮 ◆ AI算力面临的核心矛盾:需求方想要模型更聪明、响应更迅速、价格更亲民,但供给方却被芯片产能、网速、能耗、电力、软件生态和资金周期死死拽着。 2. 六环节图谱 ◆ 这么一分,AI服务器的逻辑就清晰了:芯片负责算力输出,PCB提供高速电路连接和物理支撑,光通信组件则负责服务器和机柜之间的数据交换。 ◆ PCB之所以关键,是因为当服务器进入高速化时代,信号的完整性和生产良率会直接决定整机的交付质量。 它影响着服务器厂商、PCB制造商、覆铜板材料商、设备供应商,甚至关系到数据中心的建设进度 ◆ CPO的普及将波及交换芯片厂商、光器件厂商、封装企业,甚至会改变数据中心的运维方式和维修体系 ◆ AI算力的竞争已经不再是单纯比拼谁的芯片跑得快,而是演变成了系统效率的全面较量。 ◆ 光模块和高端PCB更看数据中心的建设进度,订单往往出得比较早; GPU则受训练需求、芯片供应和生态绑定的多重影响; ASIC能不能火,得看推理场景能不能形成规模; CPU则跟服务器更新换代、国产替代进程以及企业的IT预算挂钩; 至于CPO,它还处在技术路线和商业化验证的交界点,长期看好,但短期节奏还得再观察。 3. 传输的瓶颈 ◆ 光模块和CPO之所以被如此重视,道理很简单:算力集群规模越大,传输效率就越是核心成本的关键。 光模块干的活儿就是光电转换。服务器内部或者短距离连接用电信号还行,但到了高速、长距离、多节点这种大场面,光信号才是传输数据的首选。 ◆ 是因为AI集群不是买回芯片就能跑的,服务器之间交换数据的速度,直接决定了整台“超级计算机”的效率 ◆ 不管是投资还是入行,光盯着“光模块”这三个字没用,得看产品规格、客户是谁、良率高低、产能利用率以及研发到底快不快。 ◆ 那些一眼就能看到的订单,往往最需要警惕,要防着市场把未来几年的利润提前透支到现在的估值里。 4. 承载的分化 ◆ PCB的全称是印制电路板,芯片、电容、电阻和连接器这些零件都安在上面,靠着铜箔线路来传递信号。 ◆ 2026/09/14发表想法 在资本市场,深南电路、沪电股份、胜宏科技、生益科技这些公司,常被当作观察高端PCB和材料行业的窗口。 原文:看这些公司时,名字不重要,重要的是看它们有没有做高端货的真本事、客户认证到了哪一步、产能爬坡顺不顺,以及毛利率稳不 ◆ 做制造业投资,最忌讳只盯着收入增长,却把资本开支、折旧、库存和议价权这些实打实的压力给忘了。 ◆ 从稳健的产业逻辑来看,PCB行业的底气在于实打实的制造能力,而挑战则在于行业内部的剧烈分化,以及中低端产能过剩带来的竞争压力。 ◆ 高端PCB厂商通常要熬过漫长的认证周期,新人想靠短期砸钱扩产来抢核心份额,几乎是不可能的。 5. 芯片的秩序 ◆ 英伟达之所以能有今天的地位,靠的是多年来在GPU硬件、CUDA软件生态以及各种开发工具上的持续砸钱。 CUDA这套软件平台让开发者能轻松调用GPU的算力,各种模型框架也都围着它转。它之所以不可替代,是因为软件生态能极大地降低开发成本,让用户一旦用惯了就很难迁移。 6. 国产替代 ◆ 在国内算力阵营中,华为昇腾走的是AI加速与软硬件生态并重的路子,寒武纪代表了通用AI芯片公司的探索,海光信息和龙芯中科则是观察国产CPU进展的重要窗口。 7. 估值与周期 ◆ 像光模块和高端PCB,它们跟数据中心建设几乎是同步的,订单变化好观察,但价格战和产能扩张也来得快。 8. 给普通人的建议 ◆ 能拿来投资的钱,起码得是三年内用不着,且就算亏了不少也不影响正常生活的闲钱。 ◆ 对新手而言,参与AI算力最好的方式是先列“观察清单”,而不是急着下单。 ◆ 没有具体理由的持仓,本质上是在赌市场情绪,风险其实更高。对于大多数家庭而言,AI算力应该被看作一种高波动的资产,而不是财富规划的压舱石。 9. 长期的答案 ◆ 算力产业走向成熟的标志,是AI服务变得更稳、更便宜、更容易进入实际的工作流。 -- 来自微信读书
《AI算力六环节》读后感:理解底层逻辑,避免狂热,谨慎入行 《AI算力六环节:从GPU到狂热到电力瓶颈》读后感: 本篇讲了AI算力的底层逻辑,一再提醒我们入行需要谨慎。不管是作为想要入行的本科生、想要转行的人,还是企业家或投资者,都要谨慎。要明白AI算力的底层逻辑之后,就不会狂热,或者说机会来了也抓不住。这是一本好书。
《AI算力六环节:从GPU狂热到电力瓶颈》把"买卡即算力"的民间幻觉拆成一条木桶链:GPU、传输、承载、国产替代、估值周期、普通人边界,六环相扣,最短那块才是真实天花板。 书不陪读者炒概念,只点破一句反直觉——瓶颈会搬家:卡荒过去是HBM,HBM缓和是光互联,互联通了,电与液冷又把机柜钉死在图纸上。 启发不在记环节名,而在换视角:AI竞争早不是模型聪明度单项赛,而是把瓦特翻译成token的系统工程;普通人看机会,也别只盯prompt,要看清自己在哪一环有杠杆、哪一环只是陪跑。轻薄一册,够把"算力无瓶颈"的叙事拉回地面。
AI 写出来的文章,解读 AI 算力
- AI算力的核心矛盾: 需求方想要模型更聪明/响应更迅速/价格更亲民 - 供给方被芯片产能/网速/能耗/电力/软件生态和资金周期死死拽着, 这不仅仅是技术问题, 更是能源等基础设施问题 - 未来AI能不能更便宜/稳定/普及, 不只看模型多聪明, 更看算力系统撑不撑得住
要读明白本书,需要对 AI 算力整体链条 有一定了解。 或者说,此书有门槛,不适合小白。 然而,能跨过这道门槛的读者,又很可能会觉得本书不够深入 ——毕竟,只靠万把字,把整个链条一大串环节都说明白,就已不易。 更何况要说透,确实太难了🤦♂️🤦♂️ 对零基础入门读者,不够吸引。 对懂行的业内读者,不够深入。 奈何作者创作不易,给个一般也算鼓励(虽然文章也有 AI 痕迹😂)
AI算力六个环节演化,从GPU→光模块→PCB→内存→电力>软件运维。这个国产替代,不是单一部分,而是要追求整个系统的稳定。
在资本市场眼中,AI算力是一个长坡厚雪的赛道,但也注定伴随着高估值、回撤和剧烈的分化。
前面还可以,作为普及读物来看。