⌕ ESC
↑↓ 选择↵ 打开esc 关闭⌘K 唤起
← 主页 NO.202
专栏 · AI 投资与产业观察 ›
第 202 期 · AI 产品 · 收录于 2026 年 8 月 24 日

深入解析扩张 AI 算力的三大瓶颈——Dylan Patel(SemiAnalysis)

DP
Dylan Patel · Dwarkesh Patel
AI 产品
视频 150:42 原文约 13.7 万字 预计阅读 37 分钟 来源视频 ↗ 中英对照全文
原平台热度 YouTube ↗
30.7万观看
4,484赞
1.5%点赞率
444评论
139万频道订阅
数据截至 8 月 27 日
TL;DR · 三句话
  1. 一AI 扩张的瓶颈正从电力/数据中心切回芯片本身,终局(2028-29)落在供应链最底层的 ASML:一吉瓦算力约需 3.5 台 EUV 光刻机,2030 年全球存量约 700 台、全给 AI 也只支撑约 200 吉瓦/年——这就是算力的物理天花板。→ 详细
  2. 二在算力受限的世界里,GPU 按「今天能榨出的价值」而非「替代品价格」定价——H100 今天比三年前更值钱,Michael Burry 的短折旧论错了;早签五年长约的玩家锁定巨大利润率优势,内存厂商正把大厂 30% 的 CapEx 收入囊中,消费电子成为被牺牲的需求。→ 详细
  3. 三整条供应链的信念逐层打折(实验室要 X,Nvidia 建 X-1,下游做 X÷2),这个「鞭子效应」决定了赢家和输家:Anthropic 保守多付 50%、Google 错卖百万 TPU 后疯狂补课;而中美之争的答案是——时间线快美国赢,时间线慢中国赢。→ 详细
01

6000 亿 CapEx 不是今年的账:大厂在为 2028-29 交订金

  • 开场核心问题:四大巨头(Amazon、Meta、Google、Microsoft)今年合计 CapEx 预测 6000 亿美元,按算力年租价折算接近 50 吉瓦,但今年美国实际新增只有约 20 吉瓦——差额去哪了?Dylan 的答案:把供应链其余环节都算上,总盘子达到一万亿美元量级,其中大量是「铺垫性 CapEx」。→ 详细
  • 具体拆法:Google 的 1800 亿美元里,很大一块是2028、2029 年才交付的燃气轮机订金;还有 2027 年数据中心建设款、购电协议预付款——都是为「超高速扩张」提前几年打地基的钱。今年 20 吉瓦增量里,也有一部分钱是去年就花掉的。→ 详细
  • 实验室这边:OpenAI 刚融 1100 亿、Anthropic 刚融 300 亿;租算力成本约每吉瓦每年 100-130 亿美元,两家目前都在 2-2.5 吉瓦水平——光这几轮融资就够覆盖今年算力开支,还没算收入。→ 详细
02

Anthropic 的保守代价:临时抢算力要多付 50% 的价

  • Dylan 给 Anthropic 算的账:过去几个月新增 40-60 亿美元收入,直线外推未来十个月要新增 600 亿收入;按现有毛利率,需要约 400 亿美元推理算力开支,即光为收入增长就要新增 4 吉瓦推理容量(还假设训练机群不涨)——年底必须远超 5 吉瓦。→ 详细
  • Dario 曾在 Dwarkesh 播客上说要「负责任地扩张、不想破产」,故意把算力目标定低。Dylan 直言:跟 OpenAI 比「他这步棋走砸了」——OpenAI 的路子是「把这些疯狂的合同统统签了」,广撒网到 CoreWeave、Oracle,甚至找从没建过数据中心的 SoftBank Energy、NScale 建新产能;到年底 OpenAI 能拿到的算力比 Anthropic 多得多。→ 详细
  • 临时抱佛脚的代价有三种形态:① 去找质量更低的供应商;② 接盘别人到期的短约,付当下的高价——H100 长约价已拐头上涨,某些 AI 实验室以每小时 2.40 美元签两三年约,而 Hopper 五年摊销成本才 1.40 美元/时;③ 不直接持有算力,让 Amazon Bedrock / Google Vertex / Microsoft Foundry 代为服务再收入分成,相当于付约 50% 加价。→ 详细
  • 去年下半年那波金融恐慌的本质:「OpenAI 签了这么多合同但没钱付」→ Oracle、CoreWeave 股价大跌、信贷市场炸锅;等 OpenAI 融资落地,市场立刻改口「我们一直都信你」。Dylan 预计年底 Anthropic 能到 5-6 吉瓦(远超其原计划),OpenAI 大致相当、略高。→ 详细
  • 有最强模型为什么重要:不是模型本身(三个月后就不是最强了),而是能力档位领先→收入起飞→有资格提前签长约锁算力、拿更好价格。目前增量算力买家还不多,因为 Anthropic 率先迈进了收入起飞的能力档位。→ 详细
03

GPU 折旧之争:为什么 H100 今天比三年前更值钱(驳 Michael Burry)

  • 空头论点(Michael Burry 等):GPU 应按 3 年甚至 2 年折旧而非 4-5 年,这样每年摊销的 CapEx 变高,云生意财务上就不划算。机制视角(TCO 总拥有成本模型)似乎支持:NVIDIA 每两年性能提 3-4 倍、价格只涨 50%-2 倍,所以 H100 从 2024 年值 2 美元/时,到 2026 年 Blackwell 量产时只值 1 美元/时,2027 年 Rubin 大批量后只值 0.70 美元/时。→ 详细
  • Dylan 的反驳是第二个视角——效用定价:「正因为半导体产能和部署周期的限制这么大,真正给这些芯片定价的,不是『我今天能买到的替代品』,而是『我今天能从这块芯片里榨出多少价值』。」新芯片造不出无限量,旧芯片就不会按替代品价格贬值。→ 详细
  • 具体例子:同一块 H100,跑 GPT-5.4(更稀疏的 MoE、激活参数更少)比跑 GPT-4 每 GPU 输出更多 token,且模型质量更高。GPT-4 token 的市场天花板也许几十亿到几百亿美元,GPT-5.4 的很可能超一千亿——H100 的价值现在取决于 GPT-5.4 能榨出的价值。结论:「一块 H100 今天比三年前更值钱了。这太疯狂了。」→ 详细
  • 往极限推:按 flops 算 H100 约 1e15,恰是有些人估计的人脑水平(内存差很多:H100 80GB vs 人脑可能 PB 级——两人还就「人脑是极度稀疏的 MoE」互相打趣)。若服务器上真有「人」、一个知识工作者年产六位数美元价值,H100 几个月就能回本。Dwarkesh 补充:这正是他当初采访 Dario 时想指出的内在矛盾——嘴上说两年内有「天才数据中心」赚数万亿,行动上却在算力上保守。→ 详细
04

Alchian-Allen 效应与长约游戏:利润到底流向谁

  • Dwarkesh 引入 Alchian-Allen 经济学效应:给高质量和低质量商品同时加一笔固定成本,价格比值缩小,边际上人们转向高质量品(好苹果 2 元 vs 差苹果 1 元,各加 1 元关税后从 2 倍差价变 1.5 倍)。用到 AI 上:GPU 越贵,顶级模型与次级模型的相对价差越小,用户越愿意直接买最好的模型。Dylan 印证:「所有的用量都在最好的模型上,所有的收入也都在最好的模型上。」→ 详细
  • 算力受限世界的第一个结果:早签五年长约的公司锁定了巨大利润率优势——按两三年前的价格用五年;短约到期再买的人要按「模型价值定价」的新价接盘。但长约占市场大头,能当弹性容量的短约是少数。→ 详细
  • 云厂商的两难:CoreWeave 平均合约期超 3 年、98%+ 的算力签了 3 年以上长约,没法灵活调价;但每年新增容量远超存量(Meta 今年一年新增的容量 = 其 2022 年支撑 WhatsApp/Instagram/Facebook 全部业务外加 AI 的全部家当),新增算力按新价格成交——涨价的抓手在增量上。→ 详细
  • 再往上游:Nvidia 手握 900 亿美元长期合约、正与内存厂商谈三年期协议;Amazon/Google 通过 Broadcom、AMD 也在锁产能。TSMC 没涨价,但内存厂商在大幅涨价、还会再涨一到两倍。利润可能归于云厂商、芯片厂商、内存厂商——「直到 TSMC 或 ASML 跳出来说:不行,我们要大幅提价」。模型厂商这边:今年利润率会大涨,因为产能太紧张、不得不「摧毁需求」(用涨价/限流压制需求)。→ 详细
05

TSMC 为什么把 3nm 大头给了 Nvidia:市场信号 + 保守算盘

  • Dwarkesh 的疑问:Nvidia 会刻意「碎片化」互补产业(把配额分给各种不知名 neocloud,确保没人独占算力;Anthropic/OpenAI 对数据供应商也是同一招——扶植一整个行业避免被单一供应商锁死),为什么 TSMC 不对 Nvidia 用同样的招,反而到 2027 年让 Nvidia 拿走 N3(3 纳米)晶圆产能的 70%+?→ 详细
  • 结构性原因之一:3nm 去年的大头本是 Apple,Apple 正被迁往 2nm;内存涨价挤压 Apple 的量,Apple 甚至开始接触第三方代工。TSMC 在 HPC/AI 芯片上的利润率比移动端高,因为技术领先优势更大。→ 详细
  • TSMC 的分配哲学很「反直觉」:更乐意把配额给 CPU 而不是 AI 芯片——Amazon 的 Graviton(CPU)比 Trainium(AI 芯片)更受待见,AMD 的 CPU 配额也比 GPU 更受青睐——因为经历过多轮周期的 TSMC 风格保守,「先把产能分给增速较低但更稳定的市场,再把增量给高增速市场」。→ 详细
  • Nvidia 赢在市场信号下得早、下得狠:「我们愿意签不可取消、不可退货的订单,甚至付定金」——比 Google、Amazon 早得多;后两家还各自遇到芯片延期(Trainium 等)。Nvidia 还挨家排查供应链:问 PCB 厂(最大供应商之一是中国公司胜宏科技 Victory Giant)「产能够吗」、问内存厂「产能都在谁手里」。→ 详细
  • 有趣的判断:Jensen 其实不算 AGI 信徒(他讲「加速计算」、不信软件会被完全自动化,不像 Dario 或 Sam),但他远比去年 Q3 的 Google 和 Amazon 信——他看得见所有数据中心的建设进度,「好,我要拿下这个市场份额」。Google 甚至因为自家 TPU 排不上产能,不得不部署海量 GPU 填数据中心。→ 详细
06

Google 百万颗 TPU 卖给 Anthropic:一场经典的信息不对称套利

  • DeepMind 的人当时的反应是「这太疯狂了,我们为什么要这么干?」但 Anthropic 算力团队的两位核心人物都来自 Google——他们看到了这个错位,赶在 Google 自己反应过来之前谈成了一百万颗 Ironwood(TPU v7)的交易。→ 详细
  • SemiAnalysis 从供应链数据还原的事件链:Q3 初的六周内 TPU 产能连续上调多次,Google 甚至要向 TSMC 解释为何突然要这么多——那批增量很大部分就是为了卖给 Anthropic。→ 详细
  • 随后 Nano Banana 和 Gemini 3 让 Google 用户指标起飞、Q4 Gemini ARR 冲到 50 亿美元(Q1-Q3 几乎为零),领导层才「哦」地醒过来,放话「算力每六个月翻倍」,再去 TSMC 加单时得到的回答是:「抱歉卖光了,2026 年也许再挤 5-10%,真正能做的是 2027 年。」Dylan 的结论:「在我看来 Google 搞砸了这一点很清楚。」→ 详细
  • 醒来后的 Google 变得「离谱地 AGI 信徒化」:买能源公司、给燃气轮机下定金、买下高比例的已通电土地(powered land)、跟电力公司谈长约——在数据中心和电力侧极度激进。→ 详细
07

瓶颈的终局:2028-29 落到 ASML,EUV 决定吉瓦天花板

  • 瓶颈每年都在换:前几年是 CoWoS(芯片封装),去年是电力。但那些都是短周期环节——数据中心不到一年能建成(Amazon 最快 8 个月),而晶圆厂要建 2-3 年。且过去还能把手机/PC 产能挪给 AI,现在「已经没有更多产能可以再挪了」——Nvidia 已是 TSMC 和最大内存厂 SK Hynix 双双的最大客户。最终到 2028-29 年,瓶颈落到供应链最底层:ASML。→ 详细
  • ASML 的 EUV 光刻机是「人类以任何量产规模制造的最复杂机器」,一台 3-4 亿美元;今年产能约 70 台、明年 80 台,即便激进扩张到 2030 年也只有 100 台/年出头。→ 详细
  • 一吉瓦的换算账(以年底发布的 Rubin 为例):需要约 5.5 万片 3nm 晶圆 + 6 千片 5nm 晶圆 + 17 万片 DRAM 晶圆;3nm 晶圆约 70 层光刻中 20 层是最先进 EUV,合计约 200 万次 EUV 曝光;一台 EUV 每小时 75 片、90% 在线率——约 3.5 台 EUV 机器支撑一吉瓦。→ 详细
  • 对比很惊人:一吉瓦数据中心要 500 亿美元,而 3.5 台 EUV 只要 12 亿美元——供应链越往下游走杠杆越大。TSMC 三年 CapEx 1000 亿美元,Nvidia 只用其中一小部分产能,一年就转出 1600 亿美元营收(上季度 400 亿×4)。→ 详细
  • 用这个模型验证 Sam Altman「2030 年每周一吉瓦」(年 52 吉瓦):现有存量约 250-300 台 EUV,逐年累加到 2030 年约 700 台,全给 AI 可支撑约 200 吉瓦/年——Sam 只要 25% 份额,「其实很合理,光今年他就能拿到已部署 Blackwell 的 25%」。当然前提是消费电子还分得到产能、「我们还被允许拥有消费品,没被价格挤出去」。→ 详细
08

EUV 为什么扩不动:手工作坊式的四大部件供应链

  • EUV 光刻机四大核心部件各在一地:光源(圣迭戈 Cymer,ASML 旗下)、掩模台(康涅狄格州 Wilmington)、晶圆台与光学系统(欧洲,光学核心是 Carl Zeiss)。每块背后都是极复杂供应链,且「(A) 从没尝试过大规模扩张,(B) 真要扩时间滞后相当长」——ASML 供应链超过一万个参与方。→ 详细
  • 工艺有多极端:光源用激光对锡液滴连续精准打三次(膨胀→整形→超高功率轰击),激发出 13.5 纳米 EUV 光;每台机器约 18 组「镜头」实为钼/钌多层反射镜,任何缺陷或曲率问题都会让良率归零;掩模台与晶圆台以 9 个 G 的加速度反向运动,几秒内扫完一块 26×33 毫米区域。一年只造几十台、镜片千件量级——「相当手工作坊」。→ 详细
  • 机器大到要在荷兰 Eindhoven 造好后拆解、用多架飞机运到客户现场再重新组装测试,耗时数月。→ 详细
  • 投资视角的金句:ASML「可能是全世界最慷慨的公司之一」——尽管无人有接近 EUV 的竞品(中国也许十年末才有),它从未让涨价幅度超过机器能力提升幅度(1.5 亿→4 亿美元/台,但吞吐量与套刻精度翻倍以上),始终给客户提供净收益;Leopold 等人的看法是「让价格涨上去啊,利润空间就在那儿」——Nvidia 和内存厂就在吃这个利润。→ 详细
  • ASML 自己也不 AGI-pilled:「我们因为 AI 从 60 涨到 100 台已经增长很多了」,而 Dylan 认为实际需要的是几百台;SemiAnalysis 的预测「一直被说太高,等被证明对了,又说明年的数字还是太高」。→ 详细
09

供应链「鞭子效应」:每往下一层,信念就打一次折

  • 精度门槛决定了没法「打响指扩产」:整个系统层间套刻偏差要控制在 3 纳米,意味着每个部件的物理运动精度要做到 1 纳米以下(误差会叠加)。对比:美国把电力增速从 0% 提到 2% 都费了老劲(中国已在 30%),而电力还是「相当简单的供应链」、从业者 10 万+;ASML 雇的人极少,Zeiss 做这块的可能不到一千人,个个超级专业化,「没法随便训练什么人顶上」。→ 详细
  • Dylan 的核心结构图景:OpenAI/Anthropic 知道自己需要 X;Nvidia 没那么信 AGI,按 X-1 建;再往供应链下游,每一层都在做 X-1,有些环节做 X÷2——整条「鞭子」的反应存在时间滞后,「对 AI 的信念和扩产意愿,传导起来太慢了」。→ 详细
  • 供应链「自以为明白了」:以为 AI 意味着从 60 台提到 100 台、光源从 500 瓦提到 1000 瓦就够了。但把 Elon(2028-29 年每年 100 吉瓦上太空)、Sam(十年末每年 52 吉瓦)、Anthropic、Google 的需求加总——「供应链根本不可能建出足够的产能,让每家都拿到自己想要的量」。→ 详细
10

退回 7nm 造芯片行不行:FLOPS 是假指标,互连才是真差距

  • Dwarkesh 的挑战:数据中心那边瓶颈总有替代方案(电网不行就场内燃气轮机),芯片能不能也这样——EUV 卡住就退回 7nm,像中国那样用 DUV 多重曝光?固定 FP16 看,A100(312 TFLOPS)到 B100(1 petaflop+)才 3 倍,制程贡献看起来很小。→ 详细
  • Dylan 的第一层反驳——数值格式不是公平对比:A100 为 FP16/BF16 优化,Hopper 押 FP8,Rubin 主攻 FP4/FP6,芯片就是围绕数值格式设计的;即便在 7nm 上按现代格式重新设计,差距仍远大于表面 FLOPS 差。→ 详细
  • 第二层是真正的「卡脖子大因素」——通信阶梯:模型跑在几百颗芯片上(DeepSeek 生产部署切分在 160 块 GPU 上),片内数据搬运每秒几十到几百 TB,芯片间只有约 1 TB/s,跨机架只有约 100 GB/s——每跨一级掉一个数量级。以 100 token/s 跑 DeepSeek 和 Kimi K2.5 的推理,Hopper 与 Blackwell 的性能差距是 20 倍量级(而两者 FLOPS 差距只有 2-3 倍,且这俩模型都是 8 比特、Blackwell 的 4 比特优势根本没用上)。→ 详细
  • 先进封装能补一部分(B200 单封装 2 个 die、Rubin Ultra 将 4 个;Tesla Dojo 曾做整片晶圆 25 颗芯片,至今可能仍是跑 CNN 最好的芯片、但形态不适配 transformer;华为 Ascend 910C/D 也在走「封装做大」路线——制程缩不动就在封装上抢进度),但封装变大后网络、内存带宽、散热约束全会冒头,而且「你能在 7nm 上做的封装,3nm 上也能做」——领先者同样受益,差距抹不平。→ 详细
11

中美半导体竞赛:快时间线美国赢,慢时间线中国赢

  • 现状盘点:中国至今没有完全本土化的半导体供应链——所有 7nm/14nm 产能用的都是 ASML 的 DUV 设备;ASML 绝大部分收入(EUV 全部)来自中国以外,规模优势仍在西方+台日韩一边。→ 详细
  • Dylan 的时间线判断:未来 5-10 年相当看好中国做成——2030 年 DUV 完全本土化「肯定能」;EUV 会有能用的设备,但还不能大批量制造。「能用」和「量产地狱」是两回事:ASML 2010 年代初就有能用的 EUV,从实验室到 fab 量产又熬了五到七年。中国 2030 年 DUV 产量可能到 100 台/年量级(ASML 现在是几百台/年)。→ 详细
  • 为什么快时间线美国赢——三个发散机制:① 从「卖 token 带完整推理链」转向「卖自动化白领工作」(后台思考不展示),从美国模型蒸馏进中国模型会更难;② 算力竞赛:OpenAI 去年底约 2 吉瓦、Anthropic 今年 2+ 吉瓦,明年底两家都到 10 吉瓦,中国实验室扩张远没这么快;③ 收入飞轮:Anthropic 一月新增 40 亿、二月新增 60 亿美元 ARR,现已 200 亿 ARR(毛利率不到 50%,据 The Information),背后是别人为它铺的约 500 亿美元 CapEx——「我们已经身处一场快速起飞之中,收入正以影响经济增长的速度复利增长」。→ 详细
  • 反面情形:如果 AI 到达特定能力的时间比「这档播客绝大多数嘉宾相信的」更久——美国建了近一万亿美元/年的数据中心 CapEx 却回报平平(「也许 Google 把自由现金流打到零、明年花 3000 亿 CapEx 是错的,华尔街看空的人是对的」),而中国建成完全垂直本土化供应链——「时间线快,美国赢;时间线慢,中国赢」。Dwarkesh 补充:这个问题被问得太少,旧金山按周思考、旧金山之外压根不想 AGI,没人认真想「AGI 发生在 2035 年」意味着什么。→ 详细
  • 模型差距的当下快照:「三到六个月前甚至现在,中国模型竞争力达到有史以来最强」,但 Opus 4.6 和 GPT 5.4 已经拉开身位。→ 详细
12

「Claude Slow」思想实验:为什么 HBM 换不成便宜 DRAM

  • Dwarkesh 的提议:HBM(高带宽内存,把 DRAM 垂直堆叠换取带宽)单位晶圆面积的比特数比普通 DRAM 少 3-4 倍——既然 agent 干活不需要极低延迟,能不能用商品级 DRAM 做加速器、出个「Claude Slow」?→ 详细
  • Dylan:技术上 Anthropic 完全可以——把 Opus 4.6 价格降到 1/4-1/5、速度只降一半,光靠 HBM 上的吞吐-速度曲线就能做到。但没人想用慢模型:agent 任务里模型跑慢了「几个小时变成一整天」,而价值最高的任务恰恰有时效性;愿意为 token 出最高价的边际买家也最不价格敏感——资本主义社会里算力流向支付意愿最高的用途。→ 详细
  • 硬件层面的死结是「岸线(shoreline)带宽」:芯片 I/O 只能从边缘引出(左右接 HBM、上下接别的芯片)。一个 HBM4 堆栈在约 13 毫米宽的岸线上做到 2.5 TB/s;同样面积的 DDR5 只有 64-128 GB/s——单位边缘面积带宽差一个数量级。卡住 FLOPS 的正是「把下一个矩阵搬进搬出」(权重 + KV cache,即模型对话上下文的缓存),换 DDR 后 FLOPS 全在干等内存,容量再大也没用(batch 加大 KV cache 读取更慢)。推理有四大约束:FLOPS、网络带宽、内存带宽、内存容量——SemiAnalysis 为此做了开源项目 InferenceX 搜索各种芯片×模型组合的最优点。→ 详细
13

内存紧缺砸向消费电子:iPhone 贵 250 美元、手机出货量腰斩

  • 惊人的数字:2026 年大型科技公司约 30% 的 CapEx 花在内存上(6000 亿里近三分之一)。内存紧缺会持续加剧、价格继续涨。→ 详细
  • iPhone 的账:12GB 内存过去每 GB 约 3-4 美元(共约 50 美元),涨三倍后到 150 美元;NAND 同样在涨,实际 BOM(物料清单)涨约 150 美元——Apple 不会白吞利润,终端消费者买 iPhone 要多付约 250 美元(Apple 有 3 个月-1 年的内存长约,要到下代 iPhone 才调价)。→ 详细
  • 真正的重灾区在中低端:全球智能手机年销量从 14 亿降到 11 亿,SemiAnalysis 预测今年跌到 8 亿、明年 5-6 亿;亚洲分析师已看到小米和 Oppo 把中低端出货量砍半——便宜手机的内存/存储 BOM 占比更高、利润更薄、又不签长约,最先被挤出局。释放出的 DRAM 流向愿签长约付高价的 AI 芯片。→ 详细
  • 社会后果:「大家会不会越来越讨厌 AI?会的,因为智能手机和 PC 不会再一年比一年好,实际上会一年比一年差。」PC subreddit 和游戏圈已经在刷梗图:「这就是内存翻倍、你买不到新游戏 GPU 的原因」——而 DRAM 还要再翻倍。→ 详细
14

内存为什么扩不动:三年没建厂的报应,和 3D DRAM 的希望

  • 眼下的约束不是 EUV 而是根本没有 fab:2023 年内存厂做内存还在亏钱,于是三四年没建新厂。2024 年 SemiAnalysis 就一直「敲鼓呐喊」:推理(reasoning)→长上下文→大 KV cache→巨大内存需求,「加速器一半的成本就是内存」——懂 AI 的人当时就重仓做多内存。但显而易见的事走完传导链花了极久:一年才反映到价格,价格反映后厂商又花三到六个月才动工,fab 建两年——2027 年底到 2028 年才有真正上规模的新产能。→ 详细
  • 抢产能的疯狂动作:Micron 从台湾一家成熟制程公司手里买下整座 fab;Hynix 和 Samsung 在现有 fab 上用激进手段扩产。根本约束是「设备没地方放」——fab 是人类建造的最复杂建筑(空气每三秒全部置换一次),Applied Materials、Lam Research 等设备商都在扩产,但没有厂房。→ 详细
  • 中期希望是 3D DRAM(像 3D NAND 那样垂直堆叠):路线图是 6F 单元→4F 单元→十年末或下个十年初 3D DRAM,一次 EUV 曝光产出的比特数会大幅上升。但仍要用 EUV(垂直堆叠需要更紧的套刻精度),且需要对 fab 大规模换装设备——逻辑 fab、DRAM fab、NAND fab 之间短期内互相改不了。光刻占晶圆成本的比例一路走高:逻辑从 2014 年的 17% 到如今 30%,DRAM 从 13-15% 走向 17-19%、3D DRAM 之前可能破 20%。→ 详细
15

Elon 的 TeraFab 与「EUV 会被颠覆吗」

  • Elon 放话要建月产 100 万片晶圆的「TeraFab」——没有任何公司有这么大的 fab(TSMC 在朝这个方向努力,存储厂也许能到但不在单一 fab 里)。Dylan 的拆解:Elon 超强之处是用「最疯狂的项目」招募把它当作世界最重要问题的人(火星、自着陆火箭、人形机器人),但在 AI 上这招不灵——所有人都在造 AGI。→ 详细
  • 分步判断:洁净室 Elon「大概能建出来」(花一两年);但他那套「能删就删、脏一点没关系」的思路「100% 不对」——fab 必须极其洁净。真正复杂的是开发制程技术并造出晶圆,那是大量长期积累的知识,「把极其昂贵的设备和供应链做最复杂整合的是 TSMC、Intel 或 Samsung,而后两家其实都没那么擅长」。→ 详细
  • EUV 被彻底颠覆的概率?「非常非常低」——确有公司在做粒子加速器/同步辐射光源(产生 13.5nm 甚至 7nm X 射线)用于光刻,可能是 EUV 之外的一次大颠覆,但那本身就是巨型装置;「奇迹般造出直写式、超简单、能大规模量产的新东西」不太可能。→ 详细
16

EUV 期权套利:复制「买断燃气轮机」的打法

  • 2023-25 年的先例:比别人更早看到电力瓶颈的人,跑去 Siemens、Mitsubishi、GE Vernova 买断燃气轮机产能,现在靠电力紧张收超额溢价。Dylan 把同样打法推演到 EUV:「应该有人去荷兰说:我付你十亿美元,你给我一个两年后购买十台 EUV 设备的权利、我排第一位」——然后等所有人反应过来「糟了,EUV 不够用」时加价卖出期权。→ 详细
  • 套利成立的逻辑:「你我都知道需求远高于他们的预测,也远超他们的建造能力」——ASML 扩不了产(就像 TSMC 扩不动那么快)而需求暴涨,锁定产能+远期合约就是「吃到这笔本该由 ASML 和 TSMC 收取的疯狂利润」。唯一障碍:「ASML 可不会随便信任哪个想买 EUV 的无名之辈」,Dylan 觉得他们不会答应;但至少可能给 ASML 一个扩产的需求信号。→ 详细
17

电力反而不是瓶颈:低效一点没关系,能解锁电网的 20%

  • Dylan 的立场与主流恐慌相反:电力「不能说任意扩张,但差不多」。除了三家联合循环燃气轮机厂商(年产 60 吉瓦),还有一整个武器库:航改燃机(飞机发动机改轮机,Boom Supersonic 在跟 Crusoe 合作)、中速往复式发动机(十家厂商,汽车业下行释放产能)、船用发动机(Nebius 正在 New Jersey 用船用发动机给 Microsoft 数据中心发电)、Bloom Energy 燃料电池(SemiAnalysis 看好一年半,扩产回本极快)、光伏+储能、风电+电池。→ 详细
  • 最大的隐藏产能是电网调峰冗余:电网按「盛夏最热那天的尖峰不断电」建设,尖峰只比平均高 10-20%、一年只出现几天几小时——配足储能电池或调峰电站,「一下子就为数据中心解锁了美国电网 20% 的容量」。数据中心现占美国电网 3-4%、2028 年到 10%,而美国电网是太瓦级的。→ 详细
  • 为什么可以「低效」:联合循环 CapEx 每千瓦 1500 美元,哪怕用贵一倍的 3500 美元方案,按 TCO 算 Hopper 每小时成本只从 1.40 涨到 1.50 美元——「我根本不在乎,模型进步的边际效用远超那 10 美分电费」。能源只占数据中心总拥有成本的一小部分,这是全场反复回响的关键账。→ 详细
  • SemiAnalysis 追踪 16 家燃气发电设备厂商的全部订单:各数据中心的订单合计几百吉瓦;到十年末新增容量约一半将是表后(behind the meter,绕过电网直接在场内发电)——更贵但躲开许可证和并网排队。Elon 是表后燃气的第一个实践者(Colossus)。→ 详细
18

劳动力与模块化:电工工资再翻两三倍,数据中心搬进亚洲工厂

  • 劳动力是「巨大的约束」:Abilene 为 OpenAI 建的 1.2 吉瓦数据中心高峰期用 5000 人,换算 100 吉瓦要 40 万人——而全美电工约 80 万。电工工资「大概还会再翻两三倍」,还会从欧洲进口高技能电工(原本在拆电厂的人来美国架高压线)。→ 详细
  • 真正的解法不是机器人而是模块化+亚洲预制:韩国、东南亚、中国工厂把 2 兆瓦供电模块、预装冷却子系统的集成单元、装好一整排服务器的滑撬(skid)整体发货——进场后要接的光纤、电源、管道大幅减少(管道工也是大瓶颈)。单机柜功率正从 120-140 千瓦走向 Nvidia Kyber 一代的接近 1 兆瓦。Crusoe、Google、Meta 都在推这个方向。→ 详细
  • 选址与审批:美国 50 个州总有地方能办成——小辖区里临时运入工人 3-12 个月、砸钱安置,「相对 GPU 和最终 token 价值,劳动力实在太便宜了」。Trump 政府放松了空气污染许可,Texas 腹地通融空间大(Elon 在 Memphis 吃了监管苦头,重来会选 Texas)。海外分散化在加速(澳、马、印尼、印度),但 70%+ 的 AI 数据中心仍在美国。→ 详细
19

太空数据中心:能源免费没用,芯片才是被争抢的资源

  • 太空的唯一理由是「电力基本免费」,但 Dylan 全盘泼冷水:① 就算地球电价翻倍也只是 GPU 总成本的零头;② GPU「可靠性糟糕透顶」——部署下去的 Blackwell 约 15% 要走 RMA 返修(SemiAnalysis 的 ClusterMAX 测过 40+ 家云,云厂商之间最大差异就是部署和故障处理能力),测完、拆解、发射、重新上线要多花约 6 个月——占五年寿命的 10%,且「算力在你拿到手的头六个月里价值最高」。→ 详细
  • ③ 网络拓扑难题:星间激光链路即便优化到接近 InfiniBand,那是每 GPU 而非每机柜的带宽(要乘 72,还要随 Blackwell/Rubin 逐代翻倍);模型越来越稀疏、几百上千个专家要摊在几百上千颗芯片上,卫星做不了无限大、星间互连既贵又比 GPU 还不可靠(集群成本 15-20% 是网络,可插拔光模块本来就要经常拔插清理)。→ 详细
  • 核心判词:「太空数据中心受限的不是能源优势,而是同一种被争抢的资源——十年末一年也只能造 200 吉瓦芯片,在地面还是太空无所谓。」芯片受限的世界里唯一重要的是让芯片尽快产出 token,地面的模块化提速手段太空都做不了。跨过鸿沟要等能源和土地审批真正成为瓶颈、芯片不再是瓶颈之后——「不是这个十年」。也许 2035 年钟摆摆回来(芯片够了、能源占集群成本升到 30%)才值得优化。→ 详细
  • 对 Elon 的定性:「Elon 从来不靠 20% 的改进取胜,他赢的方式是抡圆了打全垒打、做 10 倍提升——SpaceX、Tesla 都是。太空数据中心最终会是 10 倍级提升,但不是这个十年。」另外地面还有个简单提升:AI 芯片功率密度从每平方毫米 1 瓦拉到 2 瓦(换激进液冷/浸没式冷却)可让每片晶圆多产约 20% token——这在太空里反而更难(不能跑更热、只能更密,散热是地球上已解决的问题)。→ 详细
20

scale-up 域科普:Nvidia 全互联、Google 环面、Amazon 折中

  • scale-up 域 = 芯片之间以每秒 TB 级互相通信的紧密域。Nvidia 的演进:H100 时代一台服务器 8 块 GPU 互联;Blackwell NVL72 做到机架级 72 块 GPU 全互联(all-to-all)——速度一代翻倍,但「最重要的创新是把域从 8 扩到 72」。→ 详细
  • Google 完全另一路:TPU pod 一直是数千颗量级(v4 四千颗、v7/v8 八九千颗),但拓扑是环面(torus)——每颗芯片只连 6 个邻居,TPU 1 找 TPU 76 要逐跳中转、有资源阻塞。Amazon 介于两者之间(交换机全互联+部分环面);三家下一代都在往蜻蜓(dragonfly)拓扑收敛:部分全连接+部分不连,既有几百上千颗的域又少争抢。→ 详细
21

为什么小模型总是赢:RL 反馈循环与「研究 > 开发」的算力分配

  • Dwarkesh 提出的理论:参数扩展慢(GPT-4 一万亿参数后各家很久没超越)是因为 Nvidia scale-up 域内存不够——5T 参数模型 FP8 加同样大的 KV cache 要 10 TB,GB200 NVL72 才有 20 TB,而 Google 的 TPU pod 单域几百 TB。Dylan:容量和带宽是部分原因,但真正要紧的是 RL。→ 详细
  • 实验室算力的三种分法:推理(=收入)、开发(=做下一代模型,内部再分预训练和 RL)、研究。关键经验事实:「模型成本每年降到十分之一甚至更低」——研究带来的算力效率增益太大,所以「你其实想把大部分算力投给研究,而不是开发」。→ 详细
  • 小模型的复利账:5T 参数模型的 rollout(RL 中模型完整跑一遍任务的采样)开销是 1T 模型的 5 倍;即使大模型样本效率高 2 倍,小模型 RL 两倍时间仍更快完成、更早部署进研发——「更早拿到模型→帮你构建下一代模型→研究越转越快」,这个反馈循环「在任何情况下都偏向小模型,不管你的硬件是什么」。这正是所有公司想要的:尽可能快的起飞。→ 详细
  • Google 是唯一例外:Gemini Pro 是各大实验室中最大的生产模型(比 GPT-5.4 和 Opus 都大),因为 Google 算力「单一体系、几乎全是 TPU」,可以围绕大模型优化、用千颗芯片的 scale-up 域把 RL 提速;而 Anthropic 要同时应付 H100/H200/Blackwell/Trainium/各代 TPU,OpenAI 也在走向 Nvidia+AMD+Trainium 混编。→ 详细
22

SemiAnalysis 的生意与 Leopold:谁在用数据赚钱

  • Dwarkesh 的辣问题:「为什么只有 Leopold(Aschenbrenner)一个人在用你的表格赚离谱的大钱?」Dylan:「Leopold 开玩笑说他是我唯一嫌数字太低的客户,其他所有人都嫌太高、说到耳朵起茧」——hyperscaler 互相指责对方数字虚高,往往六个月到一年后才承认 SemiAnalysis 是对的。→ 详细
  • 客户结构:约 60% 是产业界(AI 实验室、数据中心公司、hyperscaler、半导体全供应链),40% 收入来自对冲基金。数据不只是表格,还有报告和 API。「我们的数据让基础事实更准确,从而让市场更有效」——真正要利用的是「什么环节最受约束、什么最超出市场预期」。→ 详细
  • 内存交易的教科书案例:一年前说「内存价格会翻两番、智能手机出货量跌 40%」会被当疯子,但逻辑摆在明面上——上下文变长→KV cache 爆炸→需要更多内存,再叠加对 fab/数据中心/芯片供应链的追踪。「说到底,还是得有人真正相信这件事会发生」——信的少数人重仓做多内存赚到了,Leopold 在仓位和布局上做得比大多数人好,但不是唯一。押注赌的不是 2035 年的奇点,而是过去一年已经发生、可以用数据算出来的事。→ 详细
23

Q1|TSMC 能把 Apple 从 N2 上踢出去吗?

  • 不会整个踢掉,但 Apple 的地位在滑坡:芯片设计周期一年开外,真实的玩法是 Nvidia 们「预付产能的钱、你替我们扩产」;TSMC 会对 Apple 玩「你下单 X、我预测你只要 X-1 就给 X-1」(Apple 传统上多订 10% 再砍 10%)。→ 详细
  • 今年 N2 大部分在 Apple 手里(AMD 有一点,在 2nm 上赌 CPU+GPU chiplet 先进封装、想比 Nvidia 扩得更快),明年 Apple 还占近一半、之后急剧下滑。2nm 是 Apple 头一次不是新制程的第一个客户;到 A16 节点,第一个客户直接是 AI。TSMC CapEx 不断膨胀而 Apple 生意没同速增长,还被封装/材料/DRAM/NAND 涨价往外挤——「他们不再是 TSMC 历来那种铁哥们了」。→ 详细
24

Q2|如果华为能用上 3nm,会做出比 Rubin 更强的加速器吗?

  • 「有可能,会。」华为是第一个做出 7nm AI 芯片的(Ascend 比 TPU 早两个月、比 A100 早四个月)。更重要的判断:「华为可以说是全世界唯一一家几条腿都齐的公司」——顶尖软件工程师、吃透网络技术(历来最大业务)、顶尖 AI 人才(研究员比 Nvidia 强)、自己的 fab、自己卖 token 的终端市场,且在中国有更大人才池;某些光学技术中国非常强。→ 详细
  • 反事实推演:如果 2019 年华为没被禁用 TSMC,「华为可能早就超过 Apple 成为 TSMC 最大客户了」。→ 详细
25

Q3|如果 2030 年有几百万台人形机器人,对算力意味着什么?

  • 智能不必都塞进机器人:高效架构是云端大脑 + 机器人小脑——云端能力强的模型以高 batch 做规划和长时程任务(每秒 1-10 次下发指令),机器人上的小模型接收输入、在动作间插值、判断重量力度。全放设备端会更贵(无法批处理)、更笨(云端模型更大),还会从 AI 数据中心嘴里抢走最先进的低功耗芯片——部署几百万台人形机器人,那 200 吉瓦就得往下减。→ 详细
  • Dwarkesh 的洞察:未来的智能在物理上极度中心化——80 亿人的算力长在各自脑袋里,而未来是数据中心里几十万上百万个实例做知识工作、驱动满世界的机器人。Elon 已经在对冲:跟 Samsung 签大单在得州造机器人芯片——避开台湾风险,也避开 TSMC 上「为数据中心天才愿意无限掏钱的人」的抢产大战(Samsung 上的 AI 需求只有 Nvidia 新发布的 LPU)。→ 详细
26

Q4|把 TSMC 工程师全部空运出台湾,能给台湾风险去多少险?

  • 去不了多少。就算撤出全部 know-how、fab 被毁:① 在亚利桑那复制 TSMC 多年建起的产能要极长时间,期间新增算力能力几乎归零——十年末本该每年新增几百吉瓦,Intel+Samsung 合计也许只剩 10-20 吉瓦,「根本不算什么」;② 全球 GDP 不只是放缓而是大幅缩水;③ 移除台湾后,中国反而成为垂直整合最强的半导体供应链。→ 详细
  • 还有个「蛇吞尾巴」死结:光刻设备本身要用大量台湾制造的芯片——「没有台湾的芯片你造不出设备,没有设备你又造不出芯片」(好在光刻设备用的不是最先进芯片,有一定多元化余地)。→ 详细
27

联系方式

本期未提及嘉宾联系方式。Dylan Patel 是 SemiAnalysis 创始人/CEO(半导体与 AI 基础设施研究机构,卖数据/报告/API,节目中多次提及其 newsletter、ClusterMAX 云评级与开源项目 InferenceX)。

接着读