Freedom

回顾2025年半导体市场，真的是有太多太多精彩的故事，最大的主题就是: AI需求驱动导致半导体基建的估值体系重构 + 产业链的价值分配重写 从2024年开始，半导体基建正在飞速吞噬整个IT产业利润，SP500里半导体净利润EPS在IT行业里占比，在两年时间从不到20%上升了到了40%，而且还在呈加速上升姿态 半导体整体前瞻利润率从2023年的25%已经升到了2025年11月的43%，已经明显超过了几个互联网巨头的平均利润率，这也印证了半导体利润率超过互联网会是新常态。整个IT产业的利润分配，流向半导体的比例越来越大。 要知道，就算是20~22年的半导体芯片荒，短缺如此严重，半导体的利润率和整个IT利润分配也没有显著增长 这就是故事的上半篇：AI需求驱动导致半导体基建的估值体系重构，不再是互联网时期的基建从属地位 ------------------------ 这个现象背后的逻辑是商业模式随着技术特性的变迁： 互联网时代，每次请求的网络和算力成本，边际成本极低，scaling的效果极好，分发的边际成本几乎为零 在AI时代，这个互联网时代分发边际成本几乎为零利于scalable的特性遭遇了根本性的重大挑战：且不说训练成本从此不是一次性开销而是年年增长，就客户的AI推理请求而言，由于inference scaling成为共识，加上垂直领域仍然需要更大规模的旗舰模型来保持竞争力，推理的成本不会随着硬件算力价格的通缩而同步降低 互联网企业从前的最大成本只有OPEX尤其是SDE人工成本，而现在，互联网公司历史上第一次像半导体厂foundry那样背上高折旧成本的资产负债表，商业模型恨不得要慢慢从“流量 × 转化率”部分转向“每 token 毛利”了 简单的说，互联网时代到AI时代的成本分布，在人力成本opex的基础上又加上了沉重的硬件/算力成本capex(财报里占比：MSFT 33%, Meta 38%)。 上个时代的互联网公司+CSP+SAAS是收租行业里的大赢家，而AI时代，算力(半导体/芯片折旧)成为了新的收租行业，整个IT行业的利润分布发生了剧烈的重新分配(EPS利润流向半导体从20%升到40%而且持续攀升中)，这就是半导体基建估值体系重构最重要的原因 --------------- 半导体高利润率的新常态趋势能持续多久？ 目前的高溢价来自于前期不计成本的军备竞赛造成的半导体订单积压过多 但很显然，hyperscalers都不愿意当冤大头，都在试图自建ASIC降低成本，那么可以从2030年远期的算力分布来回看这个问题 长线来看，openai已经明牌了标准答案，10GW Nvidia，10GW ASIC，6GW AMD，其他hyperscaler划分比例有类似考虑 比如说，推理端希望ASIC >50%，GPU里再细分的话，AMD和NV(legacy)对半分。训练还是得NV占大头，60%+,剩下的自研ASIC和AMD对半分 2030年按60%推理，40%训练比例划分，算下来NV 38%， ASIC 39%， AMD 23%，跟openAI比例是几乎完全一致的，算是一个标准答案参考值 当然了，微软，Amazon，Google，Anthropic这几家里AMD的比例会比这个标准答案中枢/参考值明显低一些，xAI则是没有ASIC只有Nvidia+少量AMD AMD的风险在于，当2030年再往后的更长期，CSP的in house ASIC越来越成熟(微软除外)，推理端ASIC占比可能越来越高，很难有incentive新买入大量GPU了，除非卖的足够便宜 最近风头正劲的TPU呢？Meta是不是要转向TPU？对Nvidia的利润率影响大吗？ 实际上，Meta今年capex72B，明年capex110B，未来六年capex平均值可能达到160B附近，而Meta 6年10B的TPU订单算下来年均只有1.6B，而且购买的是TPU云服务，并不是裸TPU 也就是说，Meta这笔TPU订单只占到Meta未来6年capex的1%，并没有严肃的考虑大规模部署，可能只是作为和Nvidia讨价还价的手段而已 另外从Meta最近几个月的招聘广告来看，也并没有看到任何TPU engineer方面的招聘，不像 Anthropic那样从五月就招一堆TPU kernel engineer，十月才宣布大规模采购TPU做训练 所以说，不管原因是diversify供货商，还是给自研ASIC延迟做退路，还是因为AMD的MI350X延迟，Meta买TPU基本上只有一个考虑：增加买Nvidia GPU的议价权，但顶多只有推理份额里能讨价还价，实际效果很有限，对Nvidia利润率影响也很有限。 要知道，22年加密货币熊市矿难的时候，NVDA库存上升到了198天，利润率只是从65%回撤到了56%，算上PE/宏观双杀股价才从300变100，现在一直供不应求，利润率没道理能降下来 再加上TPU v8设计过于保守(没用HBM4)，Kyber rack的Rubin方案会比TPU v8的TCO更好，到头来最后还是得继续依赖Nvidia，很难议价。只要Nvidia继续保持这样的大踏步前进，竞争对手其实要跟上还是不容易的。 总之，一方面，全产业链瓶颈，比如cowos扩张都很谨慎，供不应求的状态还能持续多年。 另一方面，AI变现的利润曲线和硬件投入曲线存在“时间错配”，应用端的增长曲线会落后几年，只要这个应用端和基建端的增长曲线的时间错位依旧存在，半导体在IT行业的利润分配就会一直占优势。 从OpenAI的到2030年的投入曲线来看，这个时间错位至少要持续到2030年附近。也就是说半导体行业的超级扩张期带来的在IT产业利润划分的主导地位，目前看至少能持续到2030年 而半导体高利润率可能会维持的更长远一些，因为从互联网时代一次性基建属性变成了现在的收租基建属性 --------------------------------------------------- AI 不是只养活了 GPU，而是在用算力预算把“能把电变成 token 的每一环”都抬了一轮，从内存，存储，互联，光纤，电力，储能…..等等 上半篇讲完了“半导体吞噬IT利润”，那么下半篇讲的就是“AI算力价值溢出效应（Spillover Effect）重塑半导体内部格局”：GPU算力增长 -> 内存/存储/互联/CPU瓶颈 -> 溢出效应 -> 结构性机会 2025 年更有趣的故事，是巨大的行业红利在半导体内部怎么诞生结构性新机会，比如说，一个super cluster需要几个数据中心互联，光纤互联的长度需要上百万mile这个级别，这就是新机会 半导体产业链的结构性趋势带来的新机会，最典型的例子就是内存(DRAM/HBM)和存储(SSD)，HBM的需求增长太夸张，连带挤压DDR4/5产能，直接让以周期性为标志的内存行业甚至喊出了“周期不存在”了，Hynix因为在HBM上领先，甚至都开始憧憬起了几年后年利润1000亿美元，妥妥一个万亿市值的公司 这两个板块背后，是结构性趋势的转变：AI workload从训练逐渐往推理延申，推理比例越来越大。 而推理是一个非常纯粹的吃内存带宽速度(memory bound)的事情，可以说带宽速度=token/s。模型尺寸越来越大，以及上下文context length的增加，对内存的尺寸要求也相应增大，导致了内存的需求激增：推理即内存 下一代的的GPU/ASIC内存已经成了暴力美学，配备的内存size之巨大，是三年前无法想象的，回看22年H100的80GB简直像个玩具，这才几年就增长了十倍： Nvidia Ultra Rubin - 1024GB HBM Qualcomm AI200 - 768GB LPDDR AMD MI400x - 432GB HBM 内存的另外一个潜在的爆发点在端侧，也就是手机/PC/汽车/机器人的端侧LLM，这两年主流的手机旗舰机已经从6GB升级到了8GB/12GB/16GB，提前为可能的端侧LLM生态做准备，毕竟手机算力下一代就能达到150TOPS量级，妥妥的桌面级，非常暴力 潜力上来说，端侧内存升级是比云端内存增量要更大的市场，毕竟端侧终端device的数量太惊人了，每年都是billion级别，一旦端侧LLM生态繁荣起来，内存用量翻倍轻而易举，针对端侧低功耗内存/存算一体的各种设计都会跟上 但端侧genAI的软件生态，似乎明显滞后，一直比我想象的进度要慢，可能是因为这方面还处于摸索期，并没有云端那么确定的ROI，厂商们在投入上都很谨慎，我在23~24年时候看好27年，可能还是太乐观了 互联网->移动互联网用了10~15年，端侧genAI/LLM可能也需要7~10年，可能得等云端ROI开发的差不多了，边际收益下降了，才能轮得到端侧genAI/LLM拿到开发资源，跑通端侧ROI。 -------------------------------------- 另一个2025年半导体内部结构性转变的故事是NAND存储，特别是企业级eSSD硬盘 结构性趋势来源也是同一个，AI workload的推理需求越来越大。内存红利也外溢到了SSD存储，甚至HDD存储，因为内存不够用就用高速SSD作为多级缓存 主要逻辑是AI推理过程中内存溢出KV cache offloading到下一层SSD存储，以及向量数据库检索/indexing，都在增加SSD存储的需求 Micron财报说的精准又直白：“AI inference use cases such as KV cache tiering and vector database search and indexing, are driving demand for performance storage.” 至于为什么存储价格在第四季度才爆发，这需要区分一下合约价格和现货价格，合约价格涨幅会温和一些，就算是最紧缺的企业级eSSD合约Q4上涨大概25%。而当NAND产能在2025年被合约慢慢的吃光，现货的价格就造成了观感上强烈的冲击，一个月上涨50%以上。 另一个未经验证的逻辑是多模态的爆发，特别是AI图片和AI视频的需求爆发，也会加剧存储的短缺，我觉得这条线只能说未来可期，但目前的视频/图片精细程度，可能还不到当年GPT3的水平，要达到出圈效果还需要一些时日。 ------------------------ 那么下一步还有什么趋势转移带来的半导体结构性的机会呢 那么就要先看下一步AI推理端的需求趋势是什么，毫无疑问，agentic flow的比例会越来越大，2025并不是year of agent，而是一个decade of agent 从CPU视角去看agentic workload，routing和工具处理都在CPU上，如果把常用的agentic框架做profiling，比如SWE-Agent, LangChain, Toolformer，CPU最长可以占到90%的E2E端到端延迟，throughput瓶颈也更多的卡在CPU，甚至CPU能耗也超过了总能耗的40% Agentic AI目前是一个CPU瓶颈更多的事情，在 agentic 框架里，CPU 是永远在忙的总指挥orchestrator, 很可能会成就CPU需求的新一波回暖 AMD 2025年Q2财报（8月5日），Lisa Su明确表述了这一现象：​"In particular, adoption of agentic AI is creating additional demand for general-purpose compute infrastructure, as customers quickly realize that each token generated by a GPU triggers multiple CPU-intensive tasks." "agent AI的采用正在对通用计算基础架构产生额外的需求，因为客户很快就意识到GPU产生的每个令牌都会触发多个CPU密集型任务。" ​Q3 财报里Lisa又明牌了一次CPU TAM increasing due to Gen AI. "Many customers are now planning substantially larger CPU build outs over the coming quarters to support increased demands from AI, serving as a powerful new catalyst for our server business." Nvidia也是把agent flow视为CPU需求，GB200/300 架构配置的CPU比例也比以往大的多，36颗 Grace CPU : 72颗 Blackwell GPU，直接达到了1：2的水平，AMD的路线则是用1~4个256核的EPYC去服务MI400系列72~128个GPU 以后的硬件架构，一定会往优化agent workload方向发展，比如agent task graph的调度和load balancing，CPU/GPU协同micro-batching 算力上的比较，说不定以后也会摆脱现在的纯GPU token rate比较，转向整个系统级全栈agentic benchmark比较. -------------------------- 半导体结构性转变带来的机会同时，下一步，可能也会带来一些意想不到的次生效应 云端AI数据中心需求爆发，造成内存和存储的暴涨，给消费电子的成本带来了很大压力，在2026年，这也许会演变成消费电子产业潜在的黑天鹅 PC厂商最近的股票大跌，也是这个原因。HP已经说了要减少内存配置，暗示要把PC重回8GB内存+256GB存储的时代了。 DRAM内存和存储再这么涨下去，可能会出现很离谱的情况：内存/存储现货价格比CPU和GPU还要更贵。尴尬的是，这可能直接延缓了消费电子期望的AI PC的进程，毕竟大内存是更有利AI PC的表现力的。 夸张的说，每个PC厂商和手机厂商的员工，甚至是消费电子厂商的员工，都应该买入存储和内存，作为职业风险对冲 明年年初开始，安卓阵营的内存以及存储成本要压不住了，三星，小米的手机售价都提高的话(美国市场现在已经提高不少了)，利好最大的就是苹果 苹果的内存产能，nand产能都是专属长约锁价特供的，顺带还把Kioxia给坑了好多不涨价产能，导致苹果的成本优势进一步扩大，苹果全球手机销量市占率增长可能会非常可观，接下来一阵子可能会是iphone辉煌的时光。 ----------------------- 2025年半导体市场真的是太多精彩的故事了，Nvidia/AMD/TPU和各家hyperscaler的恩怨情仇引得各路下注的吃瓜群众心情跌宕起伏。 HBM/内存厂商吃到了memory-bound的红利，NAND厂商意外收获了KV cache的溢出效应，CPU在沉寂近十年后，可能会因agent orchestration再次回到增长叙事的中心 不再是Nvidia/AVGO几家算力厂商独大，而是AI workload算力价值溢出后的每一次演进，从训练到推理，从文本到多模态，从单模型调用到agentic flow，都在重写产业链的价值分配。 云端AI的繁荣正在挤压消费电子的生存空间——当PC厂商被迫讨论重回8GB时代，苹果却因供应链优势坐收渔利。这场算力军备竞赛的次生效应，可能在2026年以意想不到的方式重塑整个消费电子格局 半导体的故事不再是一条单线，而是一张持续自我重构的网。而 2025 年，大概只是合纵连横的第一回合

AI半导体终局推演2026(II) 目前的topic 为什么HBM在结构上很可能会摆脱传统周期性，进入成长周期性？HBM的升级节奏会如何发展？ （tiktok节奏，size和speed交替换代升级） 这会给HBM的供应和需求市场带来什么样子的capex成本结构变化？Capex内战里为什么HBM会持续占优势？ 为什么Nvidia未来最大的竞争对手不是AMD，是Samsung，Hynix，Micron？ AI推理时代，这个依赖HBM指数增长的GPU架构路线进化路线，会不会停止？什么时候停止？ 那么以后DDR和NAND呢？有没有摆脱周期性的可能？ AI Semiconductor Endgame Scenario Analysis 2026 (II) Current Topics Why is HBM structurally likely to break away from traditional cyclicality and enter a growth-cycle paradigm? How will the upgrade cadence of HBM evolve? (A “TikTok-style” rhythm: alternating generational upgrades in capacity/size and speed.) What kind of changes will this bring to the capex cost structure in the HBM supply and demand markets? In the internal “capex wars,” why will HBM continue to dominate? Why will NVIDIA’s biggest competitors in the future not be AMD, but rather Samsung Electronics, SK hynix, and Micron Technology? In the era of AI inference, will the GPU architectural path—highly dependent on exponential growth in HBM—eventually come to a halt? If so, when? What about DDR and NAND going forward? Do they have any possibility of breaking free from traditional cyclicality?

But if you want to buy SNDK/MU now You are basically showing up to the party at 1:30 AM

$SNDK SanDisk前副总裁深度访谈：AI时代，HDD和NAND到底谁赢 该文已同步更新至公众号：Macro林的市场观察 2026年5月5日，华尔街研究机构Bernstein发布了一份专家访谈纪要。主持人是Bernstein的美国IT硬件分析师Mark Newman，对面坐的是Robert Soderbery，一个在存储行业干了几十年的老兵。他曾经是西部数据（Western Digital）的执行副总裁，直接负责旗下SanDisk闪存业务，管过云存储、消费存储和AI存储三条线。一年多前SanDisk从西部数据分拆独立上市，Soderbery也离开了公司，但他对这个行业的理解仍然是一线水平。 这场对话持续了大约一个小时，话题只有一个。在AI时代，数据中心里的两种主要存储介质，HDD（机械硬盘）和NAND（闪存/固态硬盘），到底谁会赢？ 两个主角各自是什么 在进入正题之前，需要理解HDD和NAND各自是什么，以及它们为什么会存在竞争关系。 HDD，也就是机械硬盘，是一种已经存在了几十年的存储设备。它的内部有高速旋转的金属盘片，一个机械臂在盘片表面来回移动，通过磁性记录的方式读写数据。你可以把它想象成一台微型唱片机。HDD的优势是单位容量的价格极低，同样花一块钱，HDD能存的数据量远远多于其他任何存储介质。它的劣势是速度慢，因为机械臂需要物理移动到数据所在的位置才能读取，就像你要在一张唱片上找到某首歌，针头得移过去。 NAND闪存是固态硬盘（SSD）的核心组件。它没有任何机械部件，数据存储在半导体芯片里，通过电信号读写。没有机械运动意味着速度快很多，功耗也低，体积也小。但NAND的单位容量价格一直比HDD高出好几倍。 在过去几十年里，数据中心的选择逻辑很简单。需要快速访问的数据放在SSD上，需要大容量长期存储的数据放在HDD上。就像你家里可能有一个SSD笔记本电脑用来日常工作，同时有一个大容量移动硬盘用来备份照片和视频。 传统数据中心的简单世界 Soderbery回忆说，在AI出现之前，传统数据中心的存储架构非常简单，就是一个两层结构。 第一层是"计算盘"，小容量的企业级SSD，通常是2TB、4TB或8TB，安装在服务器里，负责操作系统运行和频繁访问的数据。第二层是"存储盘"，大容量的近线HDD（nearline HDD），专门用来存放不需要频繁读取的海量数据。 如果按数据总量（bit）来衡量，HDD占了压倒性的80%到85%，NAND只占15%到20%。但如果按花的钱来算，两者其实差不多，因为HDD虽然存得多但单价便宜，NAND虽然存得少但单价贵。 在这个时代，也有人尝试过在两者之间做文章。比如，有没有可能做一种大容量SSD，既有SSD的性能又能替代HDD的存储功能？西部数据和其他厂商确实在研发更大容量的SSD，但老实说，市场反应很冷淡。hyperscaler（超大规模数据中心运营商，比如谷歌、亚马逊、微软、Meta这些公司）的态度很直接。我为什么要花好几倍的价钱买SSD来做HDD能干的活？性能溢价不值那个钱。 这种格局维持了大约三到三年半。然后AI来了。 AI改变了一切 大约两三年前，AI数据中心开始大规模建设。最初的存储配置基本上复制了传统数据中心的模式。GPU服务器旁边放一些计算用的SSD，再配上大量近线HDD做数据存储。看起来跟以前没什么区别。 但很快，人们发现了一个问题。 AI的工作流程跟传统计算不一样。在数据真正被送进GPU运算之前，有大量的"预处理"工作需要完成。原始数据需要被清洗、转换、向量化、做embedding（一种把文字或图像变成数字向量的操作，方便AI模型理解）。这些预处理任务对存储的性能要求极高，你需要以很快的速度读取和写入大量数据。而传统的近线HDD，那个靠机械臂一点一点挪动的设备，根本跟不上这种节奏。 这就像你原本用拖拉机拉货拉得好好的，突然有人告诉你现在需要用赛车的速度送快递。拖拉机（HDD）的装载量大没错，但速度跟不上。 于是，hyperscaler开始疯狂采购大容量的企业级SSD。不再是以前那种2TB、4TB的小盘，而是32TB、64TB、128TB，甚至256TB的超大容量SSD。这些盘既有SSD的高性能，又有接近HDD的大容量。Soderbery说，从bit的角度看，AI存储市场几乎在一夜之间被大容量SSD主导了。新增的业务里，60%到70%的NAND采购都是冲着这些大容量企业级盘去的。 更有意思的是连锁反应。传统数据中心的人看到AI那边用上了这些大容量SSD，也开始琢磨，这东西是不是也能用在我们这边，替代掉一部分HDD？于是整个存储行业的架构从原来简单的"两层"（小SSD + 大HDD）演变成了"三层"。小容量高性能SSD做计算盘，大容量企业级NAND做中间层，近线HDD仍然兜底做最大容量的存储。 涨价把一切冻住了 故事如果只讲到这里，似乎NAND会一路高歌猛进，逐步蚕食HDD的地盘。事实上，2025年夏天之前，很多人确实是这么想的。 当时NAND的价格相对HDD大概是4到5倍（以每TB美元计算）。在这个价差下，一些hyperscaler开始做TCO（总拥有成本）计算。如果把NAND的功耗优势、空间节省、性能提升都算进去，在某些"边界场景"里，用SSD替代HDD的总成本其实差不多甚至更低。比如一块128TB的SSD，体积只有手机那么大，但它替代的可能是一整个机柜的HDD。你省下的机房面积、电费、冷却成本，加起来可能够得上SSD多出来的采购价了。 Soderbery估计，hyperscaler普遍愿意切换的TCO门槛大约在2到3倍。最积极的（比如Meta那种更看重应用性能、对成本不那么敏感的）可能在3倍就会动手。大部分市场要到1.5倍左右才会大规模迁移。当时4到5倍虽然还不够，但趋势是在往3倍走的。 然后NAND价格暴涨了。 涨幅远超预期，从5倍直接飙到了20到25倍。原本大家期待的"从5倍走向3倍"的故事，变成了反方向跑。所有正在进行的HDD-to-SSD切换计划全部停下来了。超过20倍的价差，不管你怎么算TCO，都不可能让SSD替代HDD变得经济。 Newman在对话中用了一个很形象的表述。两边（NAND和HDD）的需求都在增长，只是NAND那边多吸走了一些边界场景的需求。但现在价格涨成这样，这些边界需求又会往HDD回流一些。Soderbery同意，会有一些回流，但幅度不会很大，因为两边产能都紧张，能调配的空间有限。 为什么NAND价格会涨这么离谱 要理解这次涨价，需要知道NAND行业一个关键的技术特征。NAND有"代际"之分。 NAND闪存的制造跟其他半导体一样，有不同的技术代际（generation/node）。你可以把它理解为一栋楼的层数。早期的NAND是平面的（2D），后来进入3D时代开始往上叠层，从几十层到100多层到200多层。目前在产的大概是第5代到第8代3D NAND，第9代即将投产。 问题在于，不同代际的NAND能做的事情差别很大。AI数据中心要的那种大容量高性能盘，128TB、256TB的QLC SSD，只有最新的两三代技术节点才能造。老一代节点可以造消费级SSD、手机存储芯片这些，但做不了AI要的大容量企业盘。 而最新节点的产能在整个NAND行业里只占大约30%到35%。为什么这么少？因为NAND厂商过去几年的日子太难过了。Soderbery直言不讳地说，NAND是一个连续亏损或低利润了5到9年的行业。厂商手里没有足够的钱把所有老产线都升级到最新节点。每一次"代际升级"（从N代到N+1代），全行业加起来需要投入大约500亿美元，换来的是总bit产出增加约50%。在长期亏损的状态下，没有哪家公司有胆量和资金连续做两三轮这样的投资。 所以实际情况就是，AI需求像洪水一样涌向最新节点的产能，但这部分产能只有行业总量的三分之一。竞价（bidding war）极其激烈，价格自然暴涨。而老节点的产能虽然闲着一些，但做不了AI要的产品，帮不上忙。 这就好比全城只有三家五星级酒店，突然来了一个万人规模的国际会议。三家酒店的房间瞬间被订光，价格涨到天上。旁边有大量的经济型酒店空着房间，但会议主办方要求必须住五星级，经济型酒店再便宜也没人住。 Soderbery还补充了一个容易被忽略的细节。NAND工厂几乎永远在满负荷运转。这跟HDD不同，HDD工厂还有一些产能弹性可以调节。NAND的制造流程决定了你要么100%开着，要么就别开了，没有中间态。所以面对突发的需求暴增，NAND行业几乎没有短期应对能力。 HDD为什么死不了 聊到这里你可能会想，既然NAND这么供不应求，HDD应该很快就被淘汰了吧？恰恰相反，HDD目前的处境可能比很多人想象的要好得多。 价格是最直接的因素。20倍的价差意味着在纯存储场景里，HDD仍然有压倒性的成本优势。不管AI多火，世界上仍然有海量的数据需要低成本存储，视频监控、备份归档、冷数据存储，这些场景对性能要求不高，对成本极度敏感。NAND在这些场景里完全没有竞争力。 然后是HDD行业的竞争格局。全世界现在只剩下两家半HDD制造商。西部数据（WDC）、希捷（Seagate），再加一个东芝（Soderbery暗示东芝的状态不太稳定，不算一个完整的竞争者）。这是一个典型的寡头垄断市场。 Soderbery非常坦率地说了寡头市场的运行逻辑。核心就是不轻易扩产。只要你不扩产能，供给就永远偏紧，价格就能维持在一个让股东满意的水平。而HDD恰好有一个天然的"护城河"让这条规则更容易执行。HDD的制造技术极其复杂。 很多投资人以为HDD是"低科技"产品，毕竟里面有一个会转的盘片和一根机械臂，看起来很原始。但Soderbery指出，HDD的研发难度其实非常高。盘片上用来存储数据的磁性颗粒需要用溅射设备逐层沉积，精度在纳米级别。磁头的设计涉及精密的物理和材料科学。新一代的HAMR技术（热辅助磁记录，用激光加热盘片表面来提高存储密度）更是把复杂度提到了新高度。他透露了一个有趣的事实。在西部数据内部，HDD研发团队里的博士数量比NAND团队还多。 这种技术复杂性意味着扩产不是写一张支票就能搞定的事。你需要建新的无尘车间、采购精密设备、培训技术团队、调试良率，整个周期很长，充满不确定性。再加上HDD行业刚刚经历了近十年的供过于求（直到AI出现之前），厂商有深刻的心理创伤，绝不想重蹈覆辙。 第三个有利因素是成本曲线的变化。过去NAND的每bit成本下降速度远快于HDD，所以人们普遍认为NAND迟早会便宜到跟HDD差不多的水平，届时HDD就没有存在的意义了。但现在情况有了变化。NAND的成本下降正在放缓。3D NAND靠堆叠层数来降本（从2D变成3D），但层数越高技术难度越大，就像盖100层的楼远不止花50层楼两倍的钱。Soderbery说NAND可能还有"最后一次挤柠檬"的机会，再往后就需要全新的方法来降本。与此同时，HDD这边，HAMR技术带来的成本下降速度正在加快，已经跟NAND的成本下降速度接近甚至略快。两条曲线正在收敛，但从"HDD更便宜"的方向收敛，这意味着NAND要追平HDD的价格需要的时间比之前预计的更长。 Newman在对话中总结了一个关键判断。展望2030年到2032年，NAND的成本或许能降到HDD的3倍以内，届时以类似的毛利率定价的话，会开始看到从HDD向SSD的份额迁移。但即便到了那一步，实际的替代也需要巨额资本投入（前面提到的1500亿美元量级），而且NAND厂商从经济回报角度看没有太大动力去做这件事。与其花1500亿去抢HDD的低毛利市场，不如把钱投到AI存储这个高毛利方向。 所以结论是，HDD短期内死不了，中期（到2030年前后）也很难被NAND大规模替代。两者会在各自擅长的领域共存相当长一段时间。 一场改变游戏规则的合同革命 这场对话里最让人意外的部分，可能是关于LTA（长期协议，Long-Term Agreement）的讨论。 在传统的存储行业里，买卖双方的关系极度不对等。所谓的"长期协议"其实是一种单方面的安排。客户对供应商说，你给我留这么多产能，按这个价格卖给我。如果市场好、我需要货，我就买；如果市场不好、价格跌了，我就不买了，没有任何违约成本。但反过来，如果我需要货而你供不上，我会想尽一切办法从你手里榨出来。 Soderbery毫不客气地评价这种关系。双方之间没有任何信任可言。hyperscaler在这种博弈中处于绝对的强势地位，供应商只能被动接受。在这种环境下，存储厂商根本不敢做长期的资本投入，因为你不知道三年后客户是不是还会买你的货。而没有资本投入，产能就上不去；产能上不去，整个行业就在周期性的供需失衡中反复震荡。 但现在情况正在发生本质变化。SanDisk（从西部数据分拆出来的独立公司）刚刚宣布了5份"NBM"（新商业模式，本质上就是新一代的长期协议），核心条款包含总购买承诺约420亿美元，合同期限3到5年，其中约110亿美元是财务担保（financial guarantee）。 什么叫"财务担保"？简单来说就是违约金。如果客户签了合同说要买420亿的货，但到时候不买了，其中110亿是要真金白银赔出来的。这跟以前那种"我想买就买、不想买就不买"的单方面合同完全不同。 Newman做了一个数学测算来帮助理解这个合同的保护力度。110亿除以420亿大约是25%。也就是说，假设市场价格暴跌50%，客户理论上可以选择违约、交110亿罚金、然后按市场价重新采购。但这样做的话，客户的实际购买成本相比合同价只下降了约25%（因为罚金抵消了一部分降价收益）。换句话说，这份合同在市场剧烈波动时给供应商提供了一个相当厚的缓冲垫。 Soderbery还补充了一个实际操作层面的考量。即使客户违约了，它还是得继续买NAND，你不可能因为合同纠纷就不建数据中心了。所以违约更可能的结果是重新谈一个价格更低的新合同，把剩余的购买量延长到更多年。就像一个棒球运动员合同到期前想续约，他会接受一个年薪稍低但年限更长的新合同。对供应商来说，虽然价格降了，但锁定了更长期的业务。 这种双向LTA对整个行业的意义是深远的。有了客户的购买承诺和财务担保，NAND厂商第一次有了足够的信心去做长期资本规划。你知道未来3-5年有多少收入是"锁定"的，你就敢去投资建新产线、升级制程节点。这解决了存储行业长期以来最根本的结构性问题，资本投入的不确定性。 同样的趋势也在HDD领域发生，而且HDD甚至走在前面。HDD的长期协议模式更早成熟，已经包含了购买承诺。这进一步巩固了HDD寡头格局的稳定性。 对投资人来说，这意味着过去给存储公司估值时最大的折价因素，强烈的周期性，正在被系统性地削弱。如果三分之一的营收已经被合同锁定，这家公司的盈利可预测性就更接近一家软件公司而非传统的周期股。市场愿意给的估值倍数自然会上升。 QLC：大容量SSD背后的技术 前面提到AI数据中心需要128TB、256TB的超大容量SSD。能造出这种容量的盘，靠的是一种叫QLC的技术。 理解QLC需要从NAND闪存的基本原理说起。NAND的最小存储单元是一个微型晶体管（早期叫"浮栅晶体管"，现代3D NAND多用"电荷捕获"结构，但原理类似），你可以把它想象成一个微型水桶。数据以电荷的形式存储在这个桶里。根据桶里电荷量的不同，可以区分出不同的数据值。 最早的NAND（SLC，single-level cell）每个桶只区分两种状态，有电荷和没电荷，对应二进制的0和1，也就是每个单元存1 bit数据。后来发展出MLC（2 bit/cell，4种状态）、TLC（3 bit/cell，8种状态）。而QLC是4 bit/cell，需要在每个单元里区分16种不同的电荷水平。 16种电荷水平意味着每两种之间的差异非常微小。这对制造精度和读写电路的灵敏度提出了极高的要求，差一点点就会读错数据。所以QLC是一种"非常难"的技术。Soderbery说各家厂商的表现差异很大。他认为SanDisk和合资伙伴Kioxia做得比较好，三星遇到过一些困难，美光起步领先但也有波折。 QLC的好处是每个单元存的bit多了，同样面积的芯片能放下更多数据，这才能造出128TB甚至256TB的超大容量盘。但有一个容易被忽略的"水分"。当NAND厂商宣传自己的bit增长率是20-30%时，其中相当一部分来自QLC"每个单元多存一个bit"的数学效果，真正来自制程进步（比如把3D NAND从200层叠到300层）的增量要低得多。这意味着NAND行业的真实技术进步速度可能没有表面数字显示的那么快。 边缘计算：一个对NAND有利的变量 对话中有人问了一个很好的问题。如果AI计算从集中式的云数据中心向分布式的边缘（edge）转移，对HDD和NAND的格局会有什么影响？ Soderbery的回答非常明确。任何从云到边缘的迁移都对NAND有利。原因是边缘设备通常受到物理空间、功耗和散热的严格限制。你不可能在一个信号塔基站或者一辆自动驾驶汽车里塞进一堆HDD，太大、太重、太耗电、对震动太敏感。SSD在这些维度上全面碾压HDD。而且边缘应用往往更偏重性能（比如实时推理），这又是NAND的强项。 他甚至说，AI数据中心虽然是大容量SSD需求的主力，但这种SSD技术一旦成熟，会变成一种通用能力，惠及所有市场参与者。AI客户受益，传统企业客户同样受益。 HBF：一个值得关注的早期方向 对话的后半段讨论了一个比较前沿的概念，HBF（High Bandwidth Flash，高带宽闪存）。 理解HBF需要从HBM（High Bandwidth Memory，高带宽内存）说起。HBM是目前AI GPU旁边最核心的存储组件，本质上是把多颗DRAM芯片堆叠在一起，通过超宽的数据通道连接到GPU。HBM速度极快但容量有限且价格极高（DRAM比NAND贵得多）。 HBF的想法是用NAND芯片代替DRAM芯片，采用同样的堆叠和封装技术，造出一种容量更大、成本更低的高带宽存储。为什么这在AI场景下可能行得通？因为AI推理（inference）的工作模式有一个特殊之处。它主要是在"流式读取"大量模型参数，把一大堆数字（模型的权重系数）从存储里按顺序搬到GPU里，GPU处理完一批再搬下一批。这种访问模式不需要频繁的随机读写。 NAND的致命弱点正好是随机读写慢、延迟高。但如果你只是做流式顺序读取，NAND一旦"启动"起来，持续带宽其实相当快。Soderbery的比喻是，NAND就像一辆启动慢但跑起来很快的卡车，如果你的任务就是在高速公路上一车一车地运货（流式读取），卡车的慢启动并不是问题。 HBF把NAND的这个特性跟HBM的封装技术结合起来，理论上可以提供比HBM大得多的容量（因为NAND密度远高于DRAM）、低得多的成本，同时保持足够的带宽来满足AI推理的需求。如果真的成功了，它可能成为GPU旁边一个新的存储层级，甚至可以用来做KV Cache（一种在大语言模型推理过程中缓存中间结果的机制，目前主要用HBM实现，但HBM容量不够用是一个大痛点）。 NVIDIA的黄仁勋在今年CES上专门提到了Vera Rubin平台上用NAND做存储层的设想，被市场解读为NVIDIA给HBF这个方向做了背书。 不过Soderbery的判断是，HBF目前仍然处于非常早期的阶段，需要证明功耗、性能和可靠性。他说自己离开SanDisk已经一年多了，对HBF背后的市场力量没有深入研究。但他对NAND在AI pipeline中找到更多高性能应用持乐观态度。即使HBF本身不成功，相关的技术探索也有可能催生其他有价值的产品形态。 Pure Storage和VAST Data：两种不同的突围路径 对话中还讨论了两家在这场存储变革中表现突出的公司。 Pure Storage的做法很有意思。Soderbery说，其他所有存储厂商都沿用了HDD时代的硬盘外形规格（form factor），那种标准尺寸的方盒子，可以插进服务器的硬盘槽里。Pure Storage直接抛弃了这个传统，从零开始设计专门为NAND优化的平台和模块，他们叫它"直接闪存模块"（Direct Flash Module）。这样做的好处是不受传统外形尺寸的限制，可以在给定空间里装入更多NAND容量，同时优化散热和功耗。 更巧妙的是Pure Storage的商业模式。它跟hyperscaler的合作方式是，Pure负责出模块和软件，hyperscaler直接从NAND厂商（比如SanDisk/Kioxia、三星、美光）买NAND颗粒，然后自己组装。相当于hyperscaler把存储系统设计这种复杂的工程工作外包给了Pure，而NAND的采购权仍然留在自己手里。Soderbery认为这是一个很好的架构，Pure确实凭借这个模式在hyperscaler客户群里获得了相当的牵引力。 VAST Data走的是另一条路。Soderbery认为VAST最大的贡献是它是最早一批真正理解AI数据预处理workload本质的公司。VAST搭建了一套能够扩展到超大容量的分布式存储架构，在高容量SSD和AI系统之间加了一个高性能缓存层（他提到VAST用了老一代Intel的高性能存储介质来做这个缓存）。虽然做分布式存储阵列的创业公司有几百家，但VAST是其中执行力最强的之一。Soderbery说他不太清楚VAST是怎么从那么多竞争者中胜出的，但事实是它做到了。 NAND厂商什么时候才会大举投资扩产 这可能是整场对话中投资人最关心的问题之一。 Soderbery的回答可以总结为一个词，谨慎。 他解释了NAND厂商的心态。这些公司（三星、SK海力士、美光、Kioxia/SanDisk）在过去5到9年里经历了极其痛苦的低谷期，长期亏损或微利，反复被客户的单方面LTA摆布，在不确定的环境下做资本投入然后遭遇需求崩溃。这些伤疤不会因为最近几个季度价格暴涨就突然愈合。 从务实的角度看，NAND行业目前追求的是大约20-30%的年bit增长率。实现这个增长主要靠两条路。一是"代际迁移"，把产能从老节点转移到新节点，新节点的单位面积bit产出更高。二是QLC带来的数学效果，每个单元多存一个bit。这两条路都不需要大规模新建产线，只需要在现有厂房里替换设备。 真正的大规模capex（资本支出），比如新建工厂、大幅扩充晶圆产能，需要满足好几个前提。价格要持续维持在高位好几个季度，让厂商相信这回不是一次性脉冲。长期协议要真正落地执行，给厂商足够的需求可见性。设备要能买得到（主要是光刻和刻蚀设备，供应商的产能也有限，交货周期本身就有一年左右）。 Soderbery估算了时间线。从厂商下决心投资开始，设备到位大约需要一年，调试到量产状态还需要几个月，整个周期大约15个月。也就是说，即使今天所有NAND厂商同时决定全力扩产，新产能最早也要到2027年下半年才能释放。而实际上不可能所有人同时做这个决定。 NAND价格往哪里走 在对话的最后几分钟，Newman问了每个投资人都想知道的问题。NAND价格会跌吗？ Soderbery的判断是，短期内会有一些需求压缩来缓解价格压力。具体来说，消费端已经在做调整。手机厂商本来计划出1TB存储版本的手机，现在改成256GB了；PC厂商也在缩减SSD容量。这种消费端的"缩水"是对NAND高价的自然反应，会释放一部分产能给数据中心端。 中期来看，随着新产能逐步释放（主要是代际迁移带来的产出提升），价格会向正常的性价比曲线回归。但Soderbery明确说，他不认为会出现断崖式暴跌。他的判断是NAND价格正在进入一个"新常态"，基准水平会比过去几年高。除非AI整体出现泡沫式崩溃，这个基本走势不太会改变。 房间里没被提到的那个人：长江存储 Soderbery在整场对话中没有提到长江存储（YMTC），但任何关于NAND行业供给格局的讨论，都绕不开这家公司。 长江存储是中国唯一具备量产能力的3D NAND厂商，总部在武汉。2022年底被美国列入实体清单，无法采购美系先进制造设备（Lam Research、Applied Materials、KLA等）。外界一度认为这会严重限制它的技术迭代和产能扩张。但实际情况跟预期相反。 长江存储在被制裁后加速推进设备国产化，摩根士丹利估计其国产设备采用率已达45%，远高于国内其他晶圆厂。它的Xtacking架构已经迭代到3.0甚至4.0版本，出货的232层TLC芯片通过双层堆叠实现了294层等效密度，技术水平接近国际一线。更值得注意的是，三星已经与长江存储签署了混合键合（Hybrid Bonding）技术的专利授权协议，用于制造400层以上的下一代V10 NAND。SK海力士预计也会跟进签署类似协议。 产能端的扩张速度更加惊人。2026年一季度，长江存储的收入已超过200亿人民币，同比翻倍，全球NAND产出份额已突破10%，逼近全球第三。武汉三期工厂的建设也在提速，原定2027年量产的计划可能提前到2026年下半年。产业链消息称，在今年建成一座新厂的基础上，长江存储还将再建两座工厂，全部投产后总产能将翻一番以上，目标是到2026年底占据全球NAND供应量的15%。 这对前面Soderbery描述的整个行业逻辑构成了一个重要的变量。 Soderbery的核心论点之一是NAND厂商集体谨慎，不愿大举扩产，所以供给瓶颈会持续。但长江存储的行为模式完全不同。它不受传统NAND厂商的资本纪律约束，背后有国家级的产业政策支持和融资渠道（IPO也在筹备中，估值1600亿到3000亿人民币），扩产的决策逻辑跟三星、美光、SanDisk/Kioxia完全不在一个框架里。 当然，长江存储目前的产品结构以消费级和中国国内市场为主。AI数据中心要的那种128TB、256TB的最新节点QLC企业级SSD，长江存储短期内还不具备大规模供应能力。设备限制也确实会制约它在最先进制程上的追赶速度。 但它的产能增量对全球NAND市场的价格传导机制是实实在在的。即使长江存储的新增产能主要流向消费级市场，也会释放其他厂商（三星、美光等）在消费级上的产能，使它们可以把更多资源调配到企业级和AI存储方向。这种间接效应可能比直接竞争更快触达市场。分析师普遍认为，如果长江存储的月产能突破20万片晶圆（WSPM），就具备了影响全球NAND价格走势的能力。 对于Soderbery描述的那个"NAND供给持续紧张、价格维持高位"的预期来说，长江存储的扩产节奏是最大的不确定性之一。它可能让NAND价格的"新常态"来得比Soderbery预期的更早、水位更低。而如果NAND价格因此下降，前面讨论的那个TCO crossover（hyperscaler愿意从HDD切换到NAND的2-3倍门槛）就会重新变得可及，整个HDD vs NAND的竞争格局也可能随之松动。 这场对话告诉我们什么 回到最初的问题。在AI时代，数据中心存储的竞争中，HDD和NAND谁会赢？ Soderbery给出的答案是，两者都会赢，但赢的方式和赢的领域不同。 NAND赢在AI数据中心的核心存储需求上。大容量企业级SSD是AI基础设施的刚需组件，没有替代品。HBF等新方向可能进一步扩大NAND在AI架构中的角色。长期协议的双向化让NAND厂商的商业模式更加健康。 HDD赢在大容量低成本存储领域。20倍的价差让任何替代尝试都不经济。寡头格局和扩产摩擦力保护了HDD厂商的利润率。成本曲线的收敛速度比预期慢，意味着HDD还有很长的生命周期。 多数人没想到的是，AI的爆发反而在短期内巩固了HDD的地位，而非加速它的消亡。因为AI把NAND的产能和注意力全部吸走了，NAND厂商没有余力去做"替代HDD"这件事。而HDD厂商则趁机收紧供给、提升利润率，活得比以前更滋润。 这场看似简单的"HDD vs NAND"竞争，实际上是一个关于技术经济学、产业结构和资本配置的复杂故事。它提醒我们，在真实的产业世界里，技术上的优势不等于市场上的胜利。经济账、产能约束、行业结构和参与者的心理状态，共同决定了竞争的走向。

芯片只有AI火热，半导体的2024年基本延续了2023这个基调 只要蹭上AI相关的叙事，股价增长表现都是接近翻倍或者更高，毕竟这是确定性的增长机会，PE都会给的很有想象力 蹭AI失败典型就是高通，微软的recall功能跳票，导致AIPC/端侧LLM叙事直接破产,股价高点下跌不少，就算赢了跟ARM的官司也无济于事 微软跳票+苹果apple intelligence乏力+安卓碎片化，今年端侧AI/LLM只能这么评价：存在感基本为零 端侧LLM功能开发是heavy lifting，即便端侧算力完全达标了(手机端NPU算力去年已经75TOPs了，非常暴力，标准的桌面级，两年内到150Tops问题不大)，端侧LLM生态也还没有那么快，还需要SDE们的持续爆肝。我还是和一年前观点类似，看好26~27年才会有比较显著的进展和丰富一些的玩法 端侧AI目前唯一的热点就是智能眼镜，Meta的Rayban眼镜只是个原型，AI功能实用性基本可以忽略，也卖了两百万，整个智能眼镜市场全年接近四百万销量，风头超出了所有人的预期，PMF得到了验证 虽然目前的智能AI眼镜跟LLM半点关系都没有。24~25年主要的端侧AI部分就是眼球追踪和手势追踪，顶多加上OCR，毕竟眼镜只有那么一点点算力，功耗要求也过于严格(<1w)比手机低了一个数量级 下周的CES在端侧AI基本上就是AI眼镜主题秀，说百镜大战可能有点夸张，但差不多就是这个热度，是典型的Hype没错，但未来可期也是真的 -------------------------------------------- 另一个蹭AI失败的Micron，则是因为PC和手机端的DRAM需求比预期疲软，股价涨了一阵跌回原地。毕竟PC和手机端内存是大头，HBM的占比暂时还是太低了，难以撑起AI叙事，7倍的forward PE低的令人发指 AMD是个例外，蹭上了AI竟然还是跌的，2025的PE也低到竟然只有17。各家CSP都热衷于自研model->compiler->asic accelerator从上到下一整套解决方案提高performance，ASIC赛道的火热，让AMD和Nvidia在同一个赛道火拼，只能说CUDA积累的生态优势恐怖如斯 ------------------------------ 蹭AI姿势最成功的，莫过于给各家互联网云厂CSP们做ASIC AI加速器的Broadcom和Marvell，都是直接靠画饼就能翻倍，太可怕了(以及即将蹭上的MTK/AICHIP) 这大概是2024年最大的的芯片风口转型故事 其实帮互联网公司做ASIC AI加速器对于传统半导体厂商并不是特别有挑战性的事情，对IP的要求并不高，主要是做SoC的infra从前端到后端整个配套设施，核心core ML加速器+上层compiler都是互联网公司自己做。 只要服务态度好，客户支持到位，要求什么就给什么，价格合理，门槛并不是那么高。除了互联interconnect IP，基本上可替代性比较高 所以MTK这种云端NPU经验并不多的芯片厂，也能当Google TPU V7之一的供应商 大公司deploy自己的model时，现在都喜欢用自己的asic配套自己的compiler，自己做的asic明明在纸面功耗比上(TOPs per watt)比H100差了不少，甚至能到40%，要花大力气用自家的功耗比并不是那么好的asic，表面上来看并不合算，除了控制成本(和NV讨价还价)，为什么还要自己做？ 简单的说，各种深度学习model/workload的瓶颈都不一样，很难有通用的解法，卖家标称的纸面性能/功耗比，并不能代表实际日常的实际表现 公司即便是把H100拿过来用，不经调试直接跑自己的model，其实根本跑不到Nvidia标称的性能performance，差距非常明显 如果要跑出理想的performance，要去研究model怎么适配CUDA做优化，甚至需要改compiler里面的一些参数，所以即便是Nvidia，也会派人给大客户针对他们的workload去optimize/tune CUDA/compiler层 而如果大公司比如meta用自家的model/compiler和hw全套，特定的workload会比其他家的ASIC比如高通的AI100 性能要高数倍 因为自家的模型运算细节自己都了解，可以针对自己的model改compiler和芯片，model的size等各种参数达到最好的效果，从内存分配逻辑，kernel tuning，数据精度，tiling，流水线pipeline结构去从硬件的角度迎合上层model的优化，性能差距会非常大，这是一个上层应用决定硬件形状的时代 如果meta用高通的SDK+compiler+ASIC全套，没有办法针对自己的model去优化，只能用高通的东西去sweep各种参数，这里说的sweep意思是高通的SDK和编译器允许用户调整一些参数（例如线程块大小、内存分配策略、流水线深度等）来优化特定operator的性能。用户会尝试不同参数组合，以找到性能的sweet spot 而sweep参数获得的性能优化会比较有限 这就是为什么最后大公司比如meta的model运行在高通的asic上面的performance，反而会不如自己家看起来功耗比更差的全套compiler+ASIC ----------- 为啥CSP们要自己做芯片的同时又外包给传统半导体厂商呢？ 一块SoC里大部分IP，包括Cache/memory，CPU，DSP，high speed IO, boot以及低功耗控制，需要的人力是很多的，但只是提供了一个承载ML加速器运行的infra平台，对于互联网厂家来说没有任何自己做的必要，CSP们只会对直接影响ML加速器部分的内容感兴趣 芯片这个圈子太小了，而且前端后端各个角色之间隔行如隔山，挖人不容易，无法在短时间内招到一个磨合良好的团队稳定的迭代项目。Goole/Amazon/Microsoft/Meta这几家开出高出市场价很多的薪水四处挖角，silicon team也都只是几百人到一千人的规模。一般来说从零开始组建一个不错的大厂silicon design house成型，起码要十年时间 所以给成熟的芯片大厂外包做是一个很合理的选择 ------------- 那么CSP们会不会自己做了ASIC然后往外卖和Nvidia竞争呢？ 不会，因为这些ASIC组成立的目标KPI就是节约了多少成本，专门做这个生意风险和投入不成正比，芯片支持多个客户的成本是上升很多的，完全没有必要 这也是为什么这些ASIC组在制定架构指标时比较省心，直接对标Nvidia下一代的Tops以及带宽指标就行，同算力功耗多了50%也无所谓，靠后期compiler和针对性架构来弥补，反正只要能节省成本不被Nvidia压榨就行 ----------------------------- ASIC AI加速器故事即便在2025~2026年，其实也还是整个市场占比很小的小众市场，Nvidia仍然是这场LLM科技革命里毫无疑问的基建期唯一大boss 至于openAI/Anthropic能不能像2004年的Google/Facebook一样，成长为这一轮浪潮里的新巨头，那就拭目以待了 2025年的半导体，AI作为主旋律的日子，怕是还会持续。不过其他领域的复苏，比如汽车电子的增长，还是比2024要好看些的 2025除了AI主旋律外最大的看点，就是intel的18A制程量产效果能否如期落地，这可能是2025影响产业格局最大的事件了

while I agree that CPU is strong and that goodness been the cornerstone of a few of my pitches in $ARM and $AMD in the past, I think we are ahead of our skis: - CPU has not gunned price in the same way as memory, optics, etc because they can't. They are raising pricing LDD to make up for BOM cost inflation (memory, $TSM wafers) - right way to think about CPU demand is % of hyperscaler spend not "attach" to GPU for many reasons. it is still a "share" loser. In a bluesky case, I think hard to see hyperscaler CPU revs grow faster than the capex base in CY26 - $AMD and $INTC actually didn't smoke their datacenter numbers. $AMD would have beaten Street DC revs by under 1% in Q4 had it not been for MI308X which sort of sucks for the first leg of a "supercycle"

回顾2025年半导体市场，真的是有太多太多精彩的故事，最大的主题就是: AI需求驱动导致半导体基建的估值体系重构 + 产业链的价值分配重写 从2024年开始，半导体基建正在飞速吞噬整个IT产业利润，SP500里半导体净利润EPS在IT行业里占比，在两年时间从不到20%上升了到了40%，而且还在呈加速上升姿态 半导体整体前瞻利润率从2023年的25%已经升到了2025年11月的43%，已经明显超过了几个互联网巨头的平均利润率，这也印证了半导体利润率超过互联网会是新常态。整个IT产业的利润分配，流向半导体的比例越来越大。 要知道，就算是20~22年的半导体芯片荒，短缺如此严重，半导体的利润率和整个IT利润分配也没有显著增长 这就是故事的上半篇：AI需求驱动导致半导体基建的估值体系重构，不再是互联网时期的基建从属地位 ------------------------ 这个现象背后的逻辑是商业模式随着技术特性的变迁： 互联网时代，每次请求的网络和算力成本，边际成本极低，scaling的效果极好，分发的边际成本几乎为零 在AI时代，这个互联网时代分发边际成本几乎为零利于scalable的特性遭遇了根本性的重大挑战：且不说训练成本从此不是一次性开销而是年年增长，就客户的AI推理请求而言，由于inference scaling成为共识，加上垂直领域仍然需要更大规模的旗舰模型来保持竞争力，推理的成本不会随着硬件算力价格的通缩而同步降低 互联网企业从前的最大成本只有OPEX尤其是SDE人工成本，而现在，互联网公司历史上第一次像半导体厂foundry那样背上高折旧成本的资产负债表，商业模型恨不得要慢慢从“流量 × 转化率”部分转向“每 token 毛利”了 简单的说，互联网时代到AI时代的成本分布，在人力成本opex的基础上又加上了沉重的硬件/算力成本capex(财报里占比：MSFT 33%, Meta 38%)。 上个时代的互联网公司+CSP+SAAS是收租行业里的大赢家，而AI时代，算力(半导体/芯片折旧)成为了新的收租行业，整个IT行业的利润分布发生了剧烈的重新分配(EPS利润流向半导体从20%升到40%而且持续攀升中)，这就是半导体基建估值体系重构最重要的原因 --------------- 半导体高利润率的新常态趋势能持续多久？ 目前的高溢价来自于前期不计成本的军备竞赛造成的半导体订单积压过多 但很显然，hyperscalers都不愿意当冤大头，都在试图自建ASIC降低成本，那么可以从2030年远期的算力分布来回看这个问题 长线来看，openai已经明牌了标准答案，10GW Nvidia，10GW ASIC，6GW AMD，其他hyperscaler划分比例有类似考虑 比如说，推理端希望ASIC >50%，GPU里再细分的话，AMD和NV(legacy)对半分。训练还是得NV占大头，60%+,剩下的自研ASIC和AMD对半分 2030年按60%推理，40%训练比例划分，算下来NV 38%， ASIC 39%， AMD 23%，跟openAI比例是几乎完全一致的，算是一个标准答案参考值 当然了，微软，Amazon，Google，Anthropic这几家里AMD的比例会比这个标准答案中枢/参考值明显低一些，xAI则是没有ASIC只有Nvidia+少量AMD AMD的风险在于，当2030年再往后的更长期，CSP的in house ASIC越来越成熟(微软除外)，推理端ASIC占比可能越来越高，很难有incentive新买入大量GPU了，除非卖的足够便宜 最近风头正劲的TPU呢？Meta是不是要转向TPU？对Nvidia的利润率影响大吗？ 实际上，Meta今年capex72B，明年capex110B，未来六年capex平均值可能达到160B附近，而Meta 6年10B的TPU订单算下来年均只有1.6B，而且购买的是TPU云服务，并不是裸TPU 也就是说，Meta这笔TPU订单只占到Meta未来6年capex的1%，并没有严肃的考虑大规模部署，可能只是作为和Nvidia讨价还价的手段而已 另外从Meta最近几个月的招聘广告来看，也并没有看到任何TPU engineer方面的招聘，不像 Anthropic那样从五月就招一堆TPU kernel engineer，十月才宣布大规模采购TPU做训练 所以说，不管原因是diversify供货商，还是给自研ASIC延迟做退路，还是因为AMD的MI350X延迟，Meta买TPU基本上只有一个考虑：增加买Nvidia GPU的议价权，但顶多只有推理份额里能讨价还价，实际效果很有限，对Nvidia利润率影响也很有限。 要知道，22年加密货币熊市矿难的时候，NVDA库存上升到了198天，利润率只是从65%回撤到了56%，算上PE/宏观双杀股价才从300变100，现在一直供不应求，利润率没道理能降下来 再加上TPU v8设计过于保守(没用HBM4)，Kyber rack的Rubin方案会比TPU v8的TCO更好，到头来最后还是得继续依赖Nvidia，很难议价。只要Nvidia继续保持这样的大踏步前进，竞争对手其实要跟上还是不容易的。 总之，一方面，全产业链瓶颈，比如cowos扩张都很谨慎，供不应求的状态还能持续多年。 另一方面，AI变现的利润曲线和硬件投入曲线存在“时间错配”，应用端的增长曲线会落后几年，只要这个应用端和基建端的增长曲线的时间错位依旧存在，半导体在IT行业的利润分配就会一直占优势。 从OpenAI的到2030年的投入曲线来看，这个时间错位至少要持续到2030年附近。也就是说半导体行业的超级扩张期带来的在IT产业利润划分的主导地位，目前看至少能持续到2030年 而半导体高利润率可能会维持的更长远一些，因为从互联网时代一次性基建属性变成了现在的收租基建属性 --------------------------------------------------- AI 不是只养活了 GPU，而是在用算力预算把“能把电变成 token 的每一环”都抬了一轮，从内存，存储，互联，光纤，电力，储能…..等等 上半篇讲完了“半导体吞噬IT利润”，那么下半篇讲的就是“AI算力价值溢出效应（Spillover Effect）重塑半导体内部格局”：GPU算力增长 -> 内存/存储/互联/CPU瓶颈 -> 溢出效应 -> 结构性机会 2025 年更有趣的故事，是巨大的行业红利在半导体内部怎么诞生结构性新机会，比如说，一个super cluster需要几个数据中心互联，光纤互联的长度需要上百万mile这个级别，这就是新机会 半导体产业链的结构性趋势带来的新机会，最典型的例子就是内存(DRAM/HBM)和存储(SSD)，HBM的需求增长太夸张，连带挤压DDR4/5产能，直接让以周期性为标志的内存行业甚至喊出了“周期不存在”了，Hynix因为在HBM上领先，甚至都开始憧憬起了几年后年利润1000亿美元，妥妥一个万亿市值的公司 这两个板块背后，是结构性趋势的转变：AI workload从训练逐渐往推理延申，推理比例越来越大。 而推理是一个非常纯粹的吃内存带宽速度(memory bound)的事情，可以说带宽速度=token/s。模型尺寸越来越大，以及上下文context length的增加，对内存的尺寸要求也相应增大，导致了内存的需求激增：推理即内存 下一代的的GPU/ASIC内存已经成了暴力美学，配备的内存size之巨大，是三年前无法想象的，回看22年H100的80GB简直像个玩具，这才几年就增长了十倍： Nvidia Ultra Rubin - 1024GB HBM Qualcomm AI200 - 768GB LPDDR AMD MI400x - 432GB HBM 内存的另外一个潜在的爆发点在端侧，也就是手机/PC/汽车/机器人的端侧LLM，这两年主流的手机旗舰机已经从6GB升级到了8GB/12GB/16GB，提前为可能的端侧LLM生态做准备，毕竟手机算力下一代就能达到150TOPS量级，妥妥的桌面级，非常暴力 潜力上来说，端侧内存升级是比云端内存增量要更大的市场，毕竟端侧终端device的数量太惊人了，每年都是billion级别，一旦端侧LLM生态繁荣起来，内存用量翻倍轻而易举，针对端侧低功耗内存/存算一体的各种设计都会跟上 但端侧genAI的软件生态，似乎明显滞后，一直比我想象的进度要慢，可能是因为这方面还处于摸索期，并没有云端那么确定的ROI，厂商们在投入上都很谨慎，我在23~24年时候看好27年，可能还是太乐观了 互联网->移动互联网用了10~15年，端侧genAI/LLM可能也需要7~10年，可能得等云端ROI开发的差不多了，边际收益下降了，才能轮得到端侧genAI/LLM拿到开发资源，跑通端侧ROI。 -------------------------------------- 另一个2025年半导体内部结构性转变的故事是NAND存储，特别是企业级eSSD硬盘 结构性趋势来源也是同一个，AI workload的推理需求越来越大。内存红利也外溢到了SSD存储，甚至HDD存储，因为内存不够用就用高速SSD作为多级缓存 主要逻辑是AI推理过程中内存溢出KV cache offloading到下一层SSD存储，以及向量数据库检索/indexing，都在增加SSD存储的需求 Micron财报说的精准又直白：“AI inference use cases such as KV cache tiering and vector database search and indexing, are driving demand for performance storage.” 至于为什么存储价格在第四季度才爆发，这需要区分一下合约价格和现货价格，合约价格涨幅会温和一些，就算是最紧缺的企业级eSSD合约Q4上涨大概25%。而当NAND产能在2025年被合约慢慢的吃光，现货的价格就造成了观感上强烈的冲击，一个月上涨50%以上。 另一个未经验证的逻辑是多模态的爆发，特别是AI图片和AI视频的需求爆发，也会加剧存储的短缺，我觉得这条线只能说未来可期，但目前的视频/图片精细程度，可能还不到当年GPT3的水平，要达到出圈效果还需要一些时日。 ------------------------ 那么下一步还有什么趋势转移带来的半导体结构性的机会呢 那么就要先看下一步AI推理端的需求趋势是什么，毫无疑问，agentic flow的比例会越来越大，2025并不是year of agent，而是一个decade of agent 从CPU视角去看agentic workload，routing和工具处理都在CPU上，如果把常用的agentic框架做profiling，比如SWE-Agent, LangChain, Toolformer，CPU最长可以占到90%的E2E端到端延迟，throughput瓶颈也更多的卡在CPU，甚至CPU能耗也超过了总能耗的40% Agentic AI目前是一个CPU瓶颈更多的事情，在 agentic 框架里，CPU 是永远在忙的总指挥orchestrator, 很可能会成就CPU需求的新一波回暖 AMD 2025年Q2财报（8月5日），Lisa Su明确表述了这一现象：​"In particular, adoption of agentic AI is creating additional demand for general-purpose compute infrastructure, as customers quickly realize that each token generated by a GPU triggers multiple CPU-intensive tasks." "agent AI的采用正在对通用计算基础架构产生额外的需求，因为客户很快就意识到GPU产生的每个令牌都会触发多个CPU密集型任务。" ​Q3 财报里Lisa又明牌了一次CPU TAM increasing due to Gen AI. "Many customers are now planning substantially larger CPU build outs over the coming quarters to support increased demands from AI, serving as a powerful new catalyst for our server business." Nvidia也是把agent flow视为CPU需求，GB200/300 架构配置的CPU比例也比以往大的多，36颗 Grace CPU : 72颗 Blackwell GPU，直接达到了1：2的水平，AMD的路线则是用1~4个256核的EPYC去服务MI400系列72~128个GPU 以后的硬件架构，一定会往优化agent workload方向发展，比如agent task graph的调度和load balancing，CPU/GPU协同micro-batching 算力上的比较，说不定以后也会摆脱现在的纯GPU token rate比较，转向整个系统级全栈agentic benchmark比较. -------------------------- 半导体结构性转变带来的机会同时，下一步，可能也会带来一些意想不到的次生效应 云端AI数据中心需求爆发，造成内存和存储的暴涨，给消费电子的成本带来了很大压力，在2026年，这也许会演变成消费电子产业潜在的黑天鹅 PC厂商最近的股票大跌，也是这个原因。HP已经说了要减少内存配置，暗示要把PC重回8GB内存+256GB存储的时代了。 DRAM内存和存储再这么涨下去，可能会出现很离谱的情况：内存/存储现货价格比CPU和GPU还要更贵。尴尬的是，这可能直接延缓了消费电子期望的AI PC的进程，毕竟大内存是更有利AI PC的表现力的。 夸张的说，每个PC厂商和手机厂商的员工，甚至是消费电子厂商的员工，都应该买入存储和内存，作为职业风险对冲 明年年初开始，安卓阵营的内存以及存储成本要压不住了，三星，小米的手机售价都提高的话(美国市场现在已经提高不少了)，利好最大的就是苹果 苹果的内存产能，nand产能都是专属长约锁价特供的，顺带还把Kioxia给坑了好多不涨价产能，导致苹果的成本优势进一步扩大，苹果全球手机销量市占率增长可能会非常可观，接下来一阵子可能会是iphone辉煌的时光。 ----------------------- 2025年半导体市场真的是太多精彩的故事了，Nvidia/AMD/TPU和各家hyperscaler的恩怨情仇引得各路下注的吃瓜群众心情跌宕起伏。 HBM/内存厂商吃到了memory-bound的红利，NAND厂商意外收获了KV cache的溢出效应，CPU在沉寂近十年后，可能会因agent orchestration再次回到增长叙事的中心 不再是Nvidia/AVGO几家算力厂商独大，而是AI workload算力价值溢出后的每一次演进，从训练到推理，从文本到多模态，从单模型调用到agentic flow，都在重写产业链的价值分配。 云端AI的繁荣正在挤压消费电子的生存空间——当PC厂商被迫讨论重回8GB时代，苹果却因供应链优势坐收渔利。这场算力军备竞赛的次生效应，可能在2026年以意想不到的方式重塑整个消费电子格局 半导体的故事不再是一条单线，而是一张持续自我重构的网。而 2025 年，大概只是合纵连横的第一回合