SemiAnalysis 创始人Dylan Patel预测：到2030年，仅OpenAI和Anthropic两家公司，用于AI推理的计算需求可能超过100GW。 叠加Meta、Google等大型AI公司后，推理计算规模将进一步扩大，到2040年AI推理基础设施可能进入太瓦（TW）级别。 与训练阶段主要依赖GPU算力不同，推理阶段尤其是Decode过程更依赖内存带宽和容量，GPU需要不断从内存读取数据，HBM因此成为释放AI算力的重要环节。 目前HBM产业正在快速扩张：HBM4已进入高量出货阶段，HBM4 12-high爬坡速度约为HBM3E 12-high的2倍，HBM4收入已超过10亿美元。 同时AI服务器扩张正在推动数据中心DRAM、NAND需求增长，2026年行业数据中心DRAM/NAND bit出货量预计较两年前翻倍以上。(BitalkNews)