寻找下一个算力时代的CPO!HBM深度路演20231117 1. HBM行业介绍
(1) HBM的重要性 HBM在H100芯片中的价值占比超过了
台积电 的一个价值量占比。根据简单测算,H100的裸片 成本约为200美金,加上封装成本约为700~800美金,即台积电在一片H100的供应中,物料成 本约为1000美金左右。HBM成为了成本中最大的一项。
摩尔定律的瓶颈决定了GPU自身的迭代已无法跟上算力需求的增长,
英伟达 选择的最优方案是通 过存力弥补,包括相对落后的国产算力大概率也会效仿,HBM在接下来很长一段时间里会是Al 硬件中增速最高的细分。
(2) HBM的性能提升 HBM通过封装形式与GPU直接相连,在总线位宽、时钟速率、带宽、工作电压等性能参数方面 具有明显优势。相同功耗下的带宽是DDR5的三倍以上,因此在追求极致带宽和速度方面,需要 采用HBM和相关的工艺路线和配套封装材料。
(3) HBM的供应链情况 HBM仍然供不应求,尽管三星和海力士已经扩大产能,但中国大陆地区的HBM供应仍然很紧 张。因此,预计明年HBM供应链稳定和货源拿到手的情况,可能成为各家AI芯片厂商或板卡厂 商的竞争优势。
2. HBM的市场前景
(1) 市场规模预测 基于AI服务器的销售预期,可以估算出HBM市场的规模。根据每GB售价20美元进行测算,预计 到2022年,整个HBM市场规模约为3636亿美元,到2026年将达到127亿美元以上。
(2) ASP下降空间
云计算巨头逐步投放产能可能导致市场平均销售价格(ASP)下降。
(3) 海力士的出货量预测
海力士官方预计,到2026年前后的出货量将达到1亿颗左右。
(4) 市场格局 目前,据第三方数据披露,海力士占据50%的市场份额,三星占40%,美方占10%。但从ASP量 价相乘的角度、营收端的角度来看,今年海地市的一个占比应该还是超过65%的,明后年的整个份额的一个变化,取决于三星和美光的扩产追赶的进度。
3. HBM的工艺流程介绍
HBM的工艺流程包括TSV形成、绝缘层全气绝缘、阻挡层种子层沉积、电镀填充、CMP抛光等 步骤。各个步骤涉及到的设备供应商包括海外,以及国内的
北方华创 、中微、
华特气体 、拓荆科 技、
天承科技 、
上海新阳 等。
4. 其他补充内容
根据拆分成本,可以看到在逻辑芯片和4层存储堆叠的HBM中,前段工艺和后段工艺分别占据 20%的成本比例,而TSV的工艺成本占比为18%,TSV的背面露头的工艺成本占比为12%。整个 组装的成本占比约为15%左右。
Q&A
Q:HBM技术在市场上的份额占比如何变化?
是否受三星和美光的扩产进度影响? A:今年海力士HBM技术的市场份额超过65%,今后的变化取决于三星和美光的扩产进度。
Q:HBM的工艺流程中使用的关键设备和材料有哪些公司供应?
A:在HBM的工艺流程中,涉及到的设备和材料供应商包括海外公司如硬材、泛林、百业、空默 克以及国内公司如北方华创、中微、华特气体等。
Q:HBM封装的成本拆分中,前段工艺、后段工艺和TSV形成的占比如何?
A:在封装成本的拆分中,前段工艺和后段工艺分别占20%的成本,TSV形成的占18%的成本, TSV背面露头的工艺占12%的成本。
Q:先进封装电镀材料行业的市场规模如何预测?HBM技术是否会增加测试机需求?
A:预计由于先进封装结构中重布线TSV和铜铸的用量增加,先进封装电镀材料的市场规模将在 2026年超过12亿美元。另外,HBM相对于
DRAM还有更多的测试需求,包括TSV散热和底部贝 斯带的逻辑型片的测试,这推动了对测试机的需求增加。
Q:目前在HBM工艺方面,哪些供应商在这个领域处于领先地位?他们的技术优势和市场份额 如何? A:目前在HBM工艺方面,海力士是处于领先地位的厂商。海力士的研发起步较早,尤其在技术 热撬取和材料方面有领先优势。海力士采用了一种新技术,用液态环氧树脂塑封材料替代传统的 非导电膜,提高了热导率,改善了工艺速度和良率。因此,海力士在HBM工艺市场上仍然保持 着第一的市场份额。三星也宣布了进一步投资做HBM3产线,其优势在于代工业务和2.5D/3D封装方面。而美光相对来说还处于追赶阶段。综上所述,对于投资者来说,应该关注HBM核心设 备材料的供应商,以及一些潜在的供应商。
Q:目前有哪些供应链环节和供应商与HBM工艺相关?可以具体提供一些公司的名字吗?A:在HBM工艺中,与之相关的供应链环节和供应商包括:前驱体供应商
雅克科技 、做固精机的 设备供应商
长川科技 、测试环节供应商
新益昌 、电镀液材料供应商天承科技、塑封料供应商华海 成科以及封装环节供应商
深科技 。此外,海力士服务器存储中国区的总代理向东新创也与HBM 工艺相关。这些供应商涵盖了HBM工艺的各个环节,对投资决策有一定参考价值。
解读一
逻辑1:存储HBM新技术龙头
因为HBM的高性能,2023年以来,海外三星、SK海力士等对HBM的接单量大增,同时ChatGPT的火 爆,也带动HBM价格也水涨船高。有市场人士透露,近期HBM3规格DRAM价格上涨了5倍。 深科技具备8层和16层DRAM堆叠工艺。2020年,大基金二期、合肥地方政府、深科技三方共同 投资成立合肥沛顿,项目总投资是100亿元,是国内唯一可以进行高端内存封装的公司,主要为 国内自主存储半导体龙头提供封装和测试业务,也能生产HBM内存。 逻辑2:深度绑定合肥 这里说到合肥地方政府,就不得不说到国内
存储芯片领域的扛把子公司合肥了,合肥是国产 DRAM的龙头企业,目前没有上市,如果上市,那么它的体量将会是千亿市值的公司。深科技与合肥 成立有合资公司,深度绑定合肥,根据相关数据,合肥有60%的封测业务都是由深科技 承担的。
逻辑3:光模块黑马 光模块被类比为逆变器赛道,光伏逆变器,走出了很多的黑马,光模块目前也是出现了很多走势不错 的公司。深科技持有昂纳科技17.78的股权 昂纳科技有100G/200G/400G/800G光模块,在光芯片、硅光、光学镀膜及光电封装多个高科技领域 的龙头公司。
解读二
H200证明HBM比台积电更重要;某外资行上调英伟达收入预测
先聊一下英伟达H200: H200充分证明了,就算不添加更多
CUDA核或超频,只增加更多的HBM和更快的IO,即便保持 现有Hopper架构不变,英伟达依然可以实现相当于架构代际升级的性能提升。这么简单为什么 不直接做?HBM太贵了,贵到超过了GPU本身的die cost(只算代工BOM),提升HBM就意味 着牺牲毛利,把毛利出让给海力士。作为AMD或者Intel毛利率40%的选手double HBM比割肉 还疼,但作为只看晶圆成本毛利率几乎90%的英伟达,面对一个严重供不应求的市场,且具有提 价pass through能力(不是可能,是一定会),提升HBM是顺理成章。尤其是AMD将在12月6日发布“Antares”系列GPU,以及Instinct M
I300 X的192GB HBM3,以及对标Grace Hopper 的MI300A拥有128GB HBM3(这些都超过了H100的HBM量),英伟达这次的突然发布有点像 对此的回应。 从另一个角度,不得不令人怀疑,之前鼓吹算力、核数,多少有营销的成分,之前如此高的算力 实际上都没有被充分利用,因为可怜的显存数量和IO带宽是瘸掉的两条腿,你上臂摆得再快,也 跑不动啊!如果你再想想英伟达依旧巨高的毛利率,以及2-3万美金的价格,可以买多少HBM? 大概大几百GB?。没办法,说白了这是英伟达有“能力”选择留给自己的利润。谁让你离不了 CUDA呢?你不配拥有这么多HBM!从这个角度,巨头定制ASIC真的有非常非常强的动力,不 仅仅是节省cost了,我可以获得更强大的内存和IO,以及(如果软件适配和通用性解决的话)更 强大的性能。当然,后者可能比较难实现... 从这个角度,HBM甚至比台积电的制程更重要,耗费巨额资金研发调试跑通扩产出来的3nm以 及未来的GAA,对GPU的提升又是老掉牙的20%30%,这种速度哪跟得上AI的速度?而HBM只 要成本实现快速降低、更紧密的堆叠、更快的IO,对GPU性能的推动却是几何数级别的。想到这 里我自己都觉得好有趣啊,往往你觉得最难的事情反而价值不是最大!而你最不起眼的事情,可 能惊奇地发现是关键。 再回到英伟达昨天一起发的这张图,H200相比H100的性能提升,真就与HBM的提升 (volume+speed)比例几乎一致。此外短短3年推理的性能提升了18倍非常惊人。最后,可以 预测下B100的spec了,会不会是256甚至512GB的HBM+10TB/s的带宽,而与之对应的价格 (合理假设英伟达决定保持毛利率不变)可能要到6-9万美金。