这个板块的新预期解读!研报直通车 2023-11-09 21:33一、芯片NV新品解读近期H20 L20相关信息在传播,目前H20的设计思路是阉割单卡算力,导致集群算力规模较低,算力阉割至1/6,难以胜任GPT-4等训练任务,但是在大模型推理场景下有一定适用度。
华为昇腾算力将全面取代
英伟达!最利好华为算力产业链!现在英伟达算力占据99%,未来华为算力占50%以上,英伟达中国将迎来华为昇腾ai平替,以华为平替ERP和EDA的实力,英伟达cuda将是下一个突破!
二、英伟达改良版H100或将上线,继续看好
算力租赁事件:《科创板日报》9日讯,记者从产业链人士处了解到,英伟达现已开发出针对中国区的最新改良版系列芯片:HGX H20、L20 PCle和L2 PCle。知情人士称,最新三款芯片是由H100改良而来,英伟达最快或将于本月16号之后公布,国内厂商最快将在这几天拿到产品。记者向英伟达求证了该消息的真实性,但截至发稿,英伟达方面暂无回应。
观点:我们认为对算力租赁公司来说,竞争格局继续处于禁令生效后的优化期,相对于极度稀缺的A&H 800/100需求,少数企业转向H20带来的影响可以忽略不计,继续看好。
改良版芯片可能暂时是英伟达内部的规划,不知是否通过美国政府批准,尚存不确定性。
算力租赁:改良版芯片性能大幅下降,性价比极低。如果采用,则大模型训练周期会被拉长,且成本将大幅上升。对绝大多数企业来说,短期通过第三方算力租赁公司获取A&H 100/800算力资源以谋求更低的成本和更快的训练周期才是更明智的选择。
国产算力:改良版芯片对于国内有严格合规需求的少数企业来说,可能是暂时、勉强采纳的替代方案,但这类企业正是当前和华为昇腾等国产算力生态的合作方。
1、短期来看,昇腾等国产芯片还处于导入期,供给相对不足,少数企业或将选择改良版。但即使该类企业出于合规考虑采购H20作为替代方案,长期也将不得不继续扶持国产算力生态以保证长期的发展空间和确定性。
2、对于该类企业来说,为平衡合规和成本,甚至可能会短期采取租赁的方式获取第三方算力资源间和确定性。
2、对于该类企业来说,为平衡合规和成本,甚至可能会短期采取租赁的方式获取第三方算力资源。
三、NV新卡H20初步解读
1、算力水平:约等于50%的A100(百分比仅定性 非定量)
单卡运算能力0.15P左右(FP16)、0.3P(int8)
+900G的nvlink
+6颗HBM3
2、能力水平:L40S、RTX4090、A100的中间体
计算能力更弱
访存能力更强
集群能力一如既往优秀 万卡水平
NV生态完善
3、适用场景:大模型的微调、百亿参数模型的训练、大规模推理
大模型训练对组网要求很高,增加服务商壁垒。集群规模有上限,万P意味着十万颗级别GPU,组网难度可能极大。
4、成本:较贵,用了6颗HBM(H100用了6颗)对应96GB HBM3,HBM或可占到单卡成本的一半以上,所以售价和H100/800可能处于同一水平。
#以上信息均为估算,具体以后期到卡适配测试效果为准。
产业中前期已有新版NV卡传闻,这也符合产业逻辑。但对NV H系列的需求仍未减弱,价格暂未体现。国产算力也同样势在必行,各家都在积极适配。新卡的推出也可在部分场景缓解供需压力。