下载
登录/ 注册
主页
论坛
视频
热股
可转债
下载
下载

国内AI大模型的训练和推理阶段算力需求测算

23-04-01 23:58 981次浏览
非洲小黑脸
+关注
博主要求身份验证
登录用户ID:
核心观点:

AI模型训练算力测算:AI大模型有望成为各科技厂商竞争的关键领域,各科技厂商因为AI模型开发量的增加有望扩大对于AI加速卡和服务器的采购。慧博投研资讯经测算,国内由于AI大模型训练而新增的AI加速卡需求空间为4.3万个,新增的AI服务器的需求空间为5325个。(慧博投研资讯)
AI模型推理算力测算:随着AI内容生成、人机对话等应用的快速渗透,各科技厂商为支持AI大模型的应用,存在扩大采购AI硬件的需求。我们分两种情境对AI推理算力需求进行测算:1.若其定位为企业内部使用,则国内由于AI大模型推理而新增的AI加速卡需求空间为4.3万个,新增的AI服务器需求空间为5425台。2.若其定位为面向个人用户开放使用,则国内由于AI大模型推理而新增的AI加速卡需求空间为8.7万个-26万个,新增的AI服务器需求空间为1.1万台-3.3万台。
AI大模型技术快速迭代,算法优化有望降低模型消耗算力成本。在AI算力需求测算中,考虑到软件优化带来的降本提效因素,实际硬件需求和算力成本可能较此前测算的数值较低一些。
据IDC披露数据:19-21年及22H1国内AI服务器市场规模分别约23/33/56/30亿美元,同比增速分别约为58%/42%/69%/36%。22年国内服务器整体市场规模为273.4亿美元,同比增长9%;格局方面,浪潮信息 与新华三仍占据龙一、龙二的位置,但浪潮信息市占率同比有所下降,同时超聚变、宁畅等新兴厂商份额提升较明显。
根据上述测算,国内AI大模型在训练与推理阶段或将产生相当于1.1万台或3.8万台(乐观假设下)高端AI服务器的算力需求,以单片A100售价10万元人民币、单台AI服务器搭载8个AI加速卡、AI加速卡价值量占服务器整机约70%计算,则对应约126亿元或434亿元增量AI服务器市场规模,分别相当于21年国内AI服务器市场规模的0.35倍和1.22倍,同时相当于22年国内整体服务器市场规模的7%和23%。大模型商业前景已进入收费探索初期且平台间竞争态势开始加速,而过去一年多已经历过资本开支相对谨慎期,我们预计前述AI服务器的增量需求或将在1-3年内逐步落地。
投资建议:建议继续关注稀缺自主AI算力平台标的寒武纪 与拥有完整ICT产品布局的紫光股份 。建议关注海光信息 (和电子组联合覆盖)、浪潮信息、中科曙光$寒武纪-U(sh688256)$
打开淘股吧APP
0
评论(0)
收藏
展开
热门 最新
提交