下载
登录/ 注册
主页
论坛
视频
热股
可转债
下载
下载

本地模型部署需求爆发,AIPC换机加速

25-02-10 09:19 164次浏览
李晴
+关注
博主要求身份验证
登录用户ID:
会议要点

1、本地模型部署优势
性能与云端差异小:Deep Learning官方测评结果显示,GPT的32B蒸馏模型能力与满血版本175B模型测评数据差异在10%以内,这意味着大幅蒸馏后可在本地部署的模型,实际使用体验和效果与云端差别不大,利好端侧做相关部署。
构建个人知识库提升效率:通过本地部署可构建个人知识库,如将研究员、分析师的交流纪要、报告等资料文档喂入本地模型,它能整理海量知识库。当需要查找信息时,可通过问答形式调用或整理相关材料,显著提升工作效率,满足很多场景刚需。

2、本地模型部署对硬件的要求
轻薄办公本难以满足:市面上多数大几千或1万元左右的轻薄办公笔记本,主要使用英特尔 集成显卡,其显存和计算速度较低。而部署较高版本的32B模型,显存要求高,需英伟达 RTX4090高配显卡才能调用。
不同模型对显存的需求:电脑没有专用显存基本只能跑1.5B模型,效果不佳;跑7B、8B规模模型,4G显存可勉强跑Q4量化精度,Q8量化精度需8GB显存;使用32B模型,16G显存只能跑Q6量化精度,追求流畅性和高精度至少要24GB显存,流畅使用电脑至少需18GB显存。

3、AIPC发展现状与前景
前期换机动力不足:2023年底开始推出AIPC硬件产品,但2024年用户换机动力不充足,PC大盘仅增长1%。原因是前期产品内置预训练大模型能力有限,选择的开源模型不好用,搭建的知识库不够智能。
DCR One带来转机:DCR One推出后实现质的飞跃,其大模型思考和推理能力提升,蒸馏后的小模型在推理任务上接近大模型性能,且提供不同大小适用于不同场景的模型,如32B蒸馏模型在多个基准下准确率可达80% - 90%,与满血版本差距约10%,用户可构建更智能的本地知识库和问答助理。
出货量预测:Canalys数据预估2025年AIPC出货量有望达1亿台,占电脑大盘比例接近40%,商务本、游戏本等中高端用户是最先换机主力;到2028年出货量有望达2亿台左右,占比70%,2024 - 2028年出货量增速可达44%。

4、AIPC换机的推动因素
系统升级需求:2025年是Windows 10上市十周年,10月将暂停服务支持,市场上约63%用户仍在使用Windows 10,升级到Windows 11硬件门槛稍高,会促使更多用户考虑换机。
使用周期因素:2020 - 2021年因疫情居家办公需求暴增导致PC出货高峰,这部分用户使用周期已4 - 5年,在模型优化、可更好搭建知识库的吸引力下,未来2 - 3年内可能启动换机,且换机倾向于高配置电脑。

5、AIPC发展对产业链的影响
核心零部件需求提升:AIPC发展拉动终端厂商和上游零部件供应商,对大容量高速显存、高带宽内存需求增加,CPU、GPU升级带动IC改版、电脑主板PCB升级,未来主板会采用HDI等更高端工艺;高算力带来高功耗和电磁干扰,促使电脑散热材料、散热系统、电磁屏蔽材料升级,轻量化结构件如镁合金、碳纤维材料应用扩大。
推荐相关标的:核心零部件推荐春秋电子光大同创 。春秋电子以轻量化铝合金为主,PC敞口约90%的收入,随着PC中高端渗透,将拉动其铝镁合金出货;光大同创60%多收入来自PC,2024年碳纤维收入约2.3亿,因有日本份额渗透和ASP提升预期,2025年结构件出货增速预计超50%,受益于AIPC渗透。终端厂商方面,联想市占率持续提升,雷神科技 等游戏本核心厂商也将受益于行业趋势。

6、AIPC产业后续跟踪与展望
关注测评与新品发布:目前大部分人电脑只能装7B模型,后续预计会有较多测评出现,若测评效果好,板块可能正式走趋势。今年三月份前后英伟达下一代端侧推理芯片5090芯片将推出,对端侧推理效率优化明显,相关展会也会有较多新电脑发布,产业催化和进展将不断演绎。

看好相关受益标的:AIPC产业发展看好联想集团雷神科技 等品牌企业,以及光大同创、春秋电子等相关企业,这些标的在换机潮和更新换代过程中,品牌企业价值将充分凸显,相关企业也会受益于产业发展。
$光大同创(sz301387)$

声明:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
打开淘股吧APP
0
评论(0)
收藏
展开
热门 最新
提交