尽管DeepSeek一体机咨询需求火爆,但实际下单的周期较长。多名服务器厂商向《科创板日报》记者表示,关于DeepSeek一体机的咨询很多,但基本都处于调研阶段,而直接下单的客户大多是此前已定好相关预算,选择把原先定好的大模型订单换成了DeepSeek。
“客户处于测试阶段的比较多,直接下订单愿意买一台来试试的客户,通常是手里本来就有预算。这对于老牌大模型公司,其实冲击蛮大。原先可能计划采购闭源大模型,现在开源的DeepSeek一来,就把预算换成了部署开源模型。” 一名厂商人员表示。
李天朋指出,DeepSeek 一体机成单量比例相较于成熟云服务产品较低。“虽然客户的需求意愿非常强烈,但一体机产品一般需要在客户现场实际测试评估效果后才能够签单,目前因为资源较为紧缺的问题,上百家用户正在进行测试排期,导致暂时成单相较于云服务产品较低。”
“很多用户需要深度思考 DeepSeek 与自身业务场景之间的结合,在与一体机厂商咨询后,需要对自身的业务、采购成本、接入方式等进行多方面的评估,DeepSeek 本身接入的方式也非常多样,部分客户会转向API或者云上资源交付的方式。用户咨询时主要关注 DeepSeek 在自身应用场景中的落地情况,希望厂商结合经验给出建议,市场上一体机产品硬件配置高度同质化,性能差异不大,用户更关注场景应用、增值功能及后续服务。” 李天朋进一步解释道。
谈及一体机的落地,罗忆给出的建议是,“以云服务的方式,先通过模拟数据的方式做验证和测试。然后比较确定这个业务是可以闭环的,能够嵌入到业务流,然后再选择合适的计算架构,把智算融入到企业和政府的 IT 架构里。而一体机,则是在成本可接受情况之下的一种尝鲜。”
目前,满血版 DeepSeek 一体机采购成本在百万元以上,投入不小。但从业务真正落地的角度考虑,多数从业者都建议用户直接部署满血版。“32B的大模型用
英伟达 的4090芯片就能跑起来。采用32B和70B模型的客户,大多数用于测试和微调,真正业务要落地的还是采用满血版。” 一名服务器销售人员说。
罗忆也建议用满血版模型来进行业务探索。“并不是说这些小尺寸的模型没有用,但当探索一个新业务的时候,肯定要用最强的模型把整个业务跑通闭环,之后再考虑在不同的业务环节用低成本的模型来填补。”