关于算力和deekseep的逻辑关联，摘抄机械师的

全部回复(77)最新最早脆驾位 25-01-26 23:48二池老师，我是研究了好几个小时才跟你有一样的见解，向你学，提高认知淘股吧 · 回复30起势 25-01-26 23:48其实真正利好的是华为910C芯片。定制降本增效。淘股吧 · 回复4平常心1992 25-01-26 23:50现在去大概率接盘。淘股吧 · 回复ustc1z0 25-01-26 23:51感觉周末这样吹 影不影响铜缆我不知道 但是ds的票感觉要么买不进去 要么买进去就是大坑 看不懂淘股吧 · 回复3孤月似途 25-01-26 23:51第一？淘股吧 · 回复littleduck 25-01-26 23:51坚持淘股吧 · 回复pbdjf 25-01-26 23:52打赏DS只是优化了算法，可能在某方面表现很突出，但是对于视频之类更复杂东西，需要是更多算力！在视频制作方面，国内软件确实不如国外出来效果好！我们做了一年AI图片和视频！最好用还是国外几个！淘股吧 · 回复3鑫2鑫7 25-01-26 23:52一句话又弯道超车了淘股吧 · 回复2没买的都涨停 25-01-26 23:53那个小表格里的票好多都是瞎扯的。对于算力是不是利空这个不好说，但对于应用端肯定是利好，散户去确定的方向跟随就好了。淘股吧 · 回复4系统启动 25-01-26 23:53我觉着目前在ai没发展到位的情况下，就算是能更少的算力取得更大的成果，那也会是优化算法，争取在同样的投资下目标更进一步，而不是直接砍投资淘股吧 · 回复机械股人 25-01-26 23:53DeepSeek利空算力？其实具体逻辑，从12月deepseek v3到这周的r1，我们前前后后分析过很多次了，不妨总结梳理下1. 海外广泛引用的550万美金是v3，而不是r1的训练成本，且550万只是v3实际训练成本的零头。v3论文原话：上述成本仅包括DeepSeek-V3的正式训练，不包括与架构、算法、数据相关的前期研究、消融实验的成本。社群内一位算法工程师就曾说"v3用了幻方自己的r1模型生成数据，这个部分的反复尝试要不要算在成本里呢？"一个意思。2. 前沿探索和后发追赶，所需要的算力本就不是一个量级。表现为训练同一代模型所需算力每隔N个月就是指数级降低。原因包括算法本身的进步（FP8、混合MoE)、算力的持续通缩、复现方法如蒸馏等对数据的浓缩。最关键的是，探索就意味着会有浪费，而后发追赶"站在巨人肩膀上"本就可以规避浪费。就比如o1的训练成本肯定远超GPT-4，幻方r1的训练成本肯定也超过v3。而从o3到o4/o5，从r1到r2/r3，训练算力只会更多。3．单次训练降本了，不代表整体训练成本会下降。训练效率提高，实验室就减少投入吗？不会，真实逻辑是：基于更高效率，榨干算力，去攫取更大收益。就拿幻方来说，infra优化降本能力这么强、提前囤卡也挺多、没怎么扩张API服务专注于研究与训练的情况下，依然还在缺卡。横向对比之下，北美某些花了更多钱的实验室，的确显得很尴尬…但他们之后就降本增效吗？不会。消化吸收幻方开源的方法＋比幻方多得多的算力＝攫取智能的更大提升。训练算力最应该担心的是撞墙，算力使用效率提高，反而可能是提高了模型本身的天花板。4．幻方代表的是整个开源相对闭源的一次胜利。对社区的贡献会快速转化为整个开源社区的繁荣。如果真的说利空的Loser，那可能是闭源模型。中国这一点已经提前经历了，被Llama支配的恐惧，跑不过Llama3的中国闭源模型公司被迫倒闭、转应用、转开源。而今天中国开源打到了北美闭源…如果现在还不如r1（以及即将到来的r2 r3)，那这家公司的API价值基本归0。但说实话这个过程的确会让模型训练参与方快速缩减。5. 最关键的，以上讨论都是训练，而未来显然更大需求来自推理。有一点被大家忽略了，幻方对推理成本的消减，比训练来的更为震撼。今天大家都看到了AMD宣布支持幻方v3，用我们嘉宾Y博的话就是：DeepSeek架构的优雅之处就在于，和标准的transformer架构比较起来，并没有引入特殊的算子。理论上可以相对轻松支持各种类型卡…（这也是被GPU禁运逼出来的）大家体会下这句话的分量，以及对于CUDA的启示…幻方这帮人都是手撸算子的天才…推理成本降低，对算力是利好还是利空？比训练更好理解。请对比：刚推出来贵到没人用的o1,以及掀起API价格战之后的豆包。推理成本的降低大概率会带来应用的繁荣，反而会拉动更大的算力需求。这里再引用下星球Y博的评论，现在回头看非常前瞻：DeepSeek-V3将支持私有部署和自主微调，为下游应用提供远大于闭源模型时代的发展空间。未来一两年◇大概率将见证更丰富的推理芯片产品、更繁荣的LLM应用生态。6. 如何平衡北美仍在疯狂的基建，和过去浪费的投资？美国的确CSP仍在疯狂抢电◇都抢到030年去了。其实各大CSP过去2年千亿美金砸下去，没有一家单纯是为了训练，基本都是自身业务需求＋推理业务增长驱动。只有微软  为OpenAI准备的算力credit、AWS算力租赁给了下游客户用于训练、Meta/xAI部分算力用于自身训练，但算力大头都是因为自身的推荐系统业务／自动驾驶业务本身需求。以及微软已经相当于拒绝了Sam Altman继续All in的诉求，转而聚焦回报更确定的推理（Satya亲口这么说）。因此幻方这件事对北美CSP来说，客观来讲，过去某些训练投入的确是打水漂了。为冒险、探索新市场付出的必要成本。但看未来，开源的整体繁荣一定最终是利好这些"中间商"。之前我们阐述过，他们其实不是亲自冒险的矿工，他们只是铲子的搬运工，以及基于这些模型（无论开源or闭源）建立更具商业价值的应用生态。卡并不只是用于训练，越来越大比例会挪到推理。假如训练的高效让模型更快进步，应用生态更加繁荣，他们怎么可能不继续投呢？最后，继续引用下《the bitter lesson》：长远来看，算力才是真正的决胜因素。历史的经验一次又一次地告诫我们，AI研究者常常试图将人类的知识灌输到AI算法中，这种做法在短期内通常有效，并且带来个人成就感和虚荣心。但长远来看，它会造成瓶颈，甚至阻碍进一步发展。最终的突破性进展往往源于一种截然不同的思路，即通过搜索和学来扩展算力规模。而那些最终的成功往往伴随着苦涩，难以被下咽，因为算力的成功，意味着对我们以人类为中心的固有思维和虚荣心，是一记响亮的耳光。