下载
登录/ 注册
主页
论坛
视频
热股
可转债
下载
下载

OpenAI塌房!Scaling law原作曝bug 万亿算力白烧?Gemini的看法

26-07-06 00:49 72次浏览
JamesUU
+关注
博主要求身份验证
登录用户ID:
原文 《https://info.51.ca/articles/1556993?from=51hp》(https://info.51.ca/articles/1556993?from=51hp)

这篇文章的核心内容围绕着AI领域最核心的“缩放定律”(Scaling Law)展开。简单来说,它爆料称 AI 行业过去几年赖以生存的底层算力公式,从一开始就带有致命 Bug,导致全球科技巨头在模型开发上白白浪费了巨额资金和算力。

以下是这篇文章的详细拆解,以及它对 AI 类股票未来走势的长远影响:

一、 这篇文章到底在讲什么?在 AI 大模型(如 GPT 系列)的研发中,有一个奉为圭臬的“第一性原理”叫 Scaling Law(缩放定律):只要投入更多的算力、把模型参数做大、喂更多的数据,AI 的能力就会呈线性爆发。
但文章指出,OpenAI 在 2020 年发表的原始 Scaling Law 论文里有一个低级却致命的 Bug:

1、“虚胖”的谎言: 原始公式误导了整个行业,让大家以为“扩大参数量”远比“喂更多数据”更重要。于是前几年全球巨头拼命堆参数(比如做出 1750 亿参数的 GPT-3),陷入了“大力出奇迹”的怪圈。

2、论文里的 Bug 细节: 前 OpenAI 研究员爆料,当时因为设置了余弦学率衰减(Cosine Decay),在数据量还没喂够时,人为地让模型停止了进步。这造成了一种假象——“数据喂再多也没用了,只能把模型做大”。
3、行业认知的颠覆: 后来 DeepMind 的 Chinchilla 模型才纠正了这个错误,指出模型和数据应该同等重要。同样一笔钱,前几年大家训出的是一堆“体量过大、训练不足、空有骨架”的虚胖模型(浪费了海量 GPU 算力),而本可以用更小的模型、更多的数据达到同样甚至更好的效果。

4、英语的局限性: 文章还提到,现有的 Scaling Law 实际上是“英语 Scaling Law”,英语结构稀疏,极其消耗算力,而法语、中文等结构严密的语言在算力利用率上其实更高。

二、 这对 AI 类股票走势有什么影响?
这一认知的颠覆,对于科技股、半导体股以及整个 AI 概念板块,会带来结构性的重新洗牌:

1. 对硬件巨头(如英伟达 Nvidia、AMD):短期有情绪承压,中长期需求转型

短期冲击: 过去几年英伟达(NVIDIA)等公司的股价暴涨,很大程度上建立在科技巨头盲目“堆砌算力、非理性扩建集群”的基础上。如果行业达成共识,发现通过“优化算法、精简参数、多喂优质数据”可以用更少、更小的 GPU 集群办成一样的事,那么市场对顶级显卡(如 H100, Blackwell)的盲目恐慌性扫货可能会降温,引发硬件板块的估值回调。

中长期转型: 算力需求不会消失,但会从“纯粹的暴力堆叠”转向“追求更高的算力效率”。

2. 对模型与应用层企业(如微软、谷歌 、Meta、亚马逊):利好“降本增效

”降低研发成本: 过去训一个大模型动辄几亿甚至几十亿美元。如果不需要把参数堆得无限大,而是转向“精瘦型大模型(小参数 + 海量高质量数据)”,意味着这些科技巨头(Hyperscalers)的 资本开支(CapEx)压力会减轻。

加速商业化落地: 模型变小、变精悍,意味着它们在云端运行或部署到手机、电脑终端(Edge AI)时的推理成本(Inference Cost)大幅下降。这对微软(MSFT)、谷歌(GOOGL)、Meta 等公司的 AI 业务盈利能力(Margins)是长期利好。

3. 催生新的 AI 细分赛道(数据资产与语料库概念股):迎来暴涨

“数据”的地位超越“算力”: 既然堆参数边际效应递减,喂养高质量、多语言的数据成了胜负手。

那么,拥有独特数据源、版权语料库的公司,其价值将被严重低估。例如 Reddit(RDDT)、新闻出版集团、专业学术数据库、甚至多语言翻译数据处理商,其股票可能成为资本市场的新宠。

总结:

这篇文章并不是说“AI 药丸”或者“AGI 走不通”,而是宣告了“盲目堆硬件、盲目大干快上参数量”的蛮荒时代正在终结。

对于股票市场而言,它预示着 AI 投资将进入第二阶段(泡沫去中心化与理性落地):市场会从对“卖铲人(英伟达等硬件商)”的单一崇拜,逐渐分流到能把 AI 成本打下来、拥有核心优质数据、以及能真正实现 AI 盈利的软件和应用层企业身上。
打开淘股吧APP
0
评论(0)
收藏
展开
热门 最新
提交