下载
登录/ 注册
主页
论坛
视频
热股
可转债
下载
下载

专用芯片破解当前算力困境

24-07-04 13:45 278次浏览
有三千里
+关注
博主要求身份验证
登录用户ID:
行情这么差我也来吹个票吧

近日Etched获1.2亿美元A轮融资,Etched的主要产品是名为Sohu的AI推理加速芯片,这款芯片在硬件层面集成了Transformer架构,推理速度比英伟达 的H100快20倍

etched的CEO Uberti表示:“在运行文本、图像和视频等基于Transformer的模型时,Sohu的速度和成本比英伟达下一代Blackwell GB200 GPU速度快一个数量级,成本低一个数量级。”
经过etched的内部实测,一台拥有8个Sohu芯片的服务器每秒可以处理超过500,000个Llama 70B tokens,算力相当于160个H100 GPU。
这种专用芯片的技术方案和前两年的”矿机”很像,针对专用算法进行针对性的芯片设计,解决了目前的AI算力困境

所以国内之前做过“矿机”的厂商可以完全可以借此切入到AI算力芯片这个市场

推荐专用芯片概念

深科技
$卓翼科技(sz002369)$
打开淘股吧APP
0
评论(0)
收藏
展开
热门 最新
提交