下载
登录
/
注册
主页
论坛
视频
热股
可转债
打开
下载
打开
下载
下载
验证信息
获取验证码
一键领取
打开app查看
打开app查看
英伟达之国产版映射!目前的云天励飞等于2023年初的寒武纪!AI芯片大模型+具身
24-02-23 21:02
1057次浏览
外星人来炒股
+关注
博主要求身份验证
登录用户ID:
英伟达
之国产版映射!2024年初的
云天励飞
等于2023年初期的寒武纪!AI芯片天书大模型+具身
机器人
+海量视频!
英伟达之国产版映射!2024年初的云天励飞等于2023年初期的寒武纪!AI芯片天书大模型+具身机器人+海量视频!云天励飞创造性的提出了“算法芯片化”的唯一全栈式AI技术公司,系业内少数基于对
人工智能
算法技术特点的深度分解及对行业场景计算需求的深刻理解,通过自定义指令集、处理器架构及工具链的协同设计,自主研发芯片并已实现流片、量产及市场化销售的公司之一!对标寒武纪给予500亿目标估值!
2023年11月,云天励飞重磅发布新一代自主可控的面向边缘人工智能(AI)推理芯片DeepEdge10系列,最高算力可达48
TOPS
,支持D2D/C2C Mash互联扩展,可以满足千亿参数的大模型部署需求。大模型时代,AI推理芯片将是应用落地的关键载体。随着以ChatGPT为代表的AI大模型应用的持续火爆,推动了AI全面进入了大模型时代,而且随着边缘算力的提升,AI大模型的部署也开始由云端进入到边了缘端。目前很多AI大模型仍处于快速发展的阶段,因此,对于AI训练芯片的需求仍在快速增长,但是当大模型训练完成,开始进入到了实际应用之后,对于AI推理的需求将会更多。根据IDC的数据显示,2020年中国
数据中心
用于人工智能推理的芯片的市场份额已经超过50%,预计到2025年,用于人工智能推理工作负载的芯片将达到60.8%。同样,对于边缘AI应用来说,更需要的也将是AI推理芯片。但是,
边缘计算
的场景存在着算力碎片化、算法长尾化、产品非标化、规模碎片化的特征,传统的算法开发和芯片都难以适应新一代人工智能边缘计算场景的产品化需求。而大模型的出现,开始为行业提供了算法层面的解决之道。但大模型在边缘计算场景要面向实战发挥作用,则需要AI大模型推理芯片的支持。云天励飞表示:“从2015年开始,研发到今天的第三代的神经网络处理器,可以全兼容基于Transformer的计算范式。而Transformer是语言、视觉大模型的计算范式,云天励飞2020年开始研究,到2021年就实现了全面兼容。今天发布的DeepEdge10系列芯片,正是基于最新的Transformer计算范式。”芯片需要具备更大的算力、更大的内存带宽、更大的内存容量,才能支持巨量参数的大模型在边缘端运行。同时,AI边缘推理芯片还承担了“落地应用最后一公里”的职责,这就意味着AI边缘推理芯片不仅要支持大模型等AI计算任务,还需要具备较强的通用算力。针对上述场景需求,云天励飞也将DeepEdge10打造成为了一款面向边缘AI大模型优化的主控级SoC芯片!
云天励飞DeepEdge10是国内首创的14nm Chiplet架构的面向大模型AI推理的主控级SoC芯片。具体来说,
DeepEdge10集成了2大核+8小核的国产RISC-V CPU内核,最高主频1.8GHz;还集成了性能可对标Arm Mali-G52的GC8000L GPU,主频800MHz,支持最大8K
@30fps的视频编解码能力和最
大2亿像素的JPEG编解码能力,并且支持双屏异显(2K
@60fps
);
内置云天励飞最新一代自主知识产权 NPU NNP400T,int8算力可达12Tops。同时,DeepEdge10还具备硬件级的安全特性,以及完备的高低速外围接口。正如前面所介绍的,DeepEdge10是面向大模型推理需求进行了针对性优化,其内部集成的 NNP400T NPU是一款支持支持大模型新型计算范式的神经网络处理器,不仅支持FP16/INT16/INT8等数据格式,还支持多线程、支持Transformer网络结构模型。在制造工艺方面,由于更为先进制程工艺获取受限,DeepEdge10选择基于国内自主可控的14nm工艺。同时,采用了基于D2D(Die to Die)互联的 Chiplet先进封装架构,可以支持算力灵活扩展,可满足不同场景对算力和成本的多样化需要。
云天励飞下一代的边缘AI推理芯片DeepEdge20将会采用第二代的Chiplet架构,兼容国际标准/国产UCIE标准,内核采用第三代的异构多核架构,并集成自研的第四代的神经网络处理器,届时性能将会比DeepEdge10提升20倍。云天励飞还推出了三款基于DeepEdge10系列的推理加速卡,包括IPU X2000、IPU X5000和IPU X6000,算力分别为24TOPS、64TOPS和256TOPS。其中,IPU X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。根据云天励飞公布的数据显示,其最强的DeepEdge 10MAX芯片可以支持在端侧运行70亿参数的LLMs大模型,生成速度可达27 Token/s,并且可兼容运行130亿参数的LLMs大模型。而基于DeepEdge10系列芯片的IPU加速卡,通过C2C Mesh互联扩展,算力可达1024TOPS,运行700亿参数的LLMs大模型,生成速度可达42Token/s,并可兼容运行千亿参数的LLMs大模型。云天励飞DeepEdge10系列除了可以直接出货芯片和加速卡之外,还包括板卡、盒子、推理服务器等,可广泛应用于AIoT边缘视频、移动机器人等场景。在生态合作方面,目前云天励飞已经向国内头部的AIoT芯片设计厂商、智慧
汽车芯片
设计厂商、服务机器人厂商、国家重点实验室等提供神经网络处理器的IP授权,助力其芯片的AI能力提升;云天励飞还有近30家算法芯片化合作伙伴,这些合作伙伴的需求将会被植入云天励飞的下代芯片当中;在算法应用生态方面,所有使用云天励飞芯片产品的合作伙伴,均可在线下载更新云天励飞的100+种算法。
$云天励飞-U(sh688343)$
寒武纪-U(sh
688256
)
$云从科技-UW(sh688327)$
打开淘股吧APP
打开淘股吧APP
1
评论(2)
收藏
展开
热门
最新
呀喂喂
24-02-27 16:50
0
总结不错
外星人来炒股
24-02-24 21:52
2
AI算力大起底
一芯片:
1算力芯片:
景嘉微
、
寒武纪
-U、
海光信息
、
澜起科技
;
2HBM
存储芯片
:
深科技
、
兆易创新
、
江波龙
、
北京君正
、
同有科技
、
朗科科技
、
佰维存储
、
普冉股份
、睿能股份等;
3光芯片:
光迅科技
、
源杰科技
、世佳光子、
长光华芯
等;
二PCB主要标的:
广信材料
、
深南电路
、
沪电股份
、
胜宏科技
、
生益科技
、
生益电子
、
南亚新材
、
世运电路
、
景旺电子
;
三算力服务器:
工业富联
、
高新发展
、
浪潮信息
、
中科曙光
、
联想集团
、
弘信电子
、
紫光股份
、
四川长虹
;
四
液冷服务器
主要标的:浪潮信息、中科曙光、
高澜股份
、
英维克
、
佳力图
、
申菱环境
、
曙光数创
等;
五交换机:
中兴通讯
、新华三、
锐捷网络
、
菲菱科思
、
盛科通信
;
六
算力租赁
主要标的:
鸿博股份
、
拓维信息
、
世纪华通
、
协鑫能科
、
东方国信
、
首都在线
、
依米康
、
中装建设
、
利通电子
、南陵科技、
润建股份
、
美利云
;
七算法主要标的:
科大讯飞
、
拓尔思
、
海天瑞声
、
汇纳科技
等;
八
边缘计算
主要标的:拓维信息、
初灵信息
、
创维数字
、
国光电器
、
全志科技
、
恒玄科技
、
网宿科技
;
九CPO光模块:
剑桥科技
、
中际旭创
、
新易盛
、
天孚通信
、
光库科技
、
联特科技
、
华工科技
、
铭普光磁
、光迅科技、兆龙互联;
十交换芯片及光芯片:长光华芯、源杰科技、光迅科技、盛科通信;
九封测厂:
长电科技
、
通富微电
、
甬矽电子
、
华天科技
;
十一封测设备:
新益昌
、
长川科技
、
中科飞测
、
芯碁微装
;
十二封测材料:
兴森科技
、
雅克科技
、
天承科技
、
艾森股份
、
华海诚科
、
德邦科技
;
十三AI多模态:
维海德
、
因赛集团
、
苏州科达
、
思特奇
、
熵基科技
、
大华股份
、
海康威视
、
当虹科技
、
开普云
、
竞业达
、
网达软件
、
果麦文化
、
国脉文化
、汇纳科技、
东方通
、
润和软件
、
易点天下
、
新华网
、
浙数文化
、
天娱数科
、
数字政通
、拓尔思、
中文在线
、
软通动力
、
视觉中国
、
汤姆猫
、
华策影视
、
芒果超媒
、
天下秀
、
汉王科技
、
佳都科技
;
十四IDC
云计算
的基础,相关IDC厂商有望获益:
铜牛信息
、
润泽科技
、
宝信软件
、
奥飞数据
、
数据港
、
光环新网
等;
十五先进封装相关:通富微电、华天科技、甬矽电子、
壹石通
、芯碁微装、
拓荆科技
、
同兴达
、
赛微电子
等。
刷新
首页
上一页
下一页
末页
提交