下载
登录/ 注册
主页
论坛
视频
热股
可转债
下载
下载

Ai发展,不要忽视了运力

25-04-02 21:23 160次浏览
后生如此
+关注
博主要求身份验证
登录用户ID:
AI 相关应用的快速发展推动“算力”和“存力”需求快速增长的同时,对“运 力”也提出更高需求。AI 计算集群互联通信能力系统性的构建主要包括裸片间 互连、片间互联和机间互联三大方面。目前常见的片间互联方案包括 PCle、 NVLink、CXL、GPUDirec、RDMA 等。PCIe 作为 CPU 和 GPU 之间的数据传 输方案,经过数次迭代,已达到近百 GB 的数据传输速率,同时具有较强的可拓 展性。然而,这依然无法满足高速数据带宽的需求。除此之外,由于 GPU 连接 数量的增加,GPU 之间的通信技术如 GPU Direct、NVLink 和 RDMA 等技术被 大量应用。NVLink 的出现在一定程度上解决了 PCIe 带宽和传输瓶颈的问题。 GPUDirect、RDMA 和 InfiniBand 通常在分布式系统和多 GPU 集群中有大量的 应用。CXL 具有更好的灵活性和可扩展性,能支持不同设备之间的混合连接。
人工智能大爆发,计算、存储是核心,这中间还有一个非常重要的桥梁——运力。
核心观点:互联技术加速迭代,刺激运力芯片需求。
1、PCIe Retimer 芯片:该芯片可有效提升 PCIe 信号的完整性,增加高速信号 的有效传输距离。到 PCIe 5.0 时代,PCIe Retimer 芯片已成为行业主流解决方 案。一台典型配置 8 块 GPU 的主流 AI 服务器需要 8 颗或 16 颗 PCIe Retimer 芯片。未来,PCIe Retimer 芯片的市场空间将随着 GPU 需求量的增加而持续扩 大。
2、CXL MXC 芯片:该芯片是基于 CXL 协议的高带宽高容量内存扩展模 组的核心芯片,主要应用于内存扩展及内存池化领域,可大幅扩展内存容量和带宽,满足高算、AI 等数据密集型应用日益增长的需求。
3、MRCD/MDB 芯片: MRDIMM 可满足 AI 及大数据应用对更高带宽内存的需求。MRCD、MDB 芯片是 MRDIMM 的核心逻辑器件,每个 MRDIMM 模组需要搭配 1 颗 MRCD 芯片及 10 颗 MDB 芯片。随着 MRDIMM 未来渗透率的提升,将带动 MRCD/MDB(特别是 MDB)芯片需求大幅增长。
澜起科技 :是一家国际领先的数据处理及互连芯片设计公司,致力于为云计算和人工智能领域提供高性能、低功耗的芯片解决方案,目前拥有互连类芯片和津逮®服务器平台两大产品线。互连类芯片产品主要包括内存接口芯片(含 MRCD/MDB 芯片)、内存模组配套芯片、CKD 芯片、PCIe Retimer 芯片、MXC 芯片等,津逮®服务器平台产品包括津逮®CPU 和混合安全内存模组(HSDIMM®)。公司近年来深耕相关互连技术,包括高带宽内存互连、PCIe 互连以及 CXL 互连技术等,这些高速互连技术可以有效提升系统的“运力”,公司基于上述技术研发的几款芯片,包括 MRCD/MDB、CKD、PCIe Retimer、MXC 芯片等,将在未来的人工智能时代发挥重要作用。
打开淘股吧APP
0
评论(0)
收藏
展开
热门 最新
提交