英伟达2024GTC大会：见证 AI 的变革时刻

中信前瞻英伟达 2024GTC大会：见证 AI 的变革时刻

------------------------
发布新的硬件产品：B200、DGX B200、Super PDO等

B200芯片：采用双芯片设计，晶体管数量达到2080亿个，采用台积电 4nm工艺。单GPU AI性能达20 PFLOPS。内存192GB，基于第五代NVLink，带宽达到8TB/s。在此次大会上，公司透露：如果要训练一个1.8万亿参数量的GPT模型，需要8000张Hopper GPU，消耗15兆瓦的电力，连续跑上90天。但如果使用Blackwell GPU，只需要2000张，同样跑90天只要消耗四分之一的电力。新产品将于今年晚些时候上市，AWS、戴尔科技 、谷歌、Meta、微软 、OpenAI 和特斯拉 计划使用 Blackwell GPU。
GB200 NVL72 液冷机架系统：包含 36 颗 GB200 Grace Blackwell 超级芯片，拥有 1440 petaflops的推理能力，它内部有近两英里长的电缆，共有 5000 根单独的电缆。
DGX GB200 NVL 72：内置36颗GRACE CPU和72颗Blackwell架构GPU，AI训练性能可达720PFLOPs，推理性能为1440PFLOPs。
基于GB200的DGX SuperPOD超算：搭载8颗DGX GB200，即288颗Grace CPU和576颗B200 GPU，内存达到240TB，FP4精度计算性能达到11.5EFLOPs。

推出软件服务：
推出AI微服务NIM网站，用于开发和部署企业级生成式AI应用。NIM微服务提供了最快、性能最高的AI生产容器，用于部署来自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型，以及来自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的开放模型。通过NIMs（Nvidia inference micro service），用与AI聊天的形式调动一堆NIMS来完成训练、应用的部署。
NVIDIA Omniverse Cloud将可以连接到苹果 公司混合头显Vision Pro。
目前，公司的加速生态系统”合作伙伴，包括ANSYS、Synopsis、Cadence等。同时，台积电和Synopsys将突破性的英伟达计算光刻平台投入生产。

汽车领域：
计划25年年初推出赛德斯和其他品牌相关产品。发布目前世界上唯一可以运行AI的ASIL-D系统Drive Thor，该系统将被比亚迪 采纳。

其他内容：
Project GR00T：人型机器人 项目——包含了人型机器人基础模型，ISAAC Lab开发工具库和Jetson Thor SoC片上系统开发硬件。