(相关资料图)
今天凌晨在SIGGRAPH 2023上，英伟达创始人兼首席执行官黄仁勋宣布推出新一代GH200 Grace Hopper Superchip。这是世界上首次有芯片配备HBM3e，搭建的双路系统相比于当前一代产品，内存容量是原来的3.5倍，带宽则是原来的3倍。英伟达并没有说明采购的HBM3e来自哪一个供应商，据推测应该是出自SK海力士。
相比目前使用的HBM3，新一代HBM3e有着50%的速度提升，双路系统提供了高达10TB/s的带宽，也就说每堆栈可以提供5TB/s的带宽。GH200 Grace Hopper Superchip是将Hopper架构GPU和Arm架构Grace CPU结合，使用了NVLink-C2C，将两者连接起来。其拥有72个Arm v9架构CPU内核，GPU方面应该和H100计算卡一致，即16896个FP32 CUDA核心。新款芯片打造的双路系统将拥有144个Arm v9架构CPU内核，282GB的HBM3e，带来8 Petaflops的AI计算性能。
英伟达表示，新的平台旨在处理世界上最复杂的生成式人工智能工作负载，涵盖大型语言模型、推荐系统和矢量数据库，可用于各种配置。英伟达计划销售两种版本：一种版本包含了两个可供客户集成到系统中的芯片，另一种版本是结合了两种Grace Hopper设计的完整服务器系统。
此外，英伟达也会将HBM3e用于Hopper架构的GH200计算卡，预计会在2024年第二季度到来，会比竞争对手AMD的Instinct MI300X晚一些，后者通过HBM3提供了5.2TB/s的带宽，容量为192GB。
关键词：
