NVIDIA发布NVHBM定制高带宽内存，将控制器移入HBM堆叠以提升XPU性能
NVIDIA扩展NVLink Fusion平台，推出NVHBM技术，将内存控制器集成到HBM基片，宣称相比标准HBM4E可提升30%带宽、降低15%功耗，并为XPU芯片释放25%面积。亚马逊Annapurna Labs成为首家合作方。
AI解读：NVIDIA这次把内存控制器从XPU芯片上搬进了HBM内存堆叠里，做出新的NVHBM技术，目的是让定制AI芯片（XPU）有更多面积做计算，同时提升内存带宽、降低功耗。对亚马逊这类自研芯片的云厂商来说，好处是Trainium4芯片能和NVIDIA GPU共用同一套机架级架构，不用各自为政。不过，NVHBM目前还是NVIDIA公布的设计方案，实际性能要到芯片落地才能验证，AWS也不是马上就能用，得等Trainium4的后续合作研发。
NVIDIA在3月18日宣布扩展NVLink Fusion平台，推出NVHBM（NVIDIA定制高带宽内存）技术。该技术将NVIDIA自研内存控制器集成到HBM基片中，应用于半定制AI基础设施的XPU（定制计算芯片）。NVIDIA称，相比标准HBM4E，NVHBM可提供最高30%的内存带宽提升、15%的HBM功耗降低，并为XPU计算芯片释放最多25%的面积（NVIDIA Blog，作者Jesse Clayton）。
亚马逊Annapurna Labs为首家合作方
亚马逊旗下Annapurna Labs将成为首个参与NVHBM研发的合作伙伴，与NVIDIA围绕NVLink Fusion和NVLink scale-up架构展开合作。Annapurna Labs计划从Trainium4芯片开始支持NVLink Fusion，使亚马逊芯片与NVIDIA GPU在共同机架级架构下协同工作。Annapurna Labs副总裁Nafea Bshara表示：“NVHBM代表了推进高带宽内存性能与效率的新架构方法。我们期待这项技术合作为未来AWS基础设施设计带来益处。”（NVIDIA Blog）
NVLink Fusion生态与开放范围
NVLink Fusion是NVIDIA面向超大规模云服务商和AI创新企业提供的平台，允许合作伙伴将定制XPU和CPU连接到NVIDIA机架级平台。可获得的组件包括NVIDIA NVLink chiplets、NVLink-C2C、NVLink交换机、MGX系统与机架，以及CPU合作伙伴、ASIC设计公司、系统制造商和技术提供商的生态。（NVIDIA Blog）