在Hot Chips大会上，NVIDIA宣布Groq 3 LPX全面投产，并公布了合作伙伴采用情况及新的网络基础设施技术。
AI解读：NVIDIA正在将推理基础设施转向智能体（agentic）工作负载，这类应用需要生成大量token并处理超长上下文，传统芯片架构在解码延迟上难以满足需求。Groq 3 LPX作为Vera Rubin NVL72的扩展，将token生成任务从GPU分离到专用LPU上，以降低延迟、提升吞吐。在Artificial Analysis的基准测试中，采用Gemma 4 31B模型，Groq 3 LPX在10万token长上下文场景下达到了每秒3400个输出token，是现有平台速度的4倍。这意味着云端开发者可以构建更具交互性的代码助手或自主代理，而不是只能批处理。Nebius成为首家采用该系统的AI云，CoreWeave则部署了Spectrum-X Multiplane网络来连接Vera Rubin机架。这套方案也面临成本与规模挑战：它需要大量LP30加速器，并通过NVLink实现机架级互联，不是简单更换单个芯片就能实现的实际应用，需要整个基础设施重新设计。
NVIDIA在Hot Chips大会上宣布，用于智能体工作负载的Vera Rubin机架级系统NVIDIA Groq 3 LPX已全面投产。该加速器在运行Gemma 4 31B模型时，处理10万token长上下文任务每秒可生成3400个输出token，速度比最接近的替代平台快4倍。
Groq 3 LPX与Vera Rubin NVL72平台共同设计，定位为交互式AI推理加速器：GPU负责大规模上下文处理，LPU用于加速延迟敏感的token生成。单个机架级部署最多可包含256个LP30加速器，通过芯片间直连组成推理引擎。
合作伙伴采用情况
Nebius成为首家采用NVIDIA Groq 3 LPX的AI云服务商，该加速器将被加入其Token Factory以提升推理性能。
CoreWeave已在生产中部署Spectrum-X Multiplane，用于连接NVIDIA Vera Rubin机架，提供高带宽的扁平无损AI网络。
SpaceXAI宣布计划采用NVIDIA Vera CPU驱动其下一代智能体AI，应用场景包括业务流程编排、工具调用、代码执行、数据处理和仿真，未来架构将涵盖地面数据中心与轨道卫星。
网络基础设施更新：Spectrum-X Multiplane与NVLink Fusion
Spectrum-X Multiplane通过将每个服务器的网络连接拆分为多个独立平面，支持扩展到51.2万块GPU，避免新增第三层网络带来的延迟、抖动和成本。在八平面拓扑中，单个平面故障时仍可维持约90%总带宽，硬件恢复速度比基于软件的方案快11倍，AI工厂输出提升1.6倍。
NVIDIA还发布了NVLink Fusion，允许超大规模云服务商和AI原生公司将其定制XPU与CPU接入NVIDIA的互联体系。该平台基于第六代NVLink、NVLink Switch和NVLink-C2C技术，相关机架可通过MGX生态复用。
同时推出的NVIDIA Scale-In架构，通过BlueField-4和DOCA软件，将网络安全、存储和运维服务加速集成到AI工厂网络中，以支持多租户隔离和实时可观测性。