产品AWS Machine Learning·原文 2026年9月9日

Pathway发布脑启发架构BDH,在SageMaker HyperPod上训练,以 29.2% pass@2 创ARC-AGI-1成本效率新纪录

Pathway的新架构BDH在潜在空间中进行推理,其系统BDH-CQ以每任务 0.0007 美元的成本在ARC-AGI-1上达到 29.2% pass@2,并在AWS的SageMaker HyperPod上完成训练。

AI解读:Pathway的BDH架构直接回应了当前大语言模型的一个核心痛点:推理成本高昂且效率低下。传统模型如GPT系列,在回答复杂问题时需要生成大量中间文字(思维链),每一步都消耗计算资源和内存。BDH改变了这一方式,它在模型的内部状态(潜在空间)中反复计算,无需生成可见的推理步骤,这大大降低了计算量。

在ARC-AGI-1基准测试中,BDH-CQ以每任务 0.0007 美元的成本达到 29.2% 的准确率,而该测试旨在评估模型从少量示例中推断规则的能力,类似于人类智能。对于需要处理动态信息(如网络安全事件或实时工业操作)的企业,这意味着能以更低成本实现更快速、更可靠的AI推理。

然而,当前结果来自特定基准,其在实际生产中的广泛应用仍有待验证,企业应谨慎评估其与传统模型的性能差异。

Pathway公司宣布其脑启发式架构BDH(Baby Dragon Hatchling)在ARC-AGI-1基准测试中取得新突破:其系统BDH-CQ达到 29.2% pass@2,每个任务成本仅 0.0007 美元。这一结果由Pathway首席执行官Zuzanna Stamirowska在AWS机器学习博客中宣布,她表示该成果改变了成本与准确率的权衡曲线。BDH架构在潜在空间中推理,无需生成传统的思维链文本,并在AWS的SageMaker HyperPod上完成训练。

BDH架构:在潜在空间中推理,替代思维链

据Pathway介绍,BDH是一种后Transformer架构,灵感来源于生物大脑。它将序列建模重新定义为在相互作用的神经元粒子网络上的局部图动力学。区别于传统大语言模型(LLM)通过生成额外token序列来外化推理过程,BDH在潜在空间中进行迭代计算,学习示例并优化解决方案,而不产生中间文本痕迹。

BDH采用赫布学习原则("神经元同步放电,同步连接")实现注意力机制,并依靠稀疏的局部连接。其稀疏激活特性意味着任意时刻仅约 5% 的神经元处于活跃状态,从而降低每步推理所需的计算量。BDH的注意力机制是线性的,操作于固定高维状态,避免了Transformer在长上下文中的复杂度膨胀。模型状态直接映射到神经元对之间的突触连接,提高了推理过程的可解释性。

BDH-CQ在ARC-AGI-1上的成本与性能表现

Pathway构建了BDH-CQ,它扩展了BDH,支持上下文学习和潜在迭代推理,用于视觉问题解决。BDH-CQ在推理期间更新模型内部记忆,仅解码候选答案,避免生成冗长的口头推理链。

在ARC-AGI-1基准测试中,BDH-CQ获得了 29.2% pass@2 的成绩,成本为每任务 0.0007 美元。ARC-AGI-1要求系统从少量前后示例中推断未知视觉规则,并应用于新网格——这通常被认为反映类人智能。Pathway声称,此结果截至 2026 年 8 月改变了ARC-AGI-1上的成本-准确率前沿。

Pathway首席执行官Stamirowska评论称:"如今AI为推理付出高昂token成本,但成本是由架构决定的,并非智能法则。我们证明不同架构能改变游戏规则,在每美元智能量上开辟新空间。一个 1.5 亿参数模型在潜在空间反复推理,在ARC-AGI-1上设定了成本效率新标杆。瓶颈从来不是智能,而是架构设计。"

训练基础设施:SageMaker HyperPod与EFA

Pathway使用Amazon SageMaker HyperPod进行BDH架构的训练。Amazon SageMaker HyperPod是专为大规模分布式训练设计的托管基础设施,支持在数千个GPU间进行训练。它提供自动集群配置、优化网络和自定义软件栈。

Pathway使用了Amazon EC2 p5en.48xlarge实例,配备NVIDIA H200 GPU,每实例网络性能高达 3200 Gbps。实例通过Elastic Fabric Adapter(EFA)互连,运行在AWS EC2 UltraCluster上,以减少GPU间延迟。团队还利用Amazon Managed Service for Prometheus和Amazon Managed Grafana监控GPU利用率、内存模式和节点间通信效率。AWS称,这种基础设施支持近线性扩展,帮助Pathway减少基础设施管理负担。

AWS初创企业EMEA解决方案架构负责人Nicolas Tarducci表示:"客户正探索如何将高级推理从实验转入生产。Pathway在SageMaker HyperPod上训练BDH-CQ的工作,指向一条成本效益更高的大规模部署路径。"

可用性与集成

据AWS博客,BDH架构支持标准PyTorch工作流,Pathway的存储库提供了其详细技术文档和示例实现。技术细节目前未全面开源,但Pathway表示其架构可实现任意数量的演示,且固定内存成本。

AWS和Pathway均未提供与Transformer模型在ARC-AGI-1上的直接对比数据。Stamirowska指出,该性能来自 1.5 亿参数模型,而ARC-AGI-1的全称是抽象推理语料库。

信息来源