新稀疏GPU优化方法加速物理约束生成式采样的非线性投影

arXiv论文提出SNAP-FM,利用块稀疏结构加速物理约束流匹配中的非线性约束投影,同时保持约束满足。

AI解读:生成式模型在物理模拟中速度很快,但无法保证输出满足能量守恒、边界条件等物理规律。现有约束采样虽能强制满足这些约束,却因非线性的投影和校正步骤太慢而难以实用。SNAP-FM把这个瓶颈拆开看:批量采样和局部PDE耦合让每个子问题的Jacobian和KKT系统天然呈块稀疏,但主流机器学习框架用稠密张量运算掩盖了这种结构。作者用ExaModels.jl暴露结构、MadNLP.jl配合GPU稀疏分解来求解,在含线性、非线性、一维、二维约束的PDE基准上,对Physics-Constrained Flow Matching加速了非线性约束投影且不牺牲约束满足。直接受影响的是需要高保真物理模拟同时又想保留生成模型速度的研究者;对普通用户没有直接影响,但这意味着未来物理仿真工具或许能在相同算力下处理更复杂的非线性约束。

arXiv发布论文《SNAP-FM: Sparse Nonlinear Accelerated Projection for Physics-Constrained Generative Modeling》,提出用GPU稀疏非线性优化加速物理约束生成式采样中的约束投影。论文由Alaina Kolli、Theodoros Xenakis、Utkarsh Utkarsh、Pengfei Cai、Rafael Gomez-Bombarelli、Alan Edelman和Christopher Vincent Rackauckas共同撰写。

论文指出现有生成式模型可作为物理模拟的替代,但其输出不保证遵守支配物理的守恒律、边界条件和非线性不变量。约束采样在推理时精确执行这些约束而无需重新训练,但代价高昂——采样中反复进行投影、校正和轨迹优化,这些步骤对非线性约束尤其昂贵。

作者利用样本级批处理和局部PDE耦合在投影子问题中引发的结构(即块稀疏Jacobian和KKT系统),通过ExaModels.jl暴露此结构,并使用MadNLP.jl与GPU稀疏分解求解稀疏非线性规划。

该方法应用于Physics-Constrained Flow Matching(PCFM),在线性、非线性、一维和二维约束的PDE基准测试上,加速了非线性约束投影,同时保持了约束满足性。

论文信息与背景

论文称,标准机器学习框架因稠密张量代数和有限的稀疏求解器组合性,掩盖了物理约束自然诱导的结构,使高效的批量非线性优化难以实现。作者针对这一瓶颈,利用投影子问题中的块稀疏结构进行加速。

论文分类为机器学习(cs.LG)、人工智能(cs.AI)以及计算工程、金融和科学(cs.CE)。arXiv编号为2607.00095,当前版本为v2,于2026年9月3日更新,替代早期版本v1(2026年6月30日提交)。

  • arXiv编号:arXiv:2607.00095 [cs.LG]
  • DOI:https://doi.org/10.48550/arXiv.2607.00095
  • 论文来源依据为摘要(Abstract)和提交历史,作者仅基于摘要进行报告。

信息来源