SGLang发布v0.5.15.post1补丁版本,主要修复GLM 5.2相关功能
该补丁版本主要修复GLM 5.2在PD分离和上下文并行设置下的IndexShare问题,以及若干非CUDA/HIP设备启动和FP4 MoE内核NaN输出问题。
SGLang项目于近日发布v0.5.15.post1补丁版本,主要修复GLM 5.2相关功能问题。该版本包含数个补丁:修复DSA模型在非CUDA/HIP设备上的启动问题(#30454、#30627);修复Cuda 12镜像上的flashinfer依赖问题(#30858);修复flashinfer trtllm FP4 MoE内核在长输入时导致NaN输出的问题(#31001);修复GLM 5.2 IndexShare在PD分离设置(#30839)和上下文并行设置(#30992)下的问题。