开源llama.cpp Releases·原文 2026年9月8日

llama.cpp b10853发布:新增Kimi-K3循环状态回滚支持

llama.cpp发布b10853版本,核心变更为支持Kimi-K3模型的循环状态回滚功能。

AI解读:llama.cpp在b10853版本中增加了对Kimi-K3模型循环状态回滚(recurrent-state rollback)的支持。这项功能主要服务于使用循环架构(如Mamba或类似线性注意力)的模型,允许在生成过程中回退到之前的内部状态,这通常用于处理采样或逻辑错误后的重试,而无需从头开始推理。对于在本地运行Kimi-K3这类模型的开发者来说,这意味着可以更灵活地控制生成流程,减少重复计算的资源浪费,提升交互式应用的响应体验。需要注意的是,该功能是模型层面的支持,具体的使用效果还取决于模型本身是否适配以及应用场景。普通用户如果不涉及自托管大模型,暂时无需关注此项更新。

llama.cpp项目发布了b10853版本,更新内容为“model : support Kimi-K3 recurrent-state rollback”(模型:支持Kimi-K3循环状态回滚),对应PR #28466。该版本为Kimi-K3模型引入了循环状态回滚的支持。

发布详情与构建支持

根据GitHub Release页面(b10853)的信息,本次更新主要面向模型推理功能,未提及新增的模型文件或网站更新。项目同时提供了多项预编译二进制文件的下载链接,涵盖多个平台和硬件加速后端。

  • macOS:提供Apple Silicon (arm64) 和Intel (x64) 版本;其中KleidiAI加速版本被标记为DISABLED(见PR #23780)。另有iOS XCFramework。
  • Linux:Ubuntu x64、arm64、s390x(CPU);Vulkan版本(x64和arm64);ROCm 10.0(x64);OpenVINO 2026.3.1(x64);SYCL FP32/FP16(x64)。
  • Android:提供arm64 CPU版本。
  • Windows:CPU版本(x64、arm64);OpenCL Adreno(arm64);CUDA 12.4和CUDA 13.3(x64),以及CUDA 13.4(arm64,标记为preview);Vulkan、OpenVINO 2026.3.1、SYCL、ROCm 10.0(x64)。
  • openEuler:相关构建被标记为DISABLED(见PR #23705),包括x86/arm64的 310p和 910b(ACL Graph)目标。
  • 额外提供UI组件包(llama-b10853-ui.tar.gz)。

信息来源

llama.cpp Releases原始来源