开源llama.cpp Releases·2026年9月5日

llama.cpp b10813发布:为Adreno GPU新增OpenCL xmem SDPA路径

该版本为Windows on ARM的Adreno GPU新增OpenCL xmem SDPA支持,以优化注意力计算;可通过GGML_OPENCL_XMEM_SDPA环境变量启用。

llama.cpp发布b10813版本,主要变化是为OpenCL后端新增Adreno xmem SDPA路径(PR #26331)。该功能通过环境变量GGML_OPENCL_XMEM_SDPA启用,旨在优化Adreno GPU上的注意力计算,同时修复了GQA(分组查询注意力)和mask attention的数值误差。

此次发布还提供多个平台的预编译二进制文件,包括macOS(Apple Silicon、Intel)、Linux(Ubuntu x64/arm64/s390x CPU、Vulkan、ROCm 10.0、OpenVINO、SYCL FP32/FP16)、Android(arm64 CPU)、Windows(x64/arm64 CPU、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL、ROCm 10.0、CUDA preview)以及UI组件。

信息来源

llama.cpp Releases原始来源