llama.cpp发布b10767:ROCm升级至 10.0.0,新增Windows ROCm与CUDA 13支持
此次更新将ROCm支持升级至 10.0.0,并为Windows用户新增ROCm 10.0二进制,同时提供CUDA 13.3/13.4版本。
AI解读:这次llama.cpp的小版本更新把AMD GPU的ROCm支持从旧版升到 10.0.0,并首次为Windows提供了ROCm 10.0的预编译包,之前Windows用户只能用CUDA或Vulkan,AMD用户得自己编译或转用其他后端。对开发者和本地部署Llama类模型的人,这意味着如果你用的是支持ROCm的AMD显卡,现在能直接下载对应二进制运行,省去编译步骤,也能用到ROCm 10.0带来的性能改进;同时CUDA 13.3和 13.4 的二进制覆盖了最新NVIDIA驱动。不过注意,macOS的KleidiAI加速版和openEuler的Ascend版本这次被禁用,说明相关支持仍在调试,不是所有平台都同步更新,普通用户如果没有AMD或最新NVIDIA硬件,这次更新不影响日常使用。
llama.cpp项目于 2025 年 10 月 17 日发布b10767版本,核心变动是将ROCm后端升级至 10.0.0(对应PR #27803)。新版本为Linux和Windows提供ROCm 10.0预编译包,其中Windows是首次出现ROCm 10.0支持。
更新内容与后端变化
本次发布的唯一标注变更为“Update ROCm to 10.0.0 release”,即AMD ROCm平台支持从先前版本升级至 10.0.0。该更新影响Linux(Ubuntu x64)和Windows(x64)的ROCm二进制。
- Linux Ubuntu x64提供ROCm 10.0二进制:llama-b10767-bin-ubuntu-rocm-10.0-x64.tar.gz
- Windows x64新增ROCm 10.0二进制:llama-b10767-bin-win-rocm-10.0-x64.zip
- 其他后端如CUDA、Vulkan、SYCL、OpenVINO的二进制已同步更新
平台与二进制状态
b10767发布了覆盖多平台的预编译二进制,但部分平台支持被禁用或标记为预览。macOS Apple Silicon的KleidiAI加速版本被禁用(PR #23780),openEuler的Ascend系列(310p、910b)也被禁用(PR #23705)。Windows arm64的CUDA 13版本标记为“preview”。
- macOS:提供Apple Silicon (arm64)、Intel (x64) 和iOS XCFramework二进制
- Linux:提供Ubuntu x64/arm64 (CPU)、Vulkan、ROCm 10.0、OpenVINO、SYCL FP32/FP16等
- Windows:提供CPU、arm64、OpenCL Adreno、Vulkan、OpenVINO、SYCL、CUDA 12.4/13.3、ROCm 10.0等
- Android:仅提供arm64 CPU二进制
- CUDA 13.4 DLLs为Windows arm64预览版