llama.cpp b10752发布:为XCFramework增加metallib构建支持
更新聚焦Metal后端构建,使iOS XCFramework可包含预编译metallib,并同步更新多平台二进制与预编译包。
AI解读:这次llama.cpp的b10752版本更新,核心是为iOS的XCFramework构建流程加入metallib支持。简单说,XCFramework是苹果用来打包多种平台二进制文件的格式,之前开发者拿它做iOS集成时,Metal着色器(metallib)得在App运行时现场编译,又慢又容易出错。这次改动把metallib直接预编译进框架里,让集成方拿到就能跑。受影响的直接是那些把llama.cpp嵌入iOS的App开发者,他们可以省掉运行时编译Metal的环节,App冷启动和模型加载的耗时有机会缩短。不过这个版本只解决构建打包问题,不改变模型推理的性能本身;普通用户如果只是跑官方桌面或命令行版本,这次的收益主要在安装包同步更新,不需要特别行动。
llama.cpp发布b10752版本,主要变更是为Metal后端增加metallib构建支持,用于XCFramework打包(PR #28163)。该改动让iOS XCFramework预编译包可以直接包含metallib资源,方便将llama.cpp集成到iOS应用。
支持范围与注意项
随版本发布的预编译产物覆盖macOS、Linux、Android、Windows等平台;其中macOS Apple Silicon的KleidiAI启用构建和openEuler的相关构建被标记为DISABLED,分别指向PR #23780 和PR #23705。
Windows arm64的CUDA 13构建仍标注为preview(预览)状态。