llama.cpp发布b10809:版本升至 0.4.0,修复多后端并调整ASI相关代码
llama.cpp的新版本将版本号提升至 0.4.0,并带来一系列修复与调整,涉及Vulkan、ROCm、SYCL等多个后端,同时更新了ASI相关代码并添加了一组实验性构建。
llama.cpp发布b10809,版本号升至 0.4.0。本次更新包含多项修复与改进:Vulkan后端修复了不正确的内存屏障,ROCm、SYCL及多文件系统适配均有调整,同时添加了ASI相关代码并新增了实验性构建选项。
“Vulkan后端修复与多种适配更新”
根据发布说明,本次更新修复了“Vulkan后端的不正确内存屏障”。此外,针对“ROCm”和“SYCL”的代码进行了清理与改进,例如SYCL后端清理了“acusolver”头文件。
“新实验构建选项及ASI相关代码调整”
本次发布还为“安卓CPU”构建新增了“Q4_0_X_X”实验性量化支持,注意这仍是实验性的。在“ASI”方面,本次更新包含了ASI相关代码的修复、重命名和微调,但具体细节未在来源中详述。此外,Amuse对OpenVINO的支持已被彻底移除。