Hugging Face发布Transformers v5.13.1补丁,兼容最新版vLLM

该补丁修复了自定义模型代码与新线性层类型命名不兼容等问题,以确保transformers能配合最新版vLLM运行。

AI解读:这条新闻对使用Hugging Face Transformers配合vLLM做推理部署的开发者来说很实际。vLLM更新后,Transformers旧版本在加载自定义模型时可能因为线性层类型名的变化而报错,导致无法用vLLM加速。v5.13.1补丁专门处理了三个兼容性问题:对remap_legacy_layer_types更宽容、适配不认新线性层名的自定义代码、修复 _LazyAutoMapping.register传字符串键的边界情况。如果你正在升级vLLM并遇到模型加载失败,直接更新到v5.13.1大概率能解决;如果还没升级,也不影响现有稳定环境。由于Hugging Face没有公布具体性能数据,这次补丁的实际效果主要看能否消除报错,不建议过度评估。

Hugging Face于 2026 年 2 月 5 日发布Transformers v5.13.1补丁版本,本次更新旨在让Transformers兼容最新版vLLM。

补丁内容

此次v5.13.1包含 3 项主要修复(均来自开发者hmellor): - #47245:对remap_legacy_layer_types更加防御性处理,以适配自定义模型; - #47174:修复不了解新线性层类型名称的自定义代码; - #47148:修复当 _LazyAutoMapping.register被传入字符串键时的情况。

信息来源