开源litellm Releases·原文 2026年8月28日本站收录 2026年9月5日

LiteLLM v1.100.0-dev.2发布:新增Gemini 3.5转录支持与多项成本计算修复

开发版新增Prometheus调用方身份配置、Gemini 3.5转录模型支持,并修复Cluade缓存计费、Bedrock rerank签名、Redis凭证等问题。

AI解读:LiteLLM作为统一LLM网关,让企业通过一个接口接入多家模型,本次开发版更新主要解决计费准确性和模型兼容问题。对运维者来说,最需要注意的是修复了Azure OpenAI GPT-5.6缓存写入价格、Bedrock上Claude缓存写入成本拆分、Gemini实时语音和TTS费率等多项计费错误,这意味着之前按错误费率核算的成本会得到修正,后付费账单将更精确。同时,新版本为Gemini 3.5-transcribe和transcribe-live模型提供了首日支持,适合语音转写开发者提前测试。但对多数企业用户,这只是增量迭代,现有功能不受影响,无需立即升级,可等待稳定版。真正要关注的是使用MCP桥接与管理多个云凭证的用户,新版修复了MCP的OAuth和凭证生命周期问题,以及Redis和Vertex的令牌保持问题,能减少生产环境的认证中断。

LiteLLM发布v1.100.0-dev.2开发版,新增Prometheus调用方身份配置、Gemini 3.5转录模型支持,并修复多项成本计算和认证问题。

主要新特性

新版本为Gemini 3.5-transcribe和gemini-3.5-transcribe-live提供首日支持,方便语音转写场景试用。

Prometheus监控新增部署调用方身份配置(feat(prometheus): configure deployment caller identity),并配套了错误路径测试。

UI新增Teams列表CSV导出(包含预算、模型授权和速率限制),并支持在请求日志中切换内部健康检查可见性。

计费与成本计算修复

修复了Claude 3 Haiku和Claude 3 Opus的 1 小时缓存写入按 2 倍输入计费的问题。

修复了Bedrock上Claude Converse 1小时和5分钟缓存写入成本拆分(#36762)。

为Azure GPT-5.6增加了缓存写入费率,并修正数据区域优先级(#38370)。

修正了Gemini 3.5 Flash Lite的flex缓存读取价格(#38422)及Gemini TTS和native-audio费率(#38412)。

修复了Gemini Live 2.5 Flash Native Audio实时会话计费及免费层流量映射(#38419, #37724)。

修复了多模态代币重叠导致的重复计费问题(#37407)。

认证与凭证修复

Azure Realtime在无API密钥时使用Azure AD令牌认证WebSocket(#34658)。

修复了Redis客户端对凭证提供方的支持(#38094)以及MCP中保留provider access token生命周期(#38271)。

修复了Vertex自定义认证通道的令牌保持问题(#38299)和MCP OAuth授权URL处理(#38379)。

代理与路由修复

修复了在model add和UI验证错误标题中强制rpm/tpm的问题(#36518)。

修复了空数据库路由设置覆盖YAML回退的问题(#38406),并解决了 /key/update因缓存清除错误失败(#38308)。

修复了系统提示对响应中缓存控制注入的影响(#38120)。

信息来源

litellm Releases原始来源