LiteLLM发布v1.99.1：仅提供Docker镜像，修复OpenTelemetry缓存令牌计数
LiteLLM v1.99.1是仅镜像发布，无PyPI包，修复了OpenTelemetry v2缺少缓存令牌计数的问题。
AI解读：LiteLLM的v1.99.1只发布了Docker镜像，没有对应的PyPI包（pip install不会成功），所以要更新的话只能拉取容器镜像，或者继续用PyPI上的 1.99.0。这个版本只修了一个问题：OpenTelemetry v2的span现在会输出缓存相关的令牌计数（gen_ai.usage.cache_creation.input_tokens和gen_ai.usage.cache_read.input_tokens），之前只能看到缓存成本而缺少令牌数。如果你依赖OTel的令牌数而不是LiteLLM自身的成本字段来计算支出，那么高提示缓存的工作负载此前会被少算，现在可以更准确地核算成本。对于只用PyPI包的用户来说，这次可以不用动，1.99.0 仍然可用。
LiteLLM项目于 2025 年 4 月 11 日发布v1.99.1，这是一个仅限Docker镜像的补丁版本。PyPI上没有对应的包，`pip install litellm==1.99.1` 不会成功，用户只能使用Docker镜像或继续留在PyPI的 1.99.0 版本。
本次发布在 1.99.0 基础上增加了一个修复：OpenTelemetry v2的span现在会输出缓存令牌计数，包括 `gen_ai.usage.cache_creation.input_tokens` 和 `gen_ai.usage.cache_read.input_tokens`，而此前只有缓存成本字段。对于通过OTel令牌计数来计算费用而不是依赖LiteLLM成本字段的用户，之前prompt-caching工作负载的费用会被低估。
镜像与追踪
v1.99.1提供在三个镜像仓库中，每个都有 `1.99.1` 和 `v1.99.1` 标签：`ghcr.io/berriai/litellm`、`docker.io/litellm/litellm`；`ghcr.io/berriai/litellm-database`、`docker.io/litellm/litellm-database`；以及 `ghcr.io/berriai/litellm-non_root`、`docker.io/litellm/litellm-non_root`。作为最新稳定镜像，滚动的 `latest` 和 `main-stable` 标签现在指向 1.99.1。
Git标签和此次发布的存在是为了让镜像能够追溯到确切的提交。发布说明指出，1.99.1 是 1.99.0 的补丁版本，内容单一（修复），并通过拉取请求 #39179 将 #38716 反向迁移到stable/1.99.x分支。完整变更日志可在仓库中查看。
镜像签名验证
所有LiteLLM Docker镜像均使用cosign签名，每次发布都使用与提交 `0112e53` 中引入的相同密钥。推荐使用固定提交哈希验证，因为提交哈希是加密不可变的：使用 `cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/0112e53046018d726492c814b3644b7d376029d0/cosign.pub ghcr.io/berriai/litellm:v1.99.1`。
或者，也可以使用发布标签验证（标签受保护，解析为相同密钥）：`cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/v1.99.1/cosign.pub ghcr.io/berriai/litellm:v1.99.1`。预期输出会确认cosign声明已验证且签名与指定公钥匹配。