Ollama v0.34.0发布:可在ChatGPT桌面版中直接运行开源模型
新版本让OpenAI兼容客户端可直接调用本地Ollama模型,并改进Apple Silicon上的结构化输出性能。
AI解读:对于开发者和AI重度用户,Ollama这次更新的核心价值是打通了本地开源模型与ChatGPT桌面版的壁垒。以往,如果你想让ChatGPT客户端调用本地模型,需要额外的网关或繁琐配置;现在你可以在macOS的Ollama应用中直接完成设置,然后在ChatGPT Desktop里使用Ollama托管的模型,从而沿用已有的交互流程。同时,新版提升了Apple Silicon上结构化输出的性能,这意味着在M系列芯片上执行需要严格格式(如JSON)的任务时,延迟可能降低,响应更稳定。此外,OpenAI兼容客户端现在支持工具调用和响应压缩,可以让本地模型参与更复杂的agent工作流。不过,这些改进主要面向开发者,普通用户如果只用ChatGPT官方服务,不需要采取任何行动。建议你升级Ollama后,先在macOS应用中找到相关开关,测试一下本地模型在ChatGPT Desktop中的响应是否满足需求。
Ollama发布v0.34.0-rc1,允许用户在ChatGPT Desktop中直接运行Ollama托管的开源模型。该版本的设置入口位于macOS上的Ollama应用中。
支持ChatGPT Desktop与性能改进
根据GitHub上的发布说明,ChatGPT Desktop现在可以直接使用Ollama模型,用户可以在运行开源模型的同时保留现有工作流。
该版本还改进了Apple Silicon上结构化输出的性能,增强了对OpenAI兼容客户端的工具搜索和响应压缩支持,并修复了压缩响应中图像显示的问题。