大模型
dev.to ·
@devs
llm 0.37 新增多模态 Embedding 与更便宜的默认模型:对本地音频管线的意义
llm 0.37 新增 gpt-6.1-sol 与 gpt-6.1-terra、支持添加任意 OpenAI 兼容端点的命令,并将默认模型换为价格减半的 gpt-6-luna;embedding 接口现可接受二进制内容类型,以适配 Gemini Embedding 2 等文本/音频/图像/视频统一嵌入模型。作者指出原始音频 embedding 适合检索与说话人聚类,但不适合放在实时通话热路径上,并给出延迟预算的经验估算。
AI推荐理由 介绍 Simon Willison 的 llm 0.37 版本更新:新增 gpt-6.1-sol/terra 模型、任意 OpenAI 兼容端点命令、默认模型切换为更便宜的 gpt-6-luna,并支持二进制内容类型的多模态 embedding;随后讨论本地实时音频管线中 embedding 调用的延迟预算。对开发者有具体信息量,但版本细节来自作者转述,延迟数字为经验估计而非实测。
68
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。