最新资讯
dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者 techcrunch.com Palo Alto Networks 洽谈以 5 亿美元收购 AI Agent 安全初创公司 Clutch theinformation.com 黄仁勋被要求就涉华间谍指控向国会作简报 www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离 wechat 这波杀疯了!旗舰级模型不限量、1个月视频额度免费领 bloomberg.com AI 抛售蔓延至信用市场,软银领跌亚洲美元债 dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露 dev.to 你的 Agent Harness 应具备的 17 项能力 dev.to 离线 AI 记忆中 0.8 余弦阈值为何失效 dev.to Kimi K3.1 Pro 开放权重:自托管 2.8T 模型前的开发者清单
多元动态
登录 注册
大模型 www.youtube.com · @AI Engineer

Optiver 如何当天上线新 AI 模型:AI 工程负责人 Noyan Tokgozoglu 分享

原文 我的收藏

Optiver AI 工程负责人 Noyan Tokgozoglu 介绍其本地 AI 平台:推理网关负责路由与预算控制;新前沿模型在内部 golden set 上评测后可当天采用;构建与模型和 harness 无关的 meta harness;并在夏季大模型密集发布后重新控制 AI 支出。演讲还涉及平台原则、技术栈,以及如何贴近交易员等用户的实际使用场景。

AI推荐理由 来自 AI Engineer 频道的会议演讲,讲者是 Optiver AI 工程负责人,内容具体:本地部署的推理网关负责路由与预算、用内部 golden set 当天评测并上线新前沿模型、模型与 harness 无关的 meta harness、以及在大模型发布潮后控制 AI 支出。属于可复用的工程实践一手分享,信息密度较高;但为单方经验陈述,无量化基准或第三方验证,且含会议推广信息。

78

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容