大模型
www.youtube.com ·
@AI Engineer
Optiver 如何当天上线新 AI 模型:AI 工程负责人 Noyan Tokgozoglu 分享
Optiver AI 工程负责人 Noyan Tokgozoglu 介绍其本地 AI 平台:推理网关负责路由与预算控制;新前沿模型在内部 golden set 上评测后可当天采用;构建与模型和 harness 无关的 meta harness;并在夏季大模型密集发布后重新控制 AI 支出。演讲还涉及平台原则、技术栈,以及如何贴近交易员等用户的实际使用场景。
AI推荐理由 来自 AI Engineer 频道的会议演讲,讲者是 Optiver AI 工程负责人,内容具体:本地部署的推理网关负责路由与预算、用内部 golden set 当天评测并上线新前沿模型、模型与 harness 无关的 meta harness、以及在大模型发布潮后控制 AI 支出。属于可复用的工程实践一手分享,信息密度较高;但为单方经验陈述,无量化基准或第三方验证,且含会议推广信息。
78
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。