智能体
www.infoq.com ·
@Siddharth Kodwani, Swaroop Chitlur
演讲:在 DoorDash 构建 GenAI 平台
DoorDash 的 Swaroop Chitlur 与 Sidd Kodwani 分享其内部 GenAI 平台的建设历程,包括核心架构选择、从供应商优先转向开放权重模型、LLM 与 agent 网关的实践,以及为 5000 多名内部用户平衡准确率、延迟与成本。
AI推荐理由 InfoQ 演讲摘要,由 DoorDash 工程人员介绍其内部 GenAI 平台建设,涉及从供应商优先转向开放权重模型、LLM 与 agent 网关、以及为 5000 多名内部用户平衡准确率、延迟和成本,属于可落地的工程架构经验,对开发者和平台团队有参考价值;但输入仅为摘要,缺少具体架构细节与量化结果。
78
正文
Swaroop Chitlur and Sidd Kodwani share DoorDash’s journey building an internal GenAI platform. They discuss core architectural bets, transitioning from vendor-first setups to open-weights models, navigating LLM and agent gateways, and balancing accuracy, latency, and cost for over 5,000 internal users. By Siddharth Kodwani, Swaroop Chitlur