用 Jev、Laya 等决策模型为 coding agent 做模型路由的实测

作者将 421M 参数的开源决策模型 Laya 接入 coding agent 作为模型路由器，通过本地代理 Torana 以插件形式实现，管线约 112ms 跑通。作者称真正的难点是判断何时切换更大模型，而非工程接入本身。文中同时提到托管版 Jev（TypeSafe）与开源 Laya 这类只做选项选择、不生成文本的决策模型。

AI推荐理由 开发者实测将 421M 参数的开源决策模型 Laya 作为 coding agent 的模型路由器，接入本地 Torana 代理插件，管线约 112ms 跑通，但作者指出难点在于判断何时真正需要更大模型。属于一手工程实践，含具体参数与延迟数据，但为个人博客、样本有限。