大模型
x.com ·
@berryxia
开源替代方案 Bespoke Nimble 以 2,676 样本微调 Qwen3.5-9B，逼近闭源决策模型 Jev
有开发者称在两天内构建了闭源决策模型 Jev 的开源替代品 Bespoke Nimble：基于 Qwen3.5-9B 做 LoRA 微调，仅用 2,676 个合成样本，采用名为 contrastive data curation 的策略生成负样本以提升判别能力，未使用蒸馏或 RL。作者称在自建 curated eval 上从 Qwen 基线 66% 提升至 90%，Jev 为 93%，H100 上约 100ms，并可在 MacBook 运行。作者同时指出目前没有标准 benchmark 衡量此类模型，Nimble 在其他评测上可能明显弱于 Jev，且有人质疑可能违反 Jev 使用条款。
AI推荐理由 内容包含具体技术细节：Bespoke Nimble 用 Qwen3.5-9B 做 LoRA 微调、2,676 个训练样本、contrastive data curation 策略、curated eval 上 66%→90%（Jev 93%）、H100 100ms 等，并明确标注了作者自述的局限（无标准 benchmark、可能触犯 Jev 使用条款）。但来源为个人 X 转述，Jev 的闭源背景、融资与接入方等说法未提供独立证据，需保留不确定性。
72
正文
绝了！Jev 已经有人搞出“平替”开源版！
一个 OpenAI 联合创始人花了三年，做了一个不生成文字的 AI 模型，专门帮软件做决策。闭源，架构不公开，权重不开放。
这个就是最近几天大火的Jev。
$0.042 每百万输入 token，输出免费。Vercel、Cloudflare、LangChain 在发布当天就接入了。并且TypeSafe 已经拿了 4000 万美元种子轮。
然后有意思的是，一个叫 Mahesh 的人，两天之内做了个开源替代品。
它叫 Bespoke Nimble。
它是这么做到的，先拿 Qwen3.5-9B 做 LoRA 微调，只用了 2,676 个训练样本。
没有从 Jev 蒸馏，Jev 只被用来做评估基准。数据完全合成，覆盖 10 个类别。
关键是用一个叫 contrastive data curation 的策略：微调事实生成负样本，迫使模型学会区分真假，训练数据甚至不需要概率标注。
→ Qwen 基线在 curated eval 上 66%
→ Nimble 微调后 90%
→ Jev 是 93%
→ H100 上 100ms，MacBook 上也能跑
→ 无蒸馏、无 RL、parallel constrained decoding 推理
说实话，有个坑：作者自己说了，没有标准 benchmark 衡量这类模型的性能，Nimble 在其他评测上可能比 Jev 差很多。
而且有人指出这可能触犯了 Jev 的使用条款。
但打破的是这件事：4000 万美元融资的决策模型，被一个人用两天和 2,676 个样本追到了 3 个百分点以内。
国外大神真多，项目地址如下👇
github.com/bespokelabsai/…
g
Mahesh Sathiamoorthy
@madiator
Introducing Bespoke Nimble: an open data, open model, open recipe for an open Jev.
Code and info:
github.com/bespokelabsai/…
Model:
huggingface.co/bespokelabs/Be…
Data:
* A new data curation recipe called contrastive data curation.
* Slightly change facts to generate negative data. This pushes the model to discriminate better and become a better decision maker. The calibration is implicit.
* Didn't do ablations but I think this is a critical piece!
* This also means training data doesn't need probabilities.
* Data covered 10 categories, and is fully synthetic.
* This data is split into train and eval.
Training
* LoRA finetune of Qwen3.5-9B.
* Distillation-free: we use Jev to only evaluate.
* No RL yet!
Serving
* Parallel constrained decoding as suggested by
@NielsRogge
and
@harshagundal
.
Results:
* The post-trained Qwen (Nimble) became substantially better on our curated eval: 66% for Qwen to 90% for Nimble. Jev is at 93%.
* 100ms on H100 and free to use on your macbook! Feel the AGI for free.
* 2 days of building in public. :)
Big caveat is that there is no standard benchmark to measure performance, and it's possible Nimble is much worse on other benchmarks compared to Jev. But it should be better than Qwen!
We thank
@typesafeai
for making Jev and the inspiring discussions in the community. Hope this release lifts all the boats and encourages more research and activity in this space.
🔗 View Quoted Tweet