开源工具
marktechpost.com ·
@Asif Razzaq
LEANN:开源向量索引将 6000 万 chunk 的 RAG 索引从 201GB 压到 6GB
UC Berkeley 的 LEANN 向量索引通过存储剪枝图并在查询时重算 embedding,据称可将 6000 万 chunk 的 RAG 索引从 201 GB 降至 6 GB;在 90% 召回率下以 4 GB 达到 HNSW 精度(对比 188 GB),代价是秒级检索延迟。相关数据来自项目方,尚缺独立复现。
AI推荐理由 MarkTechPost 介绍 UC Berkeley 的 LEANN 开源向量索引:存储剪枝图并在查询时重算 embedding,据称可将 6000 万 chunk 的 RAG 索引从 201 GB 压缩到 6 GB,在 90% 召回率下用 4 GB 达到 HNSW 精度(对比 188 GB),代价是秒级检索延迟。对 RAG 成本与部署有实际参考价值;但数据来自项目方口径,摘要未提供基准测试细节与独立复现。
74
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。