行业动态
dev.to ·
@ahmad hassan
把 RAG 租户隔离做进向量索引内部
文章讨论多用户 RAG 应用的租户隔离问题:常见做法是先在整个集合中检索最相近的 chunk,再丢弃不属于当前用户的结果。作者指出该做法在单机测试中不会暴露问题,但在真实多用户场景下,其他用户的 chunk 会占用请求的 top-k 名额,过滤后可能只剩一两条甚至为空,导致回答质量静默下降;且一旦漏掉一行过滤代码,就会把他人文档带入回答。作者主张把用户过滤条件下推到向量检索本身。
AI推荐理由 指出多租户 RAG 的常见错误:先全库检索再过滤会挤占 top-k 名额并导致答案质量下降甚至越权泄露,主张把用户过滤条件下推到向量检索内部;问题具体、有工程价值,但为经验性论述,未给出基准数据。
70
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。