基于 WebGPU、Transformers.js、MediaPipe 与 OPFS 的零后端浏览器端 RAG

开发者文章介绍如何在浏览器标签页内运行完整的 RAG 流程：用 WebGPU 计算着色器执行张量运算，Transformers.js v3 做 embedding，MediaPipe 辅助处理，OPFS 作为二进制向量缓存，从而避免云端向量数据库和外部 embedding API。作者称该方案适用于亚 10ms 级按键搜索、离线可用和用户文档零外发的隐私场景，并解释了 WebGPU 相比 WebGL 更适合通用张量计算的原因。文中未给出具体基准数据。

AI推荐理由 文章给出一种可复用的技术方案：用 WebGPU 计算着色器、Transformers.js v3、MediaPipe 和 OPFS 在浏览器内完成 embedding、向量索引与合成，面向低延迟、离线与零数据外发的 RAG 场景，对开发工具和端侧 AI 应用有实际参考价值；但属于个人博客教程，性能数字多为定性描述，缺少基准测试。