大模型
dev.to ·
@Rafael
6GB GPU 上 Qwen3 4B 与 0.6B 实测：速度、显存与回答质量对比
作者在 RTX 3060 Laptop 6GiB 显存、Ollama 0.40.6、Q4_K_M 量化、4096 上下文、temperature 0 条件下对比 qwen3:4b 与 qwen3:0.6b。小模型生成速度约为大模型 3 倍；大模型通过全部 6 项文档检查，小模型通过 4 项，为本地 RAG 选型提供初步参考。
AI推荐理由 作者在 RTX 3060 6GB 笔记本 GPU 上用 Ollama 实测 Qwen3 4B 与 0.6B 的速度、显存和文档问答质量，给出具体配置与结果（小模型约快 3 倍，大模型 6 项检查全过、小模型过 4 项），对本地 RAG 选型有参考价值；但属个人单机实验，样本小、未复现。
72
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。