大模型
byteshape.com ·
@syntaxing
ByteShape 发布 Qwen 3.8 27B 完整 ShapeLearn GGUF 量化版
ByteShape 在 Qwen 3.8 27B(2026 年 8 月 14 日发布)之后先推出优化预算较小的 ShapeLearn-Lite,现发布完整 ShapeLearn 量化版本。每个 GGUF 内置 MTP 草稿头,DFlash2 则使用独立的 1.1 GB 草稿模型,需 llama.cpp b10658 或更新版本。作者称完整版在六种 GPU 对比中均处于质量-速度前沿,GPU-5 达到 BF16 聚合基准分的 99.63%,GPU-4 以 11.0 GB 体积达到 98.72% 且更快;投机解码可提升所有测试模型的吞吐,DFlash2 通常更快但更耗内存且不支持图像输入。上述数据均为作者自测,未提供第三方验证。
AI推荐理由 ByteShape 发布 Qwen 3.8 27B 的完整 ShapeLearn GGUF 量化版本,给出 llama.cpp 运行命令、MTP 与 DFlash2 两种投机解码方案,并声称在六种 GPU 对比中全部位于质量-速度前沿(GPU-5 达 BF16 聚合基准的 99.63%)。这些数字来自作者自测,未提供第三方复现,且对比对象 Bartowski 最新模型未纳入,结论需谨慎看待;但对本地部署 27B 模型的开发者有直接参考价值。
72
正文
Shapelearn Qwen 3.8 27B (13.1 GB VRAM) 👉 100 HN Points: https://news.ycombinator.com/item?id=49749393 原文地址: https://byteshape.com/blogs/Qwen3.8-27B/