最新资讯
reddit.com OpenAI 称 Astra 仅满足 10% 安全任务标准 dev.to FreeToken:在自有 GPU 上运行前沿 MoE 模型及其内存需求 dev.to 当 AI Agent 说“完成”时,究竟完成了什么? dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者 techcrunch.com Palo Alto Networks 洽谈以 5 亿美元收购 AI Agent 安全初创公司 Clutch theinformation.com 黄仁勋被要求就涉华间谍指控向国会作简报 www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离 wechat 这波杀疯了!旗舰级模型不限量、1个月视频额度免费领 bloomberg.com AI 抛售蔓延至信用市场,软银领跌亚洲美元债 dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露
多元动态
登录 注册
大模型 byteshape.com · @syntaxing

ByteShape 发布 Qwen 3.8 27B 完整 ShapeLearn GGUF 量化版

原文 我的收藏

ByteShape 在 Qwen 3.8 27B(2026 年 8 月 14 日发布)之后先推出优化预算较小的 ShapeLearn-Lite,现发布完整 ShapeLearn 量化版本。每个 GGUF 内置 MTP 草稿头,DFlash2 则使用独立的 1.1 GB 草稿模型,需 llama.cpp b10658 或更新版本。作者称完整版在六种 GPU 对比中均处于质量-速度前沿,GPU-5 达到 BF16 聚合基准分的 99.63%,GPU-4 以 11.0 GB 体积达到 98.72% 且更快;投机解码可提升所有测试模型的吞吐,DFlash2 通常更快但更耗内存且不支持图像输入。上述数据均为作者自测,未提供第三方验证。

AI推荐理由 ByteShape 发布 Qwen 3.8 27B 的完整 ShapeLearn GGUF 量化版本,给出 llama.cpp 运行命令、MTP 与 DFlash2 两种投机解码方案,并声称在六种 GPU 对比中全部位于质量-速度前沿(GPU-5 达 BF16 聚合基准的 99.63%)。这些数字来自作者自测,未提供第三方复现,且对比对象 Bartowski 最新模型未纳入,结论需谨慎看待;但对本地部署 27B 模型的开发者有直接参考价值。

72

正文

Shapelearn Qwen 3.8 27B (13.1 GB VRAM) 👉 100 HN Points: https://news.ycombinator.com/item?id=49749393 原文地址: https://byteshape.com/blogs/Qwen3.8-27B/

来源报道 · 3 篇 · 以下链接均前往原始媒体

buzzing::byteshape.com ByteShape 发布 Qwen 3.8 27B 完整 ShapeLearn GGUF 量化版 09-18 · 原文发布
← 返回精选动态 原文

更多内容