大模型
website ·
[持续跟踪] 腾讯混元推出 Hy4 preview 轻量版：214GB 权重可本地运行
腾讯混元通过自研 Sherry 稀疏三值量化算法与 MIX-STQ1_0 混合精度策略，将 Hy4 preview 权重从约 1.5TB 压缩至约 214GB，并在 llama.cpp 中实现 STQ1_0 推理内核。轻量版在保持基本任务能力的同时，大幅降低自托管硬件门槛。
AI推荐理由 模型压缩技术降低了本地部署大模型的门槛，对需要自托管模型的 AI 从业者具有实际意义。
91
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。