大模型
pub.towardsai.net ·
@Christopher Alberto Hamonangan
更小模型，更好记忆：为何 Qwen2.5-1.5B 优于 3B（及我们的四个假设）
作者基于开源基准 SRRM 测试小语言模型长上下文记忆保持时发现缩放异常：Qwen2.5-1.5B 在定向检索准确率和全局摘要重建上均优于 Qwen2.5-3B，并提出四个假设解释该现象。
AI推荐理由 基于开源基准 SRRM 发现 Qwen2.5-1.5B 在长上下文记忆上优于 3B 的缩放异常，并提出四个假设，对小模型部署有参考价值，但论文发布于 Academia.edu，需进一步验证。
65
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。