开源工具
x.com ·
@Tencent Hy (@TencentHunyuan)
腾讯混元发布 Hy4 preview:770B 参数,1M 上下文,吞吐量提升 31.8%
腾讯混元官方宣布 Hy4 preview 模型,770B 参数、49B 激活、1M 上下文,面向生产力场景。模型能自主发现推理瓶颈并通过算子融合和通信优化提升端到端吞吐量 31.8%,且在不同上下文长度和并发下保持稳定。已开源。
AI推荐理由 腾讯混元官方发布 Hy4 preview 模型,770B 参数、49B 激活、1M 上下文,并声称通过自发现推理瓶颈优化,吞吐量提升 31.8%。官方渠道,数据具体,开源可用,对 AI 研究和应用有重要价值。
90
浏览 34,055
点赞 461
评论 26
转发 32
正文
关于Hy4预览版还有一件特别有趣的事情。在AI研究中,Hy4预览版自己发现了推理瓶颈,并通过算子融合和通信优化将端到端吞吐量提升了31.8%——在各种上下文长度和并发下都保持稳定。更多信息:hy.tencent.ai 腾讯混元@TencentHunyuan 🚀 Hy4预览版来了。770B参数,49B激活,1M上下文。为生产力而生。开源前沿。价格一致且实惠。使用它。告诉我们哪里有问题。更多关于Hy的博客 hy.tencent.ai/research/hy4-p…C HuggingFace huggingface.co/tencent/Hy4-pr…R Github github.com/Tencent-Hunyua…L 🔗 查看引用推文 💬27🔄33❤️462👀34678📊82 ⚡ 由xgo.ing提供支持
查看原文(中文正文为 AI 翻译)
One more thing about Hy4 preview that is particularly interesting. In AI research. Hy4 preview found inference bottlenecks on its own and lifted e2e throughput 31.8% via operator fusion and comms opts — stable across context lengths and concurrency. MORE ON: hy.tencent.ai Tencent Hy@TencentHunyuan 🚀 Hy4 preview is here. 770B, 49B active, 1M context. Built for productivity. Open source frontier. Consistent affordable price. Use it. Tell us what breaks. More on Hy bloghy.tencent.ai/research/hy4-p…C HuggingFacehuggingface.co/tencent/Hy4-pr…R Githubgithub.com/Tencent-Hunyua…L 🔗 View Quoted Tweet 💬27🔄33❤️462👀34678📊82 ⚡ Powered by xgo.ing