大模型
全球精选 ·
arXiv研究：基于Transformer增强PPO的协作式MEC支持LLM推理
该论文研究在软截止时间约束下，利用协作移动边缘计算服务器为大型语言模型推理提供服务。作者提出一种基于Transformer增强PPO的学习方法，旨在优化任务调度与资源分配。工作聚焦于提升服务质量，属于边缘计算与LLM推理结合的交叉研究。
AI推荐理由 该研究为边缘侧LLM推理提供智能调度方案，可能降低云端依赖成本与响应延迟，使强化学习在资源分配中的实际价值更明确。
81
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。