大模型
arxiv.org ·
@Chien-Sheng Wu
训练推理模型生成多样化的科学想法
论文研究基于文档的科研想法生成,关注提升 LLM 生成想法的多样性并保证质量。给定已有论文,模型需提出一组各自高质量、彼此明显不同且扎根于输入文档的想法。作者提出集合级强化学习目标:单次生成中模型写出 K 张结构化想法卡,整组联合打分,每个想法的质量按其与之前想法的距离加权,从而引导模型让新想法偏离前序想法。摘要称训练后的 8B 模型取得更高指标。
AI推荐理由 研究基于文档的科研想法生成,指出多数工作只优化单个想法质量而忽视多样性,提出集合级强化学习目标:一次生成 K 张结构化想法卡,按每个想法质量与其相对前序想法的距离加权联合打分,促使新想法远离已有想法。摘要称训练后的 8B 模型取得更高指标,但未给出完整数值与评测细节。
68
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。