最新资讯
dev.to 我们在 DolphinBench 上测试记忆检索:纯关键词搜索暴露了自身回归 dev.to 别再把 Agent 写成 while 循环,把它建模为状态机 bloomberg.com Rightmove 与 Scout24 借 AI 产品应对低迷房市并上调展望 stackoverflow.blog 欢迎来到芯片时代:半导体制造、AI 数据中心与芯片设计的未来 www.youtube.com AI Agent 总犯同样的错:CentralAgent AI 将记忆重构为经验系统 pub.towardsai.net Netflix 科学家建议重采样 LLM 评判:5 次仅将误差棒缩小 13% pub.towardsai.net Jev 作为 LLM 前的静默层:构建提示感知的模型路由器 reddit.com OpenAI 称 Astra 仅满足 10% 安全任务标准 dev.to FreeToken:在自有 GPU 上运行前沿 MoE 模型及其内存需求 dev.to 当 AI Agent 说“完成”时,究竟完成了什么? dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者
多元动态
登录 注册
大模型 arxiv.org · @Ehsaneddin Asgari

多语言 LLM 非参数记忆推理:关系知识的认知式分析

原文 我的收藏

研究在提示中直接给出事实、而非依赖检索的条件下,考察语言模型对上下文关系的推理能力。作者构建 Rel-Bloom 受控多语言诊断集:基于 30 个 Wikidata 关系生成 450 道多选题,按 Bloom 五层级(记忆、理解、应用、分析、评价)和三种真实性条件(事实、反事实、中性化)实例化。在 43 个模型、6 种语言、两种多语言设置下共 226,800 次预测中,所有受评开源权重模型系列从 Apply 到 Analyze 准确率大幅下降(Large Granite 组达 47.2 个百分点),而两个 Gemini 模型未出现该下降;Evaluate 项仍是瓶颈。

AI推荐理由 该论文提出 Rel-Bloom 受控多语言诊断基准(450 道多选题、30 个 Wikidata 关系、5 个 Bloom 层级、3 种真实性条件),在 43 个模型、6 种语言、226,800 次预测上评估上下文关系推理。具体新信息是:所有受评开源权重模型系列从 Apply 到 Analyze 准确率骤降(Large Granite 达 47.2 个百分点),而 Gemini 模型未出现该现象;Evaluate 项仍是瓶颈。这为 RAG 依赖的“证据条件关系推理”提供了可验证的量化证据,对模型评测与 Agent 落地有参考价值。局限:仅摘要片段,Evaluate 结论被截断,未给出完整方法与误差分析;基准为多选题诊断,不能直接外推真实 RAG 场景。

78

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容