最新资讯
reddit.com OpenAI 称 Astra 仅满足 10% 安全任务标准 dev.to FreeToken:在自有 GPU 上运行前沿 MoE 模型及其内存需求 dev.to 当 AI Agent 说“完成”时,究竟完成了什么? dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者 techcrunch.com Palo Alto Networks 洽谈以 5 亿美元收购 AI Agent 安全初创公司 Clutch theinformation.com 黄仁勋被要求就涉华间谍指控向国会作简报 www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离 wechat 这波杀疯了!旗舰级模型不限量、1个月视频额度免费领 bloomberg.com AI 抛售蔓延至信用市场,软银领跌亚洲美元债 dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露
多元动态
登录 注册
大模型 arxiv.org · @Anas Ezzakri, Nicola Piovesan, Mohamed Sana, Antonio De Domenico, Fadhel Ayed, Haozhe Zhang

TeleTables:电信表格理解的大语言模型基准

原文 我的收藏

该论文介绍TeleTables基准,包含来自13个3GPP规范的2220个表格和500个人工验证的多选题,用于评估LLM在电信表格理解上的能力。研究发现,在闭卷设置下,通用模型准确率不超过41%;提供表格作为上下文时,最佳模型可超过90%,但性能随推理深度和结构复杂性下降。

AI推荐理由 该论文提出了TeleTables基准,包含2220个表格和500个多选题,评估20个开源LLM在电信表格理解上的表现,揭示了领域知识和推理深度的瓶颈。信息具体,来源为arXiv预印本,但尚未经同行评审,且为特定领域基准,对通用AI应用价值中等。

78

正文

计算机科学 > 计算与语言 arXiv:2601.04202 (cs) [提交于2025年12月5日(v1),最后修订于2026年9月4日(本版本,v2)] 标题:TeleTables:电信表格解释中大型语言模型的基准 作者:Anas Ezzakri, Nicola Piovesan, Mohamed Sana, Antonio De Domenico, Fadhel Ayed, Haozhe Zhang 查看论文PDF,标题为“TeleTables:电信表格解释中大型语言模型的基准”,作者:Anas Ezzakri及其他5位作者 查看PDF HTML(实验性) 摘要:大型语言模型(LLM)越来越多地应用于电信工程任务,但在3GPP规范上表现不佳。这些标准将大量技术信息编码在复杂表格中,但LLM对此类表格的知识和解释在很大程度上仍未得到探索。我们引入了TeleTables,一个基准,包含来自13个3GPP规范的2,220个表格,涵盖四种格式,以及500个人工验证的单项选择题,范围从直接检索到多步推理。评估了20个开放权重LLM,涵盖非推理、多模态、推理和表格专用架构,揭示了两个不同的性能瓶颈。在闭卷设置中,领域知识是主要限制,没有通用模型超过41%的准确率。当表格作为上下文提供时,最佳模型超过90%,但性能随推理深度、证据范围和结构复杂性而系统性下降,推理技能之间的差距为32.2个百分点。在非电信数据上的表格专业化没有提供一致的好处,而强大的推理能力对于可靠解释复杂技术表格仍然至关重要。 主题: 计算与语言(cs.CL);人工智能(cs.AI);机器学习(cs.LG) 引用为: arXiv:2601.04202 [cs.CL] (或 arXiv:2601.04202v2 [cs.CL] 用于此版本) https://doi.org/10.48550/arXiv.2601.04202 聚焦以了解更多 arXiv发布的DOI通过DataCite 提交历史 来自:Nicola Piovesan博士 [查看电子邮件] [v1] 2025年12月5日,星期五 15:47:00 UTC(326 KB) [v2] 2026年9月4日,星期五 15:40:04 UTC(907 KB) 全文链接: 访问论文: 查看论文PDF,标题为“TeleTables:电信表格解释中大型语言模型的基准”,作者:Anas Ezzakri及其他5位作者 查看PDF HTML(实验性) TeX源 查看许可证 当前浏览上下文: cs.CL 新 | 最近 | 2026-01 更改为浏览: cs cs.AI cs.LG 参考文献与引用 NASA ADS Google Scholar Semantic Scholar 导出BibTeX引用 加载中... BibTeX格式引用 × 加载中... 数据提供者: 书签 书目工具 书目与引用工具 书目浏览器切换 书目浏览器(什么是浏览器?) 关联论文切换 关联论文(什么是关联论文?) Litmaps切换 Litmaps(什么是Litmaps?) scite.ai切换 scite智能引用(什么是智能引用?) 代码、数据、媒体 与本文相关的代码、数据和媒体 alphaXiv切换 alphaXiv(什么是alphaXiv?) 代码链接切换 CatalyzeX论文代码查找器(什么是CatalyzeX?) DagsHub切换 DagsHub(什么是DagsHub?) GotitPub切换 Gotit.pub(什么是GotitPub?) Huggingface切换 Hugging Face(什么是Huggingface?) ScienceCast切换 ScienceCast(什么是ScienceCast?) 演示 演示 Replicate切换 Replicate(什么是Replicate?) Spaces切换 Hugging Face Spaces(什么是Spaces?) Spaces切换 TXYZ.AI(什么是TXYZ.AI?) 相关论文 推荐与搜索工具 影响之花链接 影响之花(什么是影响之花?) 核心推荐器切换 CORE推荐器(什么是CORE?) 作者 会议地点 机构 主题 关于arXivLabs arXivLabs:与社区合作者的实验项目 arXivLabs是一个框架,允许合作者直接在我们的网站上开发和分享新的arXiv功能。 与arXivLabs合作的个人和组织都接受并认可我们的开放性、社区、卓越和用户数据隐私价值观。arXiv致力于这些价值观,并且只与遵守这些价值观的合作伙伴合作。 有一个能为arXiv社区增加价值的项目想法吗?了解更多关于arXivLabs的信息。 这篇论文的哪些作者是背书人? | 禁用MathJax(什么是MathJax?)
查看原文(中文正文为 AI 翻译)
Computer Science > Computation and Language arXiv:2601.04202 (cs) [Submitted on 5 Dec 2025 (v1), last revised 4 Sep 2026 (this version, v2)] Title:TeleTables: A Benchmark for Large Language Models in Telecom Table Interpretation Authors:Anas Ezzakri, Nicola Piovesan, Mohamed Sana, Antonio De Domenico, Fadhel Ayed, Haozhe Zhang View a PDF of the paper titled TeleTables: A Benchmark for Large Language Models in Telecom Table Interpretation, by Anas Ezzakri and 5 other authors View PDF HTML (experimental) Abstract:Large Language Models (LLMs) are increasingly applied to telecom engineering tasks, yet perform poorly on 3GPP specifications. These standards encode much of their technical information in complex tables, but LLM knowledge and interpretation of such tables remain largely unexplored. We introduce TeleTables, a benchmark comprising 2,220 tables from 13 3GPP specifications in four formats and 500 human-verified MCQs spanning direct retrieval to multi-step reasoning. Evaluating 20 open-weight LLMs across non reasoning, multimodal, reasoning, and table specialized architectures reveals two distinct performance bottlenecks. In the closed-book setting, domain knowledge is the primary constraint, with no general-purpose model exceeding 41% accuracy. When the table is provided as context, the best models exceed 90%, but performance degrades systematically with reasoning depth, evidence scope, and structural complexity, with a 32.2pp spread across reasoning skills. Table specialization on non-telecom data provides no consistent benefit, while strong reasoning capabilities remain essential for reliable interpretation of complex technical tables. Subjects: Computation and Language (cs.CL); Artificial Intelligence (cs.AI); Machine Learning (cs.LG) Cite as: arXiv:2601.04202 [cs.CL] (or arXiv:2601.04202v2 [cs.CL] for this version) https://doi.org/10.48550/arXiv.2601.04202 Focus to learn more arXiv-issued DOI via DataCite Submission history From: Nicola Piovesan PhD [view email] [v1] Fri, 5 Dec 2025 15:47:00 UTC (326 KB) [v2] Fri, 4 Sep 2026 15:40:04 UTC (907 KB) Full-text links: Access Paper: View a PDF of the paper titled TeleTables: A Benchmark for Large Language Models in Telecom Table Interpretation, by Anas Ezzakri and 5 other authors View PDF HTML (experimental) TeX Source view license Current browse context: cs.CL new | recent | 2026-01 Change to browse by: cs cs.AI cs.LG References & Citations NASA ADS Google Scholar Semantic Scholar export BibTeX citation Loading... BibTeX formatted citation × loading... Data provided by: Bookmark Bibliographic Tools Bibliographic and Citation Tools Bibliographic Explorer Toggle Bibliographic Explorer (What is the Explorer?) Connected Papers Toggle Connected Papers (What is Connected Papers?) Litmaps Toggle Litmaps (What is Litmaps?) scite.ai Toggle scite Smart Citations (What are Smart Citations?) Code, Data, Media Code, Data and Media Associated with this Article alphaXiv Toggle alphaXiv (What is alphaXiv?) Links to Code Toggle CatalyzeX Code Finder for Papers (What is CatalyzeX?) DagsHub Toggle DagsHub (What is DagsHub?) GotitPub Toggle Gotit.pub (What is GotitPub?) Huggingface Toggle Hugging Face (What is Huggingface?) ScienceCast Toggle ScienceCast (What is ScienceCast?) Demos Demos Replicate Toggle Replicate (What is Replicate?) Spaces Toggle Hugging Face Spaces (What is Spaces?) Spaces Toggle TXYZ.AI (What is TXYZ.AI?) Related Papers Recommenders and Search Tools Link to Influence Flower Influence Flower (What are Influence Flowers?) Core recommender toggle CORE Recommender (What is CORE?) Author Venue Institution Topic About arXivLabs arXivLabs: experimental projects with community collaborators arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website. Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them. Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs. Which authors of this paper are endorsers? | Disable MathJax (What is MathJax?)

来源报道 · 4 篇 · 以下链接均前往原始媒体

aihot::arXiv - LLM TeleTables:电信表格理解的大语言模型基准 09-07 · 原文发布
Anas Ezzakri, Nicola Piovesan, Mohamed Sana, Antonio De Domenico, Fadhel Ayed, Haozhe Zhang TeleTables:电信表格理解的大语言模型基准 09-07 · 原文发布
Anas Ezzakri, Nicola Piovesan, Mohamed Sana, Antonio De Domenico, Fadhel Ayed, Haozhe Zhang TeleTables:电信表格理解的大语言模型基准 09-07 · 原文发布
Anas Ezzakri, Nicola Piovesan, Mohamed Sana, Antonio De Domenico, Fadhel Ayed, Haozhe Zhang TeleTables:电信表格理解的大语言模型基准 09-07 · 原文发布
← 返回精选动态 原文

更多内容