大模型
arstechnica.com ·
@Kyle Orland
报道称 AI 幻觉生成错误情报,美军几乎登临中国船只
CNN 报道称,美国特种作战司令部一名分析员借助聊天机器人分析中国船只舱单情报,AI 将开源情报与机密信号情报融合后错误识别船上材料,形成“完全虚假”的情报报告,美军一度准备在 air support 配合下拦截登船,官员发现错误后中止。一名消息源称此事“几乎引发战争”。文章同时提到 DoD 的 AI 加速战略、GenAI.mil 平台采用 Google Gemini 与 Grok、Anthropic 为美国情报工作提供定制 Claude,以及 150 万 DoD 人员已使用生成式 AI 工具。
AI推荐理由 据 CNN 报道(转引四名知情人士),美国特种作战司令部一名分析员用聊天机器人分析中国船只舱单情报,AI 将开源情报与机密信号情报融合后错误识别所载材料,导致美方一度准备空中支援拦截登船,官员发现后才中止;一名消息源称“几乎引发战争”。这是 AI 幻觉造成高后果决策风险的罕见具体案例,并附有 DoD 的 AI 加速战略、GenAI.mil 采用 Gemini 与 Grok、Anthropic 为情报工作提供定制 Claude、150 万 DoD 人员使用生成式 AI 等背景。局限:核心事实来自 CNN 匿名信源转述,无官方确认,具体模型与时间线未披露,需保留不确定性。
78
正文
AI hallucination of Chinese nuclear components almost led to US military attack 原文地址: https://arstechnica.com/ai/2026/09/report-us-almost-boarded-chinese-ship-over-hallucinated-ai-arms-report/