先了解这件事
据 CNN 报道,今年春天美伊战争期间,美国特种作战司令部一名分析师用聊天机器人分析一艘中东中国船只的舱单,生成的情报报告错误称船上载有核武器项目部件。美军一度准备在空中支援下武装登船拦截,军机已升空,行动前数分钟才发现聊天机器人误读了货物清单,报告内容完全不实。
该聊天机器人将开源情报与机密信号情报融合,分析师又用它将错误结论格式化成官方摘要下发。有消息人士称此事几乎引发战争。报道称美军各部门 AI 工具分散部署、多为商业产品改版,缺乏统一核验标准,年轻分析师易不加质疑地信任 AI 工具,而 AI 辅助目标选定正在增多、人机协同缺乏明确规范。美国国防部今年 1 月还推出了 AI 加速战略,推动跨系统数据供 AI 使用。
Gary Marcus 称,他曾在美国参议院警告 AI 生成的不准确信息可能引发意外战争,这一风险如今正在显现。
AI 根据报道生成 · 10 月 17 日更新最新进展
美军因AI幻觉情报报告险些登船检查中国船只
事件进展2
Gary Marcus 评论 Trump 因经济原因淡化 AI 风险,AI 幻觉情报报告几乎引发战争
Gary Marcus:The Road to AI We Can Trust:Gary Marcus:特朗普力挺 AI 的真实原因,以及为何这可能是个坏主意美军因 AI 幻觉情报报告险些拦截中国船只
Hacker News:AI 热帖:美军因 AI 幻觉情报报告险些拦截中国船只