2026年春季,深夜的阿拉伯海,美国海军的侦察机在空中低鸣,一支全副武装的海豹突击队准备对一艘航行中的中国货船进行突袭。他们的任务是登船控制,对于情报显示该船运输核武器相关部件的情况展开搜查。然而,就在行动即将实施的关键时刻,一名军官决定再次确认情报来源。
经过仔细审核后,军官发现这份情报竟是由一个AI聊天机器人生成的,且判断明显错误。由于此番误判,原本即将执行的行动被临时叫停。回顾整个事件,美军高层无不心有余悸,甚至连特朗普都感到了恐惧。假如再晚几分钟发布“停”的指令,可能导致的后果将不堪设想。
这起事件的发生过程显得尤为惊人。当时美军正联合以色列对伊朗进行军事行动,特种作战司令部因此进入高度戒备状态。在此背景下,太平洋特种作战司令部获得了关于中国货船货物的情报。一名情报分析员在任务指引下,选择使用AI工具进行判断,而非查找其他信息或进行核实。结果AI给出的结论误认为该船与核武器计划相关。 千亿球友会
分析员毫不怀疑地将该结论整理成报告并传播开来。这份报告经过两次AI处理,虽然看似不同步骤,实际上只是对同一错误的重新包装。AI创造了一个虚假的信息,再将其以专业的形式呈现。这种误判的根源在于所谓的“AI幻觉”,即AI在处理信息时可能产生的错误输出,导致决策者在缺乏全面验证的情况下草率行动。