据《东方日报》报道，今年春季，美国军方在中东地区险些因一份人工智能（AI）生成的错误情报，对一艘中国船只采取军事行动。
该情报声称这艘中国船只正在中东地区向伊朗运输核武器相关零部件。美军随即制定作战计划，准备派全副武装的士兵登船，并出动战机。直到行动前夕，官员复核时才发现，这份情报竟是一名分析人员用AI生成的——AI将开源情报与内部信息混合处理后，给出了完全虚假的判断。
这不是“AI失控”，而是“人放弃了核实”。
AI的厉害之处，在于它能迅速整理资料、归纳文字，把零散内容组合成看似逻辑严密的答案。问题也恰恰在这里：它可以把错误说得很像正确，把未知说得很确定，却不会因为“不知道”而自动闭嘴。
因此，真正危险的并不是AI犯错，而是人类失去了核查的习惯。过去我们看到一则消息，会问来源在哪里、是谁说的；今天，我们却可能把这些问题交给AI，直接问一句：“这是真的吗？”然后让AI替我们回答。久而久之，人就从“使用工具”，变成了“依赖工具”；从“让AI辅助思考”，变成了“让AI代替思考”。
AI并不是万能的。它只是工具，而且是一个能力很强、但仍然可能犯错的工具。汽车有导航，不代表司机可以闭著眼睛开车；飞机有自动驾驶，也不代表机师可以离开驾驶舱。让AI做副驾驶，而不是指挥官。
尤其在军事情报领域，多源交叉验证、人工复核、来源追溯，以及清楚的责任制度，都不能因为AI出现而被省略。AI可以协助分析，但不能成为责任的避风港。
中国国防部发言人蒋斌在回应此事时也强调，人工智能应用应当秉持“以人为本”“由人主导”的原则，确保武器系统始终处于人类控制下。越是重要的事情，越需要人的判断、查证与责任。
AI给出的情报，必须以人工情报复检。今天面对AI，我们需要的不是拒绝AI，而是拒绝盲从AI；不是害怕AI犯错，而是警惕自己因为方便，而懒得查证。
AI可以替我们节省时间，却不能替我们承担判断的后果。当一个人连真假都不愿意核对，只因为答案来自AI便照单全收，那么，AI再先进，也只是在帮助人类把错误做得更快。
答案越容易得到，人工核实就越珍贵。
而核实这件事，AI替不了人的责任。
本文观点，不代表《东方日报》立场。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
