“险些爆发战争”……美军轻信AI生成的虚假信息，欲袭击中国船只
据悉，美军曾依据人工智能（AI）生成的错误信息，准备对一艘中国船只实施军事行动，但在执行前发现错误并中止了行动。
据美国有线电视新闻网（CNN）18日（当地时间）报道，今年春季伊朗战争进行期间，美军内部流传一份情报报告，称一艘航行于中东地区的中国船只正在运输与核武器计划有关的零部件。
美军随即着手开展拦截该船只的行动。当时，武装人员已准备登船，军机也已起飞。
但在行动实施前重新审查报告内容的过程中，问题浮出水面。经确认，这份情报由一名隶属特种作战司令部的分析员借助人工智能聊天机器人撰写，而该聊天机器人错误判断了船上装载的货物。
一名消息人士就该报告评价称：“完全是虚假的。”其向CNN表示，这起事件“险些引发战争”。报道称，若美军实际对中国船只展开行动，事态可能升级为中美军事冲突。
据悉，这份存在问题的情报报告，是一名分析员将美国太平洋特种作战司令部获取的、与中国船只货物清单有关的信息输入人工智能聊天机器人后生成的。
人工智能综合分析公开可获取的信息以及美国政府掌握的机密信号情报后，得出该船只货物与中国核武器计划有关的结论。然而，这一判断本身就是错误的。
据悉，该分析员依据人工智能得出的内容，按照美军使用的标准情报报告格式撰写文件，并在内部发布。
CNN指出，在美国国防部和情报机构迅速扩大人工智能应用的背景下，此案表明，若人类未能充分核实人工智能生成的错误信息，可能导致军事误判。
美国国防部长Pete Hegseth今年1月发布“人工智能加速战略”，正在扩大人工智能在情报分析、目标选定等各类军事业务中的应用。
但据悉，美国政府各机构所使用的人工智能工具和安全标准各不相同，对于应通过何种程序验证人工智能生成的信息，也尚未建立充分统一的标准。
尤其是，将人工智能应用于军事目标选定流程的案例不断增加，被认为是一个问题。
部分情报官员担忧，引入人工智能反而可能提高情报分析过程中出现错误的概率。他们认为，人工智能能够更快地生成和分发信息，也可能加大分析员在处理速度方面承受的压力。
随着人工智能应用扩展至军事领域的各个层面，预计此次事件将促使外界呼吁建立针对人工智能生成信息的核验机制、责任认定机制，以及保障人类最终判断的程序。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
