美国前国家情报副局长Karen Gibson
世界新兴安全论坛(WESF)

“私营部门确实在国家安全中承担着日益重要的角色。但若认为政府无需与技术开发者建立某种持续合作关系,便能监管其并不深入了解的技术,也将是一个错误。”


前美国国家情报局副局长Karen Gibson在首尔君悦酒店接受阿视亚经济采访。记者Cho Yongjun摄

前美国国家情报局副局长Karen Gibson在首尔君悦酒店接受阿视亚经济采访。记者Cho Yongjun摄

View original image

美国前国家情报副局长Karen Gibson于9月9日为出席“世界新兴安全论坛”访问首尔期间,接受阿视亚经济采访时强调了人工智能和网络技术的军民两用属性。


作为已退役的美国陆军中将,Gibson服役33年,曾在情报和网络空间领域担任高级职务。她曾任美国国家情报总监办公室国家情报副局长、美国中央司令部情报主管及美国陆军网络司令部副司令。退役后,她于2021年至2025年担任美国参议院警卫官。目前,她是战略与国际问题研究中心的非常驻高级研究员。


Gibson表示,人工智能可以协助人类决策,但在动用核武器等高风险领域,决策权必须保留在人类手中。她还指出,传统威慑概念难以直接适用于网络空间:网络攻击溯源困难,恶意行为者不仅包括国家,也包括犯罪组织。她称,与其试图阻止所有网络攻击,韩国应构建即便受到干扰仍能持续完成任务的韧性系统。


Karen Gibson前美国国家情报局副局长在首尔君悦酒店接受阿视亚经济采访。Jo Yongjun记者供图

Karen Gibson前美国国家情报局副局长在首尔君悦酒店接受阿视亚经济采访。Jo Yongjun记者供图

View original image

问:您是否认为私营企业正成为国家安全行为主体?


答:人工智能和网络技术具有军民两用属性。政府并不垄断这些技术的开发。

由于政府在专业能力和获取渠道方面存在一些问题,这些能力大多将来自私营部门。私营部门确实在国家安全中承担着日益重要的角色。但期待私营企业制定如何保护这些技术的政策并不现实。与此同时,若认为政府无需与技术开发者建立某种持续合作关系,便能监管其并不深入了解的技术,也将是一个错误。

双方需要分工。行业应负责了解自身技术、测试危险能力、确保模型安全、报告事件,并接受更严格的评估。政府则需要了解这些技术进入的战略系统,并设定边界。政府必须保留人类决策权,并决定社会可以接受哪些风险。这需要双方建立伙伴关系。


问:在军事决策中,应在多大程度上允许人工智能取代人类判断?


答:有些情况下由机器作出决策是安全的,但也有些情况下绝对不能由机器作出决定。可分为三类:在低风险、低后果情境下,机器可以作出决策;其他情境需要人类监督;第三类包括动用核武器等决策,必须由人类控制。我们不应让机器成为决策者,而应建立人机团队,让机器辅助人类决策。

在后果不可接受的领域,我们需要设置防护措施,防止机器或人工智能独立行动。


问:使用核武器是否是一条明确的红线?


答:这是一条非常明确的红线,绝对必须由人类作出决定。如果是平民和无辜非战斗人员众多的人口密集城市地区,我不会允许机器作出决定。如果是仅涉及战斗人员的战场,也许可以成为接受机器决策的领域。关键在于明确哪些领域不允许机器作出决定。


问:是否应允许人工智能就平民与战斗人员的区分作出判断?


答:在许多领域,我们不应允许人工智能取代人类判断。有些时间和地点可以由机器作出决定。如果后果极小,在某些情形下我们可以信任机器。但还有其他领域,我不会信任机器。这些领域必须坚持保留人类判断。首先要评估各种基于机器的决策所带来的风险和后果。


问:当人工智能、网络能力和核武器相互融合时,您最担忧什么?


答:如果谈到这三种技术的融合,若出现数据可能遭到篡改的情境,我就会开始担忧。对于人工智能可能给出的答案,我们需要保持“健康的怀疑态度”。有两个极端应当避免:一是自动化偏见,即百分之百相信人工智能提供的信息,从不质疑;二是自动化排斥,即不相信人工智能提供的任何信息。我们不能将自身的判断职责完全交给人工智能,必须继续行使人类判断。


问:如果台海发生冲突,您认为中国会试图干扰商业低地球轨道卫星网络吗?


答:我认为他们很可能会这样做。我不知道这是否是最严重的担忧,但台湾方面应当意识到这一点,并通过构建冗余且具韧性的能力加以应对。

Gibson表示,广泛可得且成本低廉的系统有一项优势,即使他人更难彻底剥夺通信能力。


问:韩国近期发生了针对政府网络的网络攻击,其中包括与国家安全相关的系统。美国政府也披露,与中国有关联的黑客曾攻击政府机构和关键基础设施。若先进人工智能代理被广泛用于国家支持的网络行动,现有网络威慑战略是否仍将有效?


答:网络威慑是许多政府一直难以建立的能力。认为用于核武器的威慑战略同样适用于网络空间,这种类比并不完善。

实施网络攻击的并非都是国家行为者,其中还有犯罪分子和勒索软件团伙。网络空间还存在“溯源难题”。你并不总能确定是谁实施了攻击,这使威慑更加复杂。恶意网络活动时刻都在发生。相比之下,核交锋具有极强的灾难性,且结果往往非此即彼。我们一直面临恶意网络活动,其他领域的威慑概念难以直接转化为网络威慑。


问:难以识别攻击者是否会削弱网络威慑的效果?


答:这无疑会使问题更加复杂,也使威慑更具挑战性。如果攻击者知道自己不会被识别出来,“那就谈不上多少威慑力了。”


问:韩国最迫切应加强哪些网络和人工智能安全能力?



答:认为能够完全防止网络攻击并不现实,这是一个不可能达到的高标准。与其试图彻底防止干扰,韩国应确保拥有韧性系统,即使受到干扰,也不会完全无法完成任务。这需要重点建设冗余能力、分散部署、替代通信方式、分布式太空架构、加固设施、分布式后勤以及快速恢复能力。同时,不要忽视在能力受损环境下继续运作的能力。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点