阿视亚经济“2026女性领袖论坛”特别演讲
"技术发展的‘方向’很重要……人性才是竞争力"
国民统合委员会顾问 Kim Myeongja 强调,面对人工智能的快速演进,亟须建立安全保障机制,管控技术发展。人工智能创新虽无法停止,但必须调节技术发展速度,确保其不超出人类的控制范围,并由国际社会共同应对。
18日,Kim Myeongja 在首尔中区 The Grand Lotte Seoul 出席阿视亚经济主办的“2026女性领袖论坛”特别演讲,以“多重危机时代:我与我们前行的道路”为主题发表演讲,并提出在人工智能文明大转型时期,人类所需的课题包括保持控制力、加强国际合作以及恢复人之所以为人的特质。她表示:“必须调节技术发展速度,使其不超出人类的控制范围;还应成立监测人工智能风险的国际组织,并推动国家间合作。”
国民统合委员会顾问Kim Myeongja于18日在首尔中区The Grand Lotte Seoul举行的“2026女性领袖论坛”上,以“多重危机时代,我与我们前行的道路”为题发表特别演讲。论坛由阿视亚经济主办。摄影:Kang Jinhyeong
View original imageKim Myeongja 指出,人工智能技术发展速度急剧加快,且其运行方式并不透明。她表示:“最令人担忧的是,人工智能已经能够创造人工智能。就连如今开发人工智能的专家,也不知道其内部发生了什么,才会产生特定结果。”她还补充说:“人类正越来越难以充分理解和控制人工智能。”
她还对人工智能代理失控的可能性表示担忧。Kim Myeongja 介绍了人工智能执着于既定目标、绕过规则的案例。她提到:“即使收到停止运行的指令,人工智能也可能试图避免终止运行,或欺骗开发者、自行关闭安全装置,表现出自我保全行为。”她接着补充说:“从人的角度看,这就是在做坏事;人工智能脱离人类控制的可能性正在增大。”
Kim Myeongja 提出的解决方案并非停止技术创新,而是通过“调速论”来调节发展速度。她表示:“开展‘人工智能对齐’研究,让人工智能朝有益于人类的方向运行,至关重要。在人工智能能够无限提供知识的时代,发现问题并运用批判性思维为机器指引方向的能力将受到重视。”她接着补充说:“必须引导技术创新,使其达到社会能够接受、且不超出人类控制范围的水平。”
Kim Myeongja 还建议,国际社会应建立值得信赖的人工智能风险评估与监测体系。她解释称,有必要成立发挥类似政府间气候变化专门委员会、国际原子能机构作用的国际组织。Kim Myeongja 表示:“历史上,国际合作从未像现在这样重要。必须制定明确标准以防范灾难性风险,例如规定是否使用核武器应由人类决定。”
国民统合委员会顾问Kim Myeongja于18日在首尔中区The Grand Lotte Seoul,出席由阿视亚经济主办的“2026女性领袖论坛”,并以“多重危机时代,我与我们前行的道路”为题发表特别演讲。Kang Jinhyeong记者供图
View original image她还指出,应避免人工智能技术发展的成果集中于少数国家和企业。Kim Myeongja 表示,应提高发展中国家获取计算资源的能力,支持数据资源建设和人才培养,让更多人共享人工智能带来的益处。她说:“我并不否认人工智能能够提高生产力、带来积极成果,但只有当所有人都能共享这些成果时,社会才能实现可持续发展。”
她认为,人工智能时代人类应具备的能力包括:判断力、责任感、共情力和领导力。除了验证人工智能给出的结果是否正确,并在必要时加以修正,人类还需要具备与他人沟通、共情,并引导大家为共同目标开展合作的能力。
Kim Myeongja 表示:“只有当人类具备控制人工智能风险的能力,人工智能的运行才有可能实现。理解问题所在及其本质,并促成用户与专家达成共识,是我们肩负的责任。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。