“百年内人类灭亡概率达99.9%”……美国教授发出骇人警告
“能写出没有漏洞的复杂程序吗”
有学界预测称，人工智能（AI）在一个世纪内导致人类灭绝的可能性高达99.9%，由此引发关注。
4日（当地时间），《商业内幕》等外媒援引路易斯维尔大学网络安全研究所教授Roman Yampolskiy的发言报道称，“在未来，AI必然有可能伤害人类”。
Yampolskiy教授解释称：“AI毁灭人类的可能性，将取决于人类在未来100年内能否在没有任何漏洞的情况下，开发出极其复杂的软件。”也就是说，关键在于为AI设置安全装置，防止其做出错误判断。他警告称：“我们无法让AI模型在完全没有意图外行为的前提下依然安全地执行任务，因此避免事故的可能性很小。”
他接着指出：“AI已经犯过错误，经历过事故和‘越狱’情况，而且不可能存在一种大型语言模型（Large Language Model，LLM），在从未成功执行过开发者未意图之任务的同时又保持完全安全。”
他还补充说：“一旦出现通用人工智能（Artificial General Intelligence，AGI），问题将会更加严重。要预测一个比人类更聪明的系统会做什么，将更加困难。”
Yampolskiy教授表示，基于上述判断，人类未来的命运可以被压缩为三种可能性：其一，AI导致人类灭绝；其二，人类因AI而承受极端痛苦；其三，所有人类完全失去一切人生目的。
归根结底，降低AI潜在风险的方法，是开发值得信赖的安全机制。就此问题，AI产业一线也开始发声。据报道，目前在生成式AI领域最为领先的OpenAI和谷歌的多名现任及前任员工发表声明，表达了对AI快速发展带来的担忧。
他们呼吁称：“AI的危险性必须得到充分、顺畅的共享。由于以追求利润为目标，企业内部监管无法实现真正意义上的监督。一般的内部举报人保护制度也主要聚焦于违法行为，而我们中的一些人，考虑到整个行业过往的举报历史，担心会遭遇各种形式的报复。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
