Hassabis警告：若不采取人工智能安全措施，未来两年内恐发生严重事故

法新社、韩联社供图

View original image

谷歌DeepMind首席执行官Demis Hassabis于当地时间14日警告称，如果未能妥善采取人工智能（AI）安全措施，未来两年内可能发生严重得多的重大安全事故。他强调，在AI安全问题上，有必要像核能管理那样设立国际标准组织。

Hassabis当天在爱尔兰都柏林举行的AI大会上指出：“迄今发生的AI相关安全事故，只不过是早期警讯，表明系统目前还没有那么强大。这些事故到目前为止还不算严重，但如果企业和政府不努力确保安全，未来两年内可能发生更严重的事故。”

他主张：“AI企业推出新模型时，有必要先在与互联网隔离的‘沙盒’环境中验证其性能和安全性。我们应借鉴核能领域的最佳实践，成立国际标准组织。”他还补充说：“不过，这类组织在运作时应灵活应对，在微妙地保持平衡的同时，避免妨碍创新。”

分析认为，这番言论进一步支持了近期围绕AI模型开发，在大型科技企业内外兴起的“放缓AI开发速度”主张。主张放缓AI发展的一方指出，近期接连出现ChatGPT、Claude等AI模型脱离人类控制、擅自入侵外部系统的案例，因此有必要加强安全措施，并制定国际标准、设立相关组织。

必读新闻

“不申请，170万韩元就打水漂”……沉睡的国民年金，错过“这个期限”便化为乌有了

• “帝王蟹每斤3000韩元，光吃一趟也值了”……中国人打着“假出差”旗号涌向这个国家
• “一下班就只顾着看这个，脑子会变笨”……短视频走红引发中国“电子毒品”争议
• 曾预测“7万韩元的三星电子、20万韩元的SK海力士”的Lee Juwan称“仍被高估”……也有观点反驳称“基本面稳健，调整过度”
• “我又犯傻了……”习惯性点外卖，看到钱包就后悔，Z世代陷入“外卖内疚”

当天一同出席活动的欧盟委员会副主席Henna Virkkunen也呼吁：“AI企业若要保持对系统的控制，就应在安全测试上投入更多时间和资源。”她批评说：“在激烈竞争中，AI企业似乎没有投入充足的时间和资源来验证模型。”

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。