微软CEO：“需要设置紧急制动机制，让管理员能随时叫停人工智能”

路透社、韩联社供图

View original image

微软首席执行官Satya Nadella表示，企业需要设置安全机制，以便管理员在紧急情况下立即停止人工智能。他指出，为防万一，企业应对人工智能实施与拥有核心权限的内部人员相当的风险管理和管控。

当地时间11日，Nadella在社交媒体X上发布题为《超级智能时代的模型内部人员风险》的文章，表示有必要采取更有力的管理措施来管控人工智能。他没有使用“人工智能”一词，而是改用“超级智能”，分析认为，这可能受到美国总统唐纳德·特朗普近期签署行政命令、要求将人工智能改称超级智能的影响。

Nadella称，人工智能系统“需要具备能够持续观察其行为、验证其边界并随时进行控制的架构”，并表示“拥有适当权限的管理员应能在任何时候于紧急情况下暂停或终止人工智能的工作”，主张将制动功能作为安全机制引入。

他解释说：“人工智能的设计需要将信息提供功能与控制权限分离。无论是封闭模型还是开源模型，都应将先进人工智能视为与企业内部拥有核心权限的人员相似的风险因素进行管理。”这意味着，企业为管理内部人员风险而采用的严格管控措施——如身份验证、限制访问权限和管理活动记录等——也应应用于人工智能。

必读新闻

“月薪请给到300万韩元以上”如今超半数青年比起企业规模更看重“劳动条件”

• 每年都卖疯了……比“妈妈手艺”更好吃，30岁的Hetbahn开启新挑战[现场直击]
• “想买却买不到”时隔11年回归的“传奇洋酒”引发轰动……“新复古”风潮席卷便利店[当下的消费方式]
• “大婶，把孩子管好！”……孩子开车门碰到旁车，对方索要30万韩元现金并要求申请人身伤害理赔
• 海滩散步捡到“塑料”，没想到竟是价格高出黄金两倍的香水原料

预计他的言论将影响近期围绕人工智能提出的控制开发速度和安全性担忧等观点。针对人工智能，部分企业和专家指出，有必要制定安全措施和国际规范，以应对先进人工智能可能违背人类意图行事或引发大规模错误的情况。

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。