[AI 一口新闻]史上最严监管要来…“SB1047”究竟是什么

by Choi Yuri

Published 31 Aug.2024 14:00(KST)

加州议会通过AI监管法案
强制实施AI事前测试和“紧急关停”开关
硅谷科技巨头面临燃眉之急

包括人工智能在内、汇聚全球科技企业的硅谷，正面对史上最严厉的人工智能监管而感到震动。原因在于，硅谷所在的美国加利福尼亚州通过了《先进人工智能模型安全与安保创新法案（SB1047）》。

当地时间上月29日，SB1047在加利福尼亚州议会参议院闯关成功。此前该法案已在众议院以41票赞成、9票反对获通过。

该法案规定，开发人工智能模型的企业在对外公开技术前，必须进行安全性测试。也就是说，要事先验证人工智能是否存在开发危险武器等实施危险行为的可能性。此外，开发公司必须在人工智能模型中加入一旦出现问题即可关闭系统的“紧急关闭开关（Kill Switch）”功能，并制定保护打算举报人工智能问题的内部员工的措施。不仅如此，州司法部长在人工智能造成人员死亡或高达5亿美元（约6700亿韩元）的财产损失时，可以起诉开发公司。

并非所有人工智能企业都会立即被纳入监管对象。只有开发成本在1亿美元（约1300亿韩元）以上，或需要一定规模以上电力的人工智能模型，才被要求事前测试。虽然将因具体计算标准而有所不同，但预计大部分开发大型语言模型的科技巨头都会被涵盖在内。

此前，欧洲联盟已经率先通过了对人工智能企业和技术进行全面监管的《人工智能法》。其要点是，将与医疗、教育、金融等公共服务以及国家系统相关的人工智能划为“高风险”级别，由监管方进行监督。外界认为，其意在通过掌握人工智能监管主导权，缩小与美国之间的技术差距。在一直引领人工智能技术的美国，而且是在被视为创新之城的硅谷出现这一监管动向，更加引人注目。虽然美国纽约州等其他地区也曾推动或引入人工智能监管法案，但力度从未如此之强。

在硅谷内部，支持与反对意见针锋相对。OpenAI反对该法案，称一旦通过，企业可能会离开加利福尼亚。包括谷歌、苹果、亚马逊等在内的行业代表性团体“进步商会（Chamber of Progress）”也表示，“不应压制加利福尼亚经济的主要部门”，要求州长否决该法案，并警告过度监管将抑制技术发展和创新。

相反，由Elon Musk创立的xAI，以及被视为OpenAI竞争对手的Anthropic等则持赞成立场。特斯拉首席执行官（CEO）Elon Musk在其“X”账号上为法案辩护，称这是“对所有对公众构成潜在风险的产品和技术进行监管”。作为人工智能领域的后来者，Musk此前也多次警告人工智能技术的危险性，站在主张监管的一方。以“安全人工智能”为招牌的Anthropic在公开信中表示，“该法案针对的是人工智能的灾难性风险”，“由于小型企业被排除在适用对象之外，因此可能妨碍创新的问题已大幅减轻”。