人工智能(AI)产业的核心人物在同一场活动上,围绕AI开发速度展开正面交锋。Anthropic首席执行官Dario Amodei以AI可能带来的潜在风险为由,强调有必要放缓开发速度。相反,英伟达首席执行官Jensen Huang主张,即使不出台新规,也能同时实现AI安全与快速发展。

路透社、韩联社供图

路透社、韩联社供图

View original image

◆Amodei:“需要建立类似汽车行业的安全管理体系”= Amodei首席执行官15日(当地时间)在美国旧金山莫斯康中心举行的Salesforce年度Dreamforce活动上,强调应通过“速度调节论”控制AI开发速度。他再次阐释了此前通过博客提出的三项方案:在AI企业内部设置独立的外部评估人员,由民主国家制定共同安全标准,并在长期内建立全球协作体系。


Amodei首席执行官以汽车行业为例,说明AI行业应如何应对安全问题。他表示,若竞争汽车厂商发生刹车故障等事故,不应将其作为攻击对手的素材,而应由整个行业停下来,检查自身的安全管理体系。

“应放缓AI开发”Amodei vs“无需新监管”Jensen Huang View original image

他表示:“人们很容易产生批评竞争对手‘那家公司不安全’的冲动”,但“更负责任的应对方式,是先审视我们自己的安全记录”。他接着称:“我们或许尚未经历重大事故,但绝不代表我们已经完美无缺。”


同时,Amodei首席执行官强调,AI的发展速度远超预期。他称,在过去10年开发AI技术的过程中,最令他惊讶的是“发展速度”;不仅技术本身,连其经济影响力的增长也快于预期。


不过,Amodei首席执行官也强调,现有技术仍有很大的应用空间。他评估称,即便AI技术的发展此刻停止,目前已被利用的价值也仅占AI可提供潜在价值的5%至10%,仅凭现有技术,尚未实现的潜在价值依然极为可观。

路透社与韩联社提供

路透社与韩联社提供

View original image

◆Jensen Huang:“即使没有新法律和监管,也能调节速度”= 随后登台的Jensen Huang首席执行官反驳称,相比监管,更可通过市场机制和企业自主判断来调节发展速度。他表示:“我们不需要新法律,也不需要新监管。”他接着强调,认为AI开发必须在安全与速度之间二选一,是一种“错误的二元选择(false choice)”,“显然可以同时实现两者”。


不过,Huang首席执行官也未否认AI安全本身的重要性。他表示:“安全在许多方面都是最重要的,是首要任务”,但“安全是工程问题”。这意味着,相比政府监管,企业应通过技术手段解决安全问题。


Huang首席执行官称,企业应尽可能快速地开发AI,但若无法确信其安全性,则应自行调节速度。他表示:“尽可能快速前进”,但“无论何时,如果公司觉得自己陷入失控状态,或认为产品可能不安全,就应暂时停下来,确认是否一切正常”。他接着强调,企业只需在确信产品能够被市场接受之前控制上市节奏,“市场的力量已经在发挥作用”。



随后,Huang首席执行官针对AI发展可能导致岗位消失,以及被称为“SaaSpocalypse”的软件终结论,斥为“无稽之谈”。他指出,围绕AI的恐慌情绪过度,并再次强调,AI的使用反而将增加就业岗位和软件使用量。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点