Zuckerberg:“高性能人工智能不应由少数企业和政府垄断”
美国科技巨头Meta首席执行官Mark Zuckerberg主张,应防止高性能人工智能能力集中于少数企业和政府手中。他解释称,增强个人能力与保持权力平衡,是人工智能安全的基础。
Mark Zuckerberg首席执行官10日(当地时间)发布了一篇题为《未来属于每一个人》(The Future is for Everyone)、长达6500词的文章。他强调:“认为人工智能过于危险,只有极端的权力集中才能保障安全,这种想法本质上存在问题。”他认为,与其将超级智能集中于少数主体,不如让所有人都能加以利用。
他提出了一项理念,即应将增强个人能力视为繁荣的源泉,并将权力平衡作为人工智能安全的基础。他表示:“当人们拥有力量时,在经济、社会、政治等所有领域都会自然形成相互制衡与平衡,并对企业和政府等机构的权力形成制约。”他还称:“迈向惠及所有人的未来,关键在于实现有利于个人的权力平衡。”
与此同时,他似乎还对谷歌、Anthropic和OpenAI等竞争对手提出了批评。Mark Zuckerberg首席执行官称:“大多数其他人工智能研究机构都专注于为企业和政府等机构开发人工智能。”他主张,若这些机构主导市场,大型机构将比个人获得更大的力量。
Mark Zuckerberg首席执行官建议,美国政府与人工智能企业应建立共同验证新人工智能模型安全性的机制,并允许人工智能开发商利用其他模型提升自身模型性能的“模型蒸馏”。他表示:“人工智能研究机构不应等到新模型完成全部训练后才行动,而应共享训练过程中的中间检查点,以便政府能够利用并审查。”他称:“这样一来,政府便能及早接触最强大的模型,经验丰富的工程师也能发现并修复安全问题。”
Mark Zuckerberg首席执行官也否定了人工智能将导致大规模失业的预测。他认为,如果人工智能不是用于自动化现有工作,而是用于提升个人能力、创造新产品和服务,反而可能增加创业和就业。他强调:“无论人工智能变得多么聪明,计算资源始终有限,因此将其用于何处都存在机会成本。与其将人工智能用于自动化现有岗位,不如将其用于发明极具价值的新事物,或许更为合理。”他补充称:“预计未来还会出现少数人利用个人超级智能代理运营相当规模企业的情形。”
他还强调,美国及其盟友应主导全球开源人工智能生态系统。他认为,美国企业在使用训练数据等方面受到的监管比海外企业更多,因此应放宽相关限制,以提升美国开源模型的竞争力。他指出:“若美国要在开源领域掌握主导权,就必须重新审视包括模型蒸馏和训练数据使用在内的多个领域政策。”他还称:“我不认为限制获取海外开源模型是有效的解决方案。”
另一方面,Meta当天发布了新型开放式人工智能模型“Muse Glimmer”。Muse Glimmer是一款专注于设备端人工智能的模型。Meta计划在未来数周内公布性能更高的“Muse Spark”其中一个版本的模型权重。英国《金融时报》指出,此举意味着Meta正重返其为与竞争对手形成差异化而主打的“开放式人工智能”战略。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。