Anthropic在证券注册文件中强调人工智能风险：“威胁人类生存”
Anthropic在为首次公开募股提交的证券注册文件中，强调了人工智能技术的潜在风险。文件用90余页说明了各种风险因素，并警告称，人工智能可能脱离人类控制，或被用于网络攻击、开发生物武器等活动，甚至可能威胁人类的生存。
当地时间26日，Anthropic向美国证券交易委员会提交了首次公开募股所需的S-1证券注册文件，从第26页至第119页共用94页详细说明主要风险因素。
Anthropic警告称，其人工智能技术“可能给人类带来灾难性风险，甚至威胁人类的生存”。该公司还表示担忧，人工智能可能实质性地帮助恶意行为者开发化学、生物等危险武器。
该公司还警告称，可能失去对人工智能产品的控制。未来，人工智能模型可能出现意料之外的自我保护行为，例如拒绝停止运行，或隐瞒、篡改信息。Anthropic还指出，人工智能可能生成类似勒索的强迫性或欺骗性内容。
Anthropic还提及美国政府政策变化带来的风险。美国政府可能出台新规或限制业务运营，从而增加成本负担，并影响人工智能模型的需求。事实上，Anthropic今年年初曾被美国国防部列为“供应链风险”企业。
此外，计算资源获取的不确定性也被列为主要风险因素。该公司可能无法充分获得人工智能开发所需的计算资源，或相关成本大幅上涨。特别是，谷歌、亚马逊和SpaceXAI（现名SpaceXSI）等主要基础设施供应商都在开发自有人工智能模型，与Anthropic展开竞争，这一点也被指出是个问题。Anthropic表示，这些企业的利益未必总与其长期利益一致。Anthropic已与这些企业签署大额合同，以使用芯片、数据中心等人工智能基础设施。
另一方面，如果高估计算资源需求并投入过多资金，也可能导致设备闲置，造成巨额成本浪费。Anthropic表示：“实际计算资源需求取决于许多难以预测的因素。”该公司将研发进展速度以及训练人工智能模型所需的计算量等列为不确定性来源。
《金融时报》指出，Anthropic的证券注册文件与企业为应对未来法律纠纷而按惯例列出的风险披露大不相同。Anthropic用于说明风险因素的篇幅约为SpaceX的3倍。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
