Anthropic开发滥用监测工具
迹象显示，与伊朗有关联的组织曾试图利用美国的人工智能（AI）模型攻击美国海军舰艇等目标。
据Anthropic当地时间11日发布的154页《AI滥用检测与应对》报告显示，代号为“GTG-30005”的伊朗关联威胁组织利用Anthropic的AI模型Claude，编制了驻扎在中东的美国海军部队位置及攻击目标建议书等资料。
据悉，伊朗黑客综合分析从公开军事照片说明文字等渠道提取的美国军方人员名单、军舰及飞机位置数据、商业卫星图像等，追踪美国军舰等的行动轨迹，并利用Claude重点研究这些军舰通信及控制系统的安全漏洞。
Anthropic事先发现此事后，已暂停相关账户。该公司表示，已向政府部门通报相关威胁，并开发了用于降低未来滥用风险的监测工具。
此外，与也门胡塞武装有关联的组织“GTG-87001”也曾使用Claude，试图开发包括射程超过2000公里的多级弹道导弹和高超音速滑翔器在内的制导武器软件。
Anthropic解释称：“安全机制拦截了大部分请求，但未能全部拦截。”该公司同时表示，已封禁相关账户，并与有关部门展开协作。
此外，与中国政府有关联的势力也利用Claude追踪和监控叙利亚境内的维吾尔族记者，并对亚洲各地宗教领袖展开内部调查；与俄罗斯有关联的势力则试图利用Claude学习乌克兰前线数据，以构建自主无人机集群，并将其滥用于在非洲国家散布亲俄倾向的宣传材料。
还有某一特定国家关联势力试图利用Claude开发致命生物武器，后被发现并遭拦截。Anthropic警告称：“如果缺乏适当的安全机制，这类能力可能造成灾难性后果。”出于国家安全担忧，Anthropic限制中国、俄罗斯、伊朗、朝鲜、古巴等国家使用Claude。
另一方面，已从Anthropic离职的研究员Jacob Coxon（27岁）于8日离开公司时，也曾警告AI可能毁灭人类。
Coxon警告称：“开发AI的人真心相信，这项技术可能在10年内杀死我们所有人。不久之后，这些技术将成为超人类系统，能够入侵任何事物、一夜之间在任何领域掀起革命，并获取实质性的权力和资源。”但美国国防部驳斥称，AI导致人类灭绝的警告是毫无根据的恐慌。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
