“年薪高达6亿韩元” 大型科技公司高薪招募武器专家…构筑AI伦理防线

美国大型科技公司正纷纷招募武器与生化领域专家，旨在通过设计指导方针，防止人工智能（AI）模型生成危险化学信息，从而构建伦理防线。

View original image

据信息技术（IT）业界25日消息，Anthropic正在招聘“化学武器及高性能爆炸物政策经理”。该职位面向在武器防御领域拥有5年以上经验的博士级专家，开出的年薪约为24.5万至28万美元（约合3.6亿至4.1亿韩元）。同时还以类似薪酬条件招聘“化学、生物、放射性、核与爆炸物（CBRNE）技术威胁调查员”。

Anthropic此次招聘以“防止AI系统遭到致命性滥用”为目的。鉴于其与意在扩大AI技术军事应用范围的美国国防部之间长期存在矛盾，Anthropic希望为AI模型“Claude”构筑伦理防线，防止其被用于杀伤性武器开发。

近期与国防部加强合作的OpenAI也在构建安全系统，以防AI引发与核武器、化学武器相关的风险。此前，OpenAI虽删除了“军事及战争”目的使用的禁止条款，但将允许范围限定在加强网络安全、优化运输物流等领域，仍然坚持“不用于伤害人类或开发武器”的原则。与此相关，该公司正在招聘负责识别和管理AI模型风险团队中的生化威胁分析师等岗位。其待遇为年薪约30万至45万美元（约合4.4亿至6.7亿韩元），高于同业平均水平。

View original image

微软（Microsoft，MS）、谷歌和Meta等企业也出于同样原因积极物色相关专家。作为OpenAI的最大投资方且自有模型的MS，自2023年起便运营专业“红队”。该团队测试AI，确保其不会提供生化武器制造方法或受管制药物的合成方式等信息。

谷歌运营着用于蛋白质结构预测的AI“AlphaFold”，因此被视为对生物安全风险高度敏感的企业之一。目前谷歌设有专门的生物安全团队，并与Anthropic等公司共同制定与生化武器有关的安全标准。Meta则因将模型以开源方式公开，不得不在事前训练阶段投入更多精力。在模型发布前，Meta大规模聘用生化专家，向模型抛出数千个高风险问题并进行训练，使其学会拒绝作答。

必读新闻

本来就已经很贵了……“每天早上吃两个，太过分了” 提前高温引发蛋价恐慌

• “哇，太上头了”Justin Bieber妻子也为韩国“胖香蕉拿铁”疯狂……涌向K便利店[K上瘾]
• “天价餐饮费”一杯啤酒2.9万韩元……连当地人也愤怒的世界杯史上最大宰客争议[时事秀]
• 整形外科医生评出会让脸变丑的食物……火腿、方便面都输给了它，第一名是？
• “被揪头发、被脚踢”成日常……“5坪挤9人”清州女子监狱闷热实况[现场报道]

View original image

Korea University信息安全研究生院教授Lee Sanggeun表示：“一旦爆发战争，为求生存而使用技术往往会优先于伦理，但可以看到企业即便在被形势裹挟的情况下，仍在努力守住安全底线。”不过他也补充称：“攻击与防御技术往往同步发展，因此需要格外谨慎，目前看来我国在这一问题上态度较为审慎。”

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。