自去年7月以来职位空缺…负责长期风险的团队已于去年解散

因被批评称人工智能(AI)聊天机器人对精神健康产生负面影响,OpenAI重新开始招聘负责应对AI潜在风险的负责人。


路透社联合报道提供

路透社联合报道提供

View original image

据美国信息技术专业媒体《TechCrunch》当地时间28日报道,OpenAI首席执行官(CEO)Sam Altman在社交媒体平台X(原推特)上表示,正在招聘目前空缺的“风险应对负责人(Head of Preparedness)”。


Altman称:“在2025年,我们已经提前体验了AI模型对精神健康产生的潜在影响”,“正在目睹模型在计算机安全领域展现出极其出色的能力,开始发现重大安全漏洞。”随后他谈到风险应对负责人的职务时表示:“将在关键时刻承担核心角色”,“(上任后)会立刻投入到极其棘手的难题之中。”


外界分析认为,OpenAI之所以重新着手应对AI风险,是因为部分ChatGPT用户在遭受妄想困扰后做出极端选择,其遗属已提起多起诉讼。OpenAI最初同时运营负责应对AI现实风险的“准备”团队,以及处理长期风险的“超级对齐(Superalignment)”团队。然而,包括Altman在内的管理层在去年5月发布GPT-4o的过程中,为了加快模型公开进程,指示尽量减少安全相关验证,引发这两个团队的强烈反对。

OpenAI在“心理健康争议”中重新招聘AI安全负责人 View original image

此后,牵头准备团队的负责人从去年7月至今年7月的一年间,因岗位调整或离职等原因先后更换三次,目前该职位处于空缺状态。由OpenAI联合创始人、首席科学家Ilya Sutskever领导的超级对齐团队,则在GPT-4o发布后不久因Sutskever离职而被并入其他团队,于去年5月事实上宣告解散。



另一方面,OpenAI近期引入了年龄预测模型,一旦判断用户为未成年人,将自动强制适用“未满18岁”的使用环境。此外,针对有观点指出聊天机器人对用户过度迎合会诱发成瘾,OpenAI还新增了允许用户自行调节聊天机器人“友善程度”和“热情程度”的功能。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点