LG Uplus表示,将为验证其自主开发的人工智能模型的安全性和可信性,参加国际人工智能验证项目“Global AI Red Team Challenge”(全球人工智能红队挑战)。
LG Uplus表示,为验证其自主开发的人工智能模型的安全性和可信度,将参与人工智能验证项目“Global AI Red Team Challenge”。图为LG Uplus员工为参与Red Team Challenge加油的场景。LG Uplus提供
View original image由全球移动通信系统协会(GSMA)主办的此次挑战赛,将在全球最大通信与信息技术展会“MWC26”举办地——西班牙巴塞罗那举行。本次挑战赛作为与世界移动通信大会(MWC)官方联合举办的开发者及数字人才活动“Talent Arena 2026”的核心项目之一,将面向全球通信运营商和科技企业开发的人工智能模型开展验证。
本次挑战赛将有100余人以“红队”成员身份参与,通过寻找人工智能的薄弱环节开展比拼。本次活动的特点在于,并非通过技术性黑客攻击,而是通过对话和提示词(Prompt)攻击的方式,验证能否绕过人工智能的策略和安全装置。参与者将从绕过安全装置(Jailbreak)、偏见与歧视(Bias & Discrimination)、侵犯人权(Human Rights Violations)、网络攻击(Cyberattacks)、非法内容(Illegal Content)、虚假信息(Misinformation)、回答不一致(Inconsistency)等7个方面,对人工智能的应对水平进行评估。
LG Uplus将提交其自主开发的通信领域专用人工智能模型“ixi-GEN”参赛。通过本次挑战赛,LG Uplus计划客观验证ixi-GEN的安全性和可信性,并针对发现的薄弱环节进行改进,从而持续高度化人工智能模型。LG Uplus还计划通过与全球通信运营商及人工智能专家交流,持续就人工智能安全和负责任使用展开讨论。
LG Uplus技术战略负责人Lee Hyejin表示:“随着人工智能在通信和客户服务全领域的快速应用,不仅性能,验证其可信性和安全性的过程同样重要。通过参与本次挑战赛,我们将进一步强化ixi-GEN的竞争力,为客户提供可以放心使用的人工智能服务。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。