性别平等部：“发现AI角色聊天机器人鼓励犯罪及违法行为，将加强青少年保护”

性别平等家庭部15日表示，在面向青少年的生成式人工智能（AI）角色聊天机器人部分回复中，发现了色情、暴力描写，以及鼓励自残、自杀和犯罪等有害信息。该部门已要求AI角色聊天机器人运营商自主改进，加强青少年保护措施。

人工智能聊天机器人资料图片。图片与报道内容无关。

View original image

AI角色聊天机器人是一种服务，用户可以选择或自行创建拥有不同性格和故事设定的角色，并通过生成式AI生成的回复继续对话和故事。

部分AI角色聊天机器人服务设置了成人认证功能，但即使在未经过成人认证的一般使用环境中，用户也能与角色对话，因此有必要检查实际生成的回复是否对青少年有害。

青少年媒体环境保护中心由性别平等部委托韩国青少年咨询福利开发院运营，该中心针对部分AI角色聊天机器人服务中的角色，对实际生成的对话回复进行了检查。

参照《青少年保护法》第9条及同法施行令附表2规定的青少年有害媒体审议标准，对对话回复内容进行审查后发现，部分角色存在色情、暴力描写，以及鼓励自残、自杀和犯罪等可能危害青少年的回复。

主要发现的问题包括：▲对色情内容和性行为的具体描写；▲暴力与残忍内容；▲鼓励自残、自杀、犯罪及违法行为等。部分角色同时出现了多种类型的潜在有害回复。

性别平等部已向相关运营商分享检查结果，并要求其自主改进，以加强青少年保护措施。

该部门特别要求，对可能生成不适合青少年的对话的角色，应根据是否通过成人认证，调整其搜索、推荐和对话权限范围。对于鼓励自残、自杀或帮助实施具体犯罪等存在严重危害风险的内容，则要求完善保护措施，确保无论用户年龄如何，都不会生成此类内容。

今后，该部门将继续与运营商开展业务协商，持续确认运营商是否开展自查并改进保护措施，同时加强合作，确保青少年保护体系在实际应用中有效运作。

性别平等部相关人士解释称：“根据《青少年保护法》，若内容被指定为青少年有害媒体，可通过广播媒体通信审议委员会要求删除、屏蔽等。”但他表示：“由于用户与AI聊天机器人的对话所生成的内容并未对外公开，因此难以逐一提出删除要求，这才向运营商提出了自主规制要求。”他还补充说：“如果未能自主改进，之后也计划通过广播媒体通信审议委员会等机构要求删除，并采取后续措施。”

必读新闻

“觉得好吃就常吃”……这种饮食习惯者出现脑血管损伤迹象的可能性高出40%

• “女儿才7岁……”Lee Jaemyung总统一时语塞，追授殉职消防员勋章
• “爸爸只是当作礼物送给我的”……家庭聚会上刮彩票，竟中10亿韩元大奖
• “为了省午餐钱，竟省到这一步”……上班族不去餐馆，纷纷涌向“这里”
• [吃货揭秘]“这么甜真的没问题吗”……便利店蜂蜜红薯的真实身份

性别平等部青少年政策官 Yun Sejin 表示：“为保护青少年使用AI角色聊天机器人服务，运营商积极改进并持续管理至关重要。我们将加强与运营商的合作，营造让青少年能够更加安全使用的网络环境。”

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。