“花14万买来的”送女儿的泰迪熊竟说“限制级”台词…被紧急停售回收
新加坡玩具公司PoloToy产品
因提供性暗示对话与危险信息引发争议
在美国销售的一款基于人工智能(AI)的毛绒熊玩偶被曝向儿童提供不适当的性内容及危险行为相关信息,目前已被停止销售并召回。
据美国有线电视新闻网(CNN)当地时间19日报道,新加坡玩具公司FoloToy首席执行官(CEO)Larry Wang表示,将对包括问题AI熊玩偶“Kumma”在内的全部AI玩具产品线实施召回。Kumma是一款以“像朋友一样的AI熊玩偶”为宣传语进行营销的AI玩偶,内置的是OpenAI的生成式AI GPT-4o系列语言模型。产品价格为99美元(约14万韩元)。
但有报告指出,这款玩偶提供了关于BDSM(施虐受虐性行为)等不适当的性话题,以及关于刀具、火柴、药物等的相关信息。对此,Wang CEO补充称,“我们正严肃对待有关安全防护不足、导致出现不适当内容的批评,并正在进行内部安全审查”。
此前,美国公共利益研究组织(Public Interest Research Group,PIRG)在本月13日公开的调查报告中指出,该熊玩偶在尝试进行不适当对话时,安全措施十分不足。报告显示,这款玩偶在与调查团队对话时,会主动抛出并解释一些连儿童自己都不会提出的问题,而且随着对话持续,还会不断扩展到面向成年人的“进阶”话题。具体而言,包括对性角色扮演的说明,或在家中如何寻找刀具、火柴等危险物品的位置等内容。
随着争议扩大,PIRG于本月14日发表声明称,“OpenAI已告知我们,已对相关开发者采取停职处分”。报告共同作者R.J. Cross表示,“看到企业针对我们发现的问题采取行动,我们感到欣慰”,但同时也忧虑称,“AI玩具依然几乎处于完全缺乏监管的状态,目前市面上仍有许多可以购买的相关产品”。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。