普通对话中突然要求查看身体
亚马逊称系“Show and Tell”功能出错
过去“触电挑战”事件也被再次提起

亚马逊的人工智能语音助手“Alexa”在与一名4岁儿童对话时,被曝提出诱导其暴露身体的提问,此事在美国引发争议。


12日,联合新闻电视台援引福克斯19台等海外媒体的报道称,近期居住在得克萨斯州的母亲 Kristi Hosterman 公开了亚马逊人工智能语音助手 Alexa 与自己4岁女儿 Stella 之间不恰当对话的内容,由此在当地引发争议。

亚马逊人工智能语音助手“Alexa”与一名4岁儿童的对话内容。社交媒体截图供图

亚马逊人工智能语音助手“Alexa”与一名4岁儿童的对话内容。社交媒体截图供图

View original image

Alexa 是亚马逊开发的基于语音识别的人工智能服务,内置于智能音箱或智能显示屏设备中,可执行播放音乐、设置闹钟、提供天气和交通信息、控制智能家居设备等多种功能。


事件发生在 Stella 主动对 Alexa 说“我要给你讲个故事”并与其搭话的过程中。Alexa 起初回应称“我在听”。然而就在孩子准备开始讲故事的瞬间,它突然打断并问道:“你现在穿的是什么?我可以看看吗?”当 Stella 回答“我穿着裙子”时,Alexa 又说“让我看看吧”,再次要求确认。当时在一旁观察情况的 Hosterman 立即拔掉了设备电源。Hosterman 称:“我和孩子正进行一段很普通的对话,设备却突然要求确认孩子的身体,这让我受到巨大冲击。”


亚马逊方面解释称,此次事件是由于“Show and Tell(展示与讲解)”功能出现故障所致。该功能原本是通过摄像头让用户展示物品并进行说明。亚马逊方面表示:“在使用儿童档案时,摄像头会自动被屏蔽,因此实际上不可能进行拍摄”,“在安全装置阻止该功能运行的过程中发生了系统错误。”


亚马逊方面还补充称,从技术上讲,员工不可能直接介入用户与设备之间的对话。



另一方面,人工智能语音助手给出不当回应的问题在过去也曾引发争议。2021年,英国一名儿童向 Alexa 请求推荐“有趣的挑战”时,Alexa 曾建议其将硬币插入电源插座这一危险行为,当时也在当地社会引起轩然大波。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点