"14만원 주고 샀는데" 딸에게 사준 곰인형이 '19금' 대화…판매 중단·회수

싱가포르 장난감업체 폴로토이 제품
성적 대화·위험 정보 제공으로 논란

미국에서 판매된 인공지능(AI) 기반 봉제 곰 인형이 아동에게 부적절한 성적 내용이나 위험한 행위에 관한 정보를 제공한 것으로 드러나 판매가 중단·회수됐다.

19일(현지시간) CNN에 따르면 싱가포르 장난감업체 폴로토이(FoloToy)의 래리 왕 최고경영자(CEO)는 문제가 된 AI 곰인형 '쿠마(Kumma)'를 포함한 AI 장난감 전체 제품군을 회수 조치한다고 밝혔다. 쿠마는 '친구 같은 AI 곰인형'이라는 문구를 마케팅에 활용한 AI 인형으로, 오픈AI의 생성형 AI GTP-4o 계열 언어 모델이 탑재됐다. 제품 가격은 99달러(약 14만 원)다.

싱가포르 장난감업체 폴로토이(FoloToy)의 '쿠마' AI 곰인형. 폴로토이 홈페이지

하지만 이 인형이 BDSM(가학적 성행위)과 같은 부적절한 성적 대화와 칼, 성냥, 약물 등에 대한 정보를 제공했다는 보고가 나왔다. 이에 왕 CEO는 "부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판을 심각하게 받아들이며 내부 안전 감사를 진행하고 있다"고 덧붙였다.

앞서 미국 공익연구그룹(PIRG)은 지난 13일 공개한 조사 보고서에서 해당 곰인형이 부적절한 대화를 시도할 경우 안전조치가 미흡하다고 밝혔다. 보고서에 따르면 이 인형은 조사팀과의 대화에서 아이들이 스스로 묻지도 않을 만한 질문을 던지고 설명하는가 하면 대화를 계속하면 할수록 성인 대상의 '심화' 주제로 확대해 나갔다. 이를 구체적으로 보면 성적 역할극 설명이나 집에서 칼이나 성냥과 같은 위험한 물건의 위치를 찾는 법과 같은 것이다.

논란이 커지자 PIRG는 지난 14일 입장문을 내고 "오픈AI가 해당 개발자를 정직 조치했다고 통보했다"고 전했다. 보고서 공동 저자 R.J. 크로스는 "우리가 발견한 문제점에 대해 기업이 조치에 나서는 걸 보니 기쁘다"면서도 "AI 장난감은 여전히 거의 규제가 없는 상태이며, 현재도 구입할 수 있는 제품이 많이 있다"고 우려했다.

김현정 기자 khj27@asiae.co.kr