"아빠랑 싸웠어요" 챗GPT 상담한 딸 때문에 아빠는 감독 사임…日서 AI 대응 '시끌'

딸들 싸움 말리다 체포…日요미우리 감독 자진 사퇴
큰딸, AI가 안내한 상담소에 연락→경찰 출동
"AI, 맥락 이해 못한 채 대응" 日서 우려

일본 프로야구 최고 인기 구단 요미우리 자이언츠의 아베 신노스케 전 감독이 딸 폭행 혐의로 체포됐다가 자진 사임한 사건을 계기로, 생성형 인공지능(AI)의 위기 대응 기능을 둘러싼 논란이 일본에서 확산하고 있다. 딸이 챗GPT에 고민을 상담한 것이 경찰 출동과 감독 사퇴까지 이어지면서 AI 상담이 예상 밖의 파장으로 번졌다는 우려도 나온다.

26일 기자회견에서 자진 사퇴 의사를 밝힌 아베 신노스케 요미우리 감독. AFP연합뉴스

연합뉴스는 28일 니혼게이자이신문(닛케이)을 인용해 챗GPT의 위급 상황 관련 기능이 아베 감독 사임 소동으로 주목받고 있다고 보도했다.

아베 전 감독은 지난 25일 도쿄 시부야 자택에서 18세 큰딸과 15세 작은딸의 싸움을 말리던 중 큰딸의 몸을 밀치는 등 폭행 혐의로 경찰에 체포됐다가 석방됐다. 이후 "구단에 큰 폐를 끼쳤다"며 26일 감독직에서 자진 사임했다.

현지 언론에 따르면 아베 전 감독의 큰딸은 당시 챗GPT에 "아버지로부터 폭행당했는데 어떻게 하면 좋겠느냐"고 물었고, AI가 안내한 아동상담소에 연락했다. 아동상담소의 신고를 접수한 경찰은 곧바로 자택으로 출동해 아베 전 감독을 체포했다. 이 모습을 본 장녀는 크게 당황하며 울음을 터뜨렸다고 변호인은 전했다.

실제 큰딸은 입장문을 통해 "아버지가 저를 때리거나 걷어차는 등의 사실은 없었다"며 일부 보도 내용이 자신의 사실과 다르게 전달됐다고 주장했다. 또 "아버지와 이렇게 크게 다툰 것은 처음이라 챗GPT에 상담했다"며 "챗GPT 안내로 익명 상담이 가능한 아동상담소에 전화했지만, 내 의사를 묻는 과정 없이 경찰 신고로 이어졌다"는 취지로 해명했다.

닛케이는 최근 챗GPT를 포함한 AI 서비스들이 행동까지 수행하는 AI 에이전트로 발전하면서, 이용자의 상담 내용을 직·간접적으로 관계 기관에 통보하는 기능을 도입하고 있다고 전했다. 오픈AI가 지난 2월 캐나다 총기 난사 사건 당시 용의자와 챗GPT 간 대화를 인지하고도 당국에 신고하지 않았다며 유족에게 제소된 사례도 소개했다. AI 기업들이 민감한 사안에서 외부 통보나 상담 유도 기능을 강화할 수밖에 없는 측면이 있다는 설명이다.

닛케이는 아동학대·데이트폭력·자살 시도 등 위기 상황에서는 AI의 신고 유도 기능이 필요할 수 있지만, 이번 사건처럼 당사자 의도 이상으로 상황이 확대될 가능성도 있다고 짚었다. AI가 개별 상황의 맥락과 특수성을 충분히 이해하지 못한 채 대응할 수 있다는 점에서 주의가 필요하다는 지적이다.

김현정 기자 kimhj2023@asiae.co.kr