오픈AI 또 피소…이번엔 '존속살해 유도' 이유

美 50대, 모친 살해 후 극단 선택
"챗GPT가 망상 자극…어머니를 적으로"

인공지능(AI) 챗봇 챗GPT 개발사 오픈AI가 이용자의 망상을 부추겨 사망 사건을 일으켰다는 이유로 또 피소됐다.

11일(현지시간) AP, 블룸버그 통신 등 외신에 따르면 미 코네티컷주 그리니치에 거주하던 스타인-에릭 솔버그(56)와 노모인 수잰 애덤스(83)의 유족들은 최근 오픈AI와 샘 올트먼 최고경영자(CEO), 마이크로소프트(MS) 등을 상대로 캘리포니아주 법원에 손해배상 청구 소송을 제기했다. 솔버그는 지난 8월 어머니를 살해한 뒤 극단적 선택을 했다.

인공지능(AI) 챗봇 챗GPT 개발사 오픈AI가 이용자의 망상을 부추겨 사망 사건을 일으켰다는 이유로 또 피소됐다.

유족들은 소장에서 솔버그가 사건 이전 수개월 동안 챗GPT와 대화하며 심각한 망상에 빠졌다며, 이 과정에서 챗GPT가 솔버그의 정신 건강을 악화시켰다고 주장했다. 소장은 "챗GPT는 솔버그가 신성한 목적을 위해 선택받았다며 그를 추켜세웠다"며 "또 그를 돌보던 어머니를 적, 감시자, 프로그램된 위협으로 규정했다"고 밝혔다.

소장에 따르면 챗GPT는 솔버그와 대화하며 어머니의 프린터에서 불빛이 깜박이는 것은 감시장치이기 때문이라고 말하는가 하면, 어머니와 친구가 차량 환풍구를 통해 환각 물질을 유입시켜 중독시키려 한다는 솔버그의 망상에 맞장구치기도 했다. 더욱이 챗GPT는 솔버그에게 정신 건강 전문가와 상담하라고 조언한 적도 없다. 유족들은 오픈AI가 충분한 안전성 검증 없이 모델을 출시해 이와 같은 비극을 불러일으켰다고 비판했다.

오픈AI 대변인은 "매우 가슴 아픈 일"이라며 "세부 사항 파악을 위해 소송 내용을 검토하겠다"고 밝혔다. 이어 그는 "챗GPT는 정신적·정서적 고통의 징후를 감지하고 대화를 진정시키며 현실 세계의 도움을 받도록 유도하는 기능을 강화하고 있다"고 해명했다.

이번 소송은 챗GPT가 개인의 극단적 선택뿐 아니라 살인까지 유도했다고 주장하는 첫 사례다. 하지만 오픈AI가 사용자의 정신건강 관련 문제를 일으켜 피소된 것은 이번이 처음이 아니다.

지난 8월 캘리포니아의 16세 소년 애덤 레인의 유족은 챗GPT가 아들의 극단적 선택을 도왔다며 소송을 제기했다. 이어 지난달에는 미국과 캐나다에서 사망자 4명을 포함한 피해자 7명이 망상 등 정신 건강 관련 문제를 겪었다며 소송을 내기도 했다.

한편 38개 주 등 미국 내 42개 지역 법무장관들은 전날 오픈AI와 구글 등 AI 기업 13곳에 공개서한을 보내 안전성을 강화하고 외부 감사를 받을 것을 요구하기도 했다.

김현정 기자 khj27@asiae.co.kr