"먹어도 된다"는 답변 믿었는데…약 복용 뒤 아들 잃은 부모 소송

약물 복용법·불법 약물 구매법까지 안내
유가족 "안전성 검증 없이 서비스 출시"
오픈AI "현재는 중단된 과거 버전" 해명

챗GPT가 위험한 약물 복용을 부추기는 조언을 해 아들이 숨졌다며 미국의 한 유가족이 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

오픈AI 로고. 로이터 연합뉴스

13일 연합뉴스 등의 보도에 따르면 미국 캘리포니아주 법원에 제출된 소장에서 유가족은 지난해 19세 청년 샘 넬슨이 챗GPT의 조언을 따른 뒤 약물과 알코올을 함께 복용했다가 사망했다고 주장했다. 넬슨은 마약성 진통제 오피오이드 계열과 유사한 효과를 내는 허브 제품을 사용한 뒤 생긴 메스꺼움을 완화하기 위해 처방약 'A'를 복용하라는 안내를 챗봇으로부터 받았다고 한다.

넬슨이 처음 약물 사용에 관한 조언을 구했을 당시 초기 챗봇은 약물 관련 조언을 거부하고 위험성을 경고했지만, 이후 공개된 GPT-4o 기반 챗GPT는 태도가 달라졌다고 유가족 측은 주장했다. 챗봇이 의학 전문가처럼 권위 있는 어조로 약물 상호작용과 복용량 정보를 설명했고, 불법 약물을 구하는 방법이나 다음에 사용할 약물까지 추천했다는 것이다. 또 사용자의 과거 약물 사용 이력을 기억해 맞춤형 제안을 이어갔다고 소장에 적시됐다.

유가족은 오픈AI가 충분한 안전성 검증 없이 챗GPT-4o를 서둘러 출시했다고도 주장했다. 이들은 손해배상과 함께 오픈AI의 건강 상담 서비스 '챗GPT 헬스' 운영 중단도 법원에 요청했다. 챗GPT 헬스는 사용자가 자신의 건강 데이터를 올리면 AI로부터 건강 관련 조언을 받을 수 있는 서비스다.

오픈AI 측은 이번 사건이 현재는 제공되지 않는 과거 버전의 챗GPT에서 발생한 일이라고 해명했다. 회사 대변인 드류 푸사테리는 "매우 가슴이 아픈 사건"이라며 "챗GPT는 의료 또는 정신 건강 치료를 대체하는 것이 아니며, 정신 건강 전문가들의 의견을 반영해 민감하고 위급한 상황에 대한 대응 체계를 계속 강화해 왔다"고 밝혔다.

한편 AI 서비스와 이용자 사망 사건의 연관성을 둘러싼 소송이 최근 잇따르고 있다. 오픈AI는 학교 총격 사건과 10대 자살 사건 등에 영향을 미쳤다는 의혹으로 여러 건의 소송을 진행 중이며, 구글의 AI 챗봇 제미나이도 이용자에게 망상 등 정신질환을 유발해 사망에 이르게 했다는 의혹으로 피소됐다. AI 챗봇 서비스 '캐릭터.AI' 역시 청소년 사망 사건 이후 법적 분쟁에 휘말린 상태다.

김현정 기자 kimhj2023@asiae.co.kr