챗GPT 믿고 병 키우다 중환자실…美 'AI 킬 스위치법' 발의한다

“그냥 쉬면 된다”는 답변에 병원 안 가
오픈AI·샘 올트먼 CEO 상대로 소송도
美 의회는 AI 규제 논의 본격화 돌입

챗GPT의 조언을 믿고 병원 검진을 미뤘다가 폐색전증으로 중환자실에 입원한 미국인이 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다. 같은 시기 미국 의회에서는 통제를 벗어난 인공지능(AI)을 정부가 강제로 중단시킬 수 있도록 하는 이른바 'AI 킬 스위치법'이 발의됐다.

24일(현지시간) 뉴욕타임스(NYT) 등은 미국 플로리다주에 거주하는 55세의 전직 목사 스콧 윈터스가 샌프란시스코 카운티 고등법원에 오픈AI와 올트먼 CEO를 상대로 손해배상 소송을 제기했다고 보도했다.

소장에 따르면 윈터스는 지난해 6월부터 어지럼증과 혈압 이상 증상을 GPT-4o에 반복적으로 상담했다. 그러나 챗GPT는 "이 같은 증상이 8~10차례 더 나타나야 심각한 상황"이라며 단순히 안락의자에 앉아 휴식을 취하라는 취지의 답변을 내놨다.

지난해 7월 사타구니 통증을 호소했을 때도 챗GPT는 기존 증상의 연장선일 가능성이 크다고 답했고, 윈터스는 병원을 찾지 않았다. 그러나 몇 시간 뒤 그는 양쪽 폐에 다발성 혈전이 생긴 폐색전증 진단을 받아 중환자실에 입원했다. 소장에는 챗GPT가 권한 장시간 부동자세가 원인 가운데 하나였을 가능성이 있다는 담당 의료진의 판단 내용도 담겼다.

연합뉴스

원고 측은 손해배상과 함께 오픈AI의 건강 특화 서비스 '챗GPT 헬스'를 독립적인 안전성 검증이 완료될 때까지 중단해 달라고 법원에 요청했다.

이에 대해 오픈AI는 "챗GPT는 의사가 아니며 의료 진단이나 치료를 대체하기 위한 서비스가 아니다"며 "AI는 사용자가 의료 전문가와 상담하기 전에 정보를 정리하고 질문을 준비하는 데 도움을 주는 도구"라고 밝혔다.

유사한 사고가 이어지자 미국 정치권도 규제 강화에 나섰다. 민주당 테드 리우 하원의원과 공화당 너새니얼 모런 하원의원은 이날 'AI 킬 스위치법(AI Kill Switch Act)'을 공동 발의했다.

법안은 AI가 개발자의 통제를 벗어나 위험한 행동을 할 경우 미국 국토안보부(DHS)가 민간 기업의 AI 모델이나 서비스를 강제로 중단하도록 명령할 수 있는 권한을 부여하는 내용을 담고 있다. 또 AI 개발사는 시스템의 성능 제한과 일시 중단, 완전 종료가 가능한 기술적 장치를 의무적으로 갖추고, 사고 발생 시 정부에 즉시 보고하도록 했다.

리우 의원은 "AI 시스템에는 반드시 킬 스위치가 필요하다"며 "연방정부가 통제를 벗어난 AI 모델을 종료할 수 있는 명확한 권한과 절차를 갖춰야 한다"고 말했다. 모런 의원도 "AI 기술은 계속 발전해야 하지만 인간이 자신이 만든 기술을 통제할 능력 역시 유지돼야 한다"고 강조했다.

최승우 기자 loonytuna@asiae.co.kr