美플로리다주, 오픈AI와 올트먼 상대 제소 "아동 피해 입혀"

미국 州정부 AI기업 제소 첫 사례

미 플로리다주가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 아동들에게 피해를 입혔다며 제소했다. 미국 주(州) 정부가 AI 기업을 상대로 소를 제기한 첫 사례다.

샘 올트먼 오픈AI 최고경영자(CEO)가 지난해 2월 일본 도쿄의 한 행사에서 연설하고 있다. 로이터연합뉴스

1일(현지시간) 영국 파이낸셜타임스(FT)에 따르면, 플로리다주는 오픈AI가 중독성과 위험성을 알고 있으면서도 챗봇 서비스를 출시했다고 주장했다. 특히 아동들에게 미치는 피해를 핵심 문제로 지목했다.

제임스 어스마이어 플로리다주 법무장관은 "우리 아이들에게 해를 끼친 대가를 반드시 치르게 할 것"이라며 "다른 주들도 뒤따를 것으로 기대한다"고 밝혔다.

83쪽 분량의 소장에는 오픈AI 챗봇인 '챗GPT'가 총기 난사범들의 범행을 도왔고, 취약한 사람들에게 자살을 부추겼으며, 미성년자들을 인간적 공감을 가장하는 도구에 중독시켰다는 내용이 담겼다. 또 부모의 감독 없이 아동 데이터를 수집했다고도 주장했다.

소장은 올트먼 CEO 등 피고들이 "챗GPT가 인류 멸종까지 초래할 수 있는 잠재적 위험성을 알고 있었음에도 제품 출시를 강행했다"라고도 지적했다. 원고 측은 법원에 13세 미만 아동 데이터의 부모 동의 없는 수집을 금지하고, 소비자·아동 보호 조치를 강화할 것을 요구했다.

FT는 이번 소송이 트럼프 행정부의 AI 규제 완화 기조와 달리 공화당 내부에서 AI 규제 강화 움직임이 커지고 있음을 보여준다고 짚었다.

앞서 플로리다주는 4월에도 챗GPT가 지난해 발생한 플로리다주립대 총기 난사 사건에 영향을 미쳤는지 여부를 두고 형사 수사에 착수했다. 다만 오픈AI는 자사 제품이 사건과 관련됐다는 의혹을 부인해왔다.

2028년 대선에서 공화당의 잠룡으로 평가되는 론 디샌티스 플로리다 주지사는 지난 1월 "행정부가 주정부를 무력화하려고 한다"고 지적하기도 했다. 트럼프 대통령이 주정부 차원의 AI 규제를 억제하려고 압박한다는 취지다.

한편, 오픈AI는 현재 캐나다 브리티시컬럼비아(UBC) 총기 난사 사건 피해자 가족들로부터도 소송을 당했다. 이들은 오픈AI가 범인의 위험한 대화를 당국에 경고했어야 했다고 주장하고 있다. 올트먼 CEO는 지난 4월 해당 지역사회 구성원들에게 개인 명의로 사과문을 보냈다.

차민영 기자 blooming@asiae.co.kr

기자가 작성하고 AI가 부분 보조한 기사입니다.