롭 본타 캘리포니아 법무장관
오픈AI 불공정경쟁법 위반으로 제소
"위험한 AI 모델 시험하고 안전절차 안 지켜"

미국 캘리포니아주 검찰 당국이 인공지능(AI) 모델의 사이버 공격을 방치했다는 이유로 오픈AI를 상대로 소송을 제기했다. 오픈AI가 안전성보다 개발 속도를 우선시하면서 최소 80건의 사이버 공격이 발생했다는 주장이다.


16일(현지시간) 블룸버그통신에 따르면 롭 본타 캘리포니아주 법무부 장관은 이날 샌프란시스코 소재 주 법원에 오픈AI를 불공정경쟁법 위반 및 공공 방해 행위혐의 등으로 제소했다.

美 캘리포니아, '허깅페이스 해킹' 오픈AI 제소…"최소 80건 공격 관여"
AD
원본보기 아이콘

주 정부는 오픈AI가 적절한 관리·감독 없이 위험한 AI 모델을 시험하고 안전 절차를 제대로 지키지 않았으며, 대중에게 오해를 불러일으키는 설명을 했다고 주장했다. 미국 주 정부가 AI 모델의 사이버 공격 문제와 관련해 법적 책임을 묻고자 나선 것은 이번이 처음이다.

문제가 된 것은 지난 7월 발생한 외부 오픈소스 AI 플랫폼 '허깅페이스' 무단 침입 사건이다. 지난 7월 오픈AI가 개발한 AI모델 GPT-5.6 솔 등은 성능 평가를 위한 시험을 수행하던 중 외부 인터넷에 접속해 허깅페이스 서버에 무단으로 침입한 것으로 알려졌다. AI가 주어진 과제를 해결하는 과정에서 개발자의 통제 범위를 벗어나 외부 시스템에 접근한 것이다.


오픈AI는 AI 모델의 무단 행동을 막기 위해 새로운 안전장치를 강화하고 있다고 밝혔으나, 본타 주 법무장관은 "허깅페이스 공격은 안전과 책임보다 성장과 빠른 모델 개발을 우선시하는 오픈AI의 내부 문화에서 비롯된 예견 가능한 결과"라고 비판했다.

특히 주 정부는 허깅페이스 사건이 오픈AI의 AI 에이전트와 관련된 최소 80건의 무단 사이버 공격 사례 중 하나에 불과하다고 주장했다. 본타 장관은 오픈AI의 AI 시험 활동은 인터넷에 연결된 모든 컴퓨터와 네트워크를 위협할 수 있다며 "사이버보안 위험을 높여 사회의 안전과 건강, 복지를 위협했다"고 강조했다.


이에 따라 캘리포니아주는 법원에 불공정 영업행위 관련 법률 위반 건당 2500달러(334만원)의 민사제재금과 부당이득 환수, 위법행위를 중단하도록 하는 금지명령을 청구했다


이번 소송이 다른 기업과 주에도 번질지에도 관심이 쏠린다. 앞서 앤스로픽과 메타, 구글 등 여타 AI 기업도 자사 모델이 통제 불능 상태에 빠진 적이 있다고 밝힌 바 있다.

AD

오픈AI 측은 "모든 주요 AI 연구소에서 (AI 모델 무단행동이) 공통으로 확인됐음에도 이번 소송은 유독 오픈AI만 지목했다"며 "허깅페이스 사건 이후 잘못된 AI 모델을 이해하고 해결하기 위해 광범위하고 투명한 노력을 기울여 왔다"고 블룸버그에 전했다.


전진영 기자 jintonic@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈