오픈AI, 모델 학습 2주간 일시 중단…보안사고 여파
외부기관 무단해킹 이후 보안강화
사고 발생시 인터넷·내부망과 분리
오픈AI가 자사 인공지능(AI) 모델의 학습을 2주간 중단하고 개발속도 조절에 들어간다고 18일(현지시간) 밝혔다. 최근 챗GPT가 훈련 중 외부기관을 무단 해킹한 바 있는데, 이 같은 사태가 재발하는 것을 방지하기 위한 조치로 분석된다.
오픈AI는 이날 배포용 최신 모델들의 강화학습 과정을 2주동안 일시 중단하고 모델의 안전장치와 정합성 등을 평가하기 위한 소규모 훈련을 수행하고 있다고 밝혔다. 지난달 챗GPT 일부 모델의 학습과정에서 외부기관을 무단해킹하는 일명 '불량 에이전트' 사건의 재발을 막기 위한 조치다. 오픈AI가 새로운 AI모델로 출시 예정인 '아스트라'도 자체 안전 기준상 '위험(Critical)' 단계에 해당할 가능성이 큰 것으로 평가되자 개발속도 조절에 나선 것으로 알려졌다.
오픈AI는 이와 함께 모델에 대한 감시시스템의 적용 범위를 확대하고, 보안 관련 모의훈련을 하는 레드팀 테스트도 시행한다. 또 모델이 격리 환경을 자의적으로 이탈할 수 없도록 격리 수준을 높이고, 지원 서비스가 해킹되는 등의 사고가 발생하더라도 인터넷망이나 개발 내부망으로 침투할 수 없도록 망 분리 환경도 함께 구축했다.
AI의 추론 과정을 감시할 수 있는 '생각의 연쇄(Chain-of-Thought)' 감시 시스템도 도입됐다. 해당 시스템은 AI가 추론을 위해 토큰을 생성하는 시점을 매번 확인해 이상 징후가 감지되면 정교한 자동 조사시스템을 가동한다. 이를 통해 무단 데이터 유출이나 우회 시도를 찾아낼 수 있다. 모델이 외부 기관 해킹 등 문제를 일으키려는 의심 행위가 식별되면 30분 이내에 경보가 울린다. 또 담당 팀이 이 경보가 잘못 울린 것이라는 사실을 30분 내 입증하지 못하면 해당 AI 개발 작업을 아예 중단하는 강력한 보안조치도 함께 마련됐다.
오픈AI는 이러한 새로운 감시 공정체계 도입에 따라 전체 추론 연산 용량의 약 20%에 달하는 추가 연산자원이 소모될 것으로 예상하고 있다. 오픈AI 측은 "모델 성능이 개선되면서 이를 개발하고 시험하는 것에 따르는 위험도 커지고 있다"며 "감시와 정렬, 보안에 대한 우리의 표준은 위험보다 앞서 나가야 한다"고 강조했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>