오픈AI 차세대 AI 아스트라 출시 임박…사이버보안 기능은 제한 공개

향후 데이브레이크 블루로 확장
에이전트 무단 행위 자동 차단 장치 도입

오픈AI가 차세대 인공지능(AI) 모델 '아스트라' 출시를 앞두고 사이버보안 기능의 접근을 제한하기로 했다.

아스트라가 사람의 개입 없이 알려지지 않은 보안 취약점을 찾아 공격 경로를 설계할 수 있는 수준에 도달했다고 보고 출시 초기에는 소수 사용자에게만 제공할 예정이다.

오픈AI가 차세대 AI 모델 아스트라와 기존 모델 GPT-5.6의 취약점 탐색 및 해킹 성공률을 비교한 그래프. 오픈AI 블로그 제공.

오픈AI는 1일(현지시간) 블로그 게시물을 통해 아스트라가 내부 테스트 결과 사이버 보안 등급이 '위험(Critical)' 단계로 평가됨에 따라 보안 강화 조치에 나섰다. 위험 단계는 사람의 도움 없이 제로데이 취약점을 찾아 공격 코드를 개발하거나 사이버 공격 전략을 수행할 수 있는 정도를 의미한다.

실제 취약점 탐색과 해킹 성공률이 10%대에 머무는 GPT-5.6과 비교해 아스트라는 비교적 적은 토큰으로도 40%의 성공률을 보였다.

해당 모델의 고급 사이버보안 기능은 소수의 사용자에게만 제공한다. 이후에는 사이버보안 신뢰 접근 프로그램(TAC) '데이브레이크 블루'로 접근 범위를 넓힐 예정이다.

데이브레이크 블루는 오픈AI의 범용 모델을 활용한 방어목적의 보안팀용 프로그램이다. 안전한 코드 검토, 취약점 분류, 탐지 체계 구축, 침해사고 대응, 악성코드 분석 등 방어 업무를 지원한다.

오픈AI는 지난달 아스트라를 포함한 일부 내부 개발과 출시 일정을 늦추고 보안 조치를 강화했다. 모델 악용뿐 아니라 모델이 사람의 지시를 벗어나 무단 행동을 할 가능성까지 위험 요인으로 본 것이다.

해당 모델에는 유해한 사이버 요청을 안정적으로 거부하도록 훈련하고, 내부 배포 과정에서 모델의 추론과 도구 사용을 감시해 무단 행위를 자동 중단하는 안전장치를 도입했다.

이런 조치는 지난 7월 내부 보안 평가 중 발생한 허깅페이스 해킹 사건의 영향도 반영됐다. 당시 사용된 내부 연구 모델은 아스트라가 아니었지만 제한된 환경에 있던 에이전트들이 허락되지 않은 통신 경로를 찾고, 해킹을 도모했다.

아멜리아 글리스 오픈AI 안전 담당 부사장은 "아스트라는 적절한 도구와 접근 권한만 주어지면 사람이 일일이 지시하지 않아도 보안 체계가 잘 갖춰진 여러 시스템에서 알려지지 않은 취약점을 찾아내고, 악용할 방법까지 개발할 수 있다"고 했다.

이은서 기자 libro@asiae.co.kr