"클로드로 챗GPT 뚫었다"…시스템 침투까지 72시간

보안업체 해크트론, 오퍼스5 모델 활용
오픈AI, 업체에 포상금 900만원 지급

앤트로픽의 인공지능(AI) 모델인 클로드를 활용해 경쟁사인 오픈AI를 해킹한 사례가 나왔다.

18일(현지시간) 월스트리트저널(WSJ) 등에 따르면 미국의 AI 보안 연구업체 해크트론은 자사 연구원 3명이 '클로드 오퍼스5' 모델을 이용해 오픈AI 직원들의 AI 챗봇 챗GPT와 코딩도구 코덱스 계정을 제어하는 데 성공했다고 밝혔다.

오픈AI와 앤트로픽 로고. 로이터연합뉴스

이는 오픈AI의 버그바운티(취약점 신고 프로그램)를 조사하면서 시작됐다. 이들은 우선 오픈AI의 커뮤니티 사이트가 사용하는 도움말 게시판(포럼)에서 이미지 처리 취약점을 발견해 서버에 접속하는 데 성공했다. 이어 연구원들은 클로드에게 이 취약점을 실제 공격 코드로 만드는 작업을 도와달라고 요청해 오픈AI 커뮤니티 서버에 접근했다.

이곳에서 확보한 인증 토큰 가운데 일부는 오픈AI 직원들의 계정과 연결돼 있었다. 이후 이들은 해당 계정 정보를 활용해 '모노레포(Monorepo)'라고 불리는 오픈AI의 내부 시스템에 접근해 자신들이 침투한 증거를 남겼다. 이 시스템은 핵심 알고리즘 기밀이 보관된 저장소인 것으로 알려졌다.

연구원들은 내부 저장소에 접근할 수 있다는 것을 확인한 다음 테스트를 중단했다. 이들은 처음에는 '오퍼스4.8'을 이용해 공격용 코드 작성을 시도했는데 효과가 없었다면서, 때마침 앤트로픽이 공개한 '오퍼스5'를 이용하자 불과 몇 시간 만에 공격용 스크립트를 성공적으로 만들 수 있었다고 설명했다. 최초 취약점 발견부터 내부 시스템 침투까지 걸린 시간은 72시간이 채 걸리지 않았다.

해크트론은 이번 해킹 소요 시간과 관련해 "에이전트의 작업은 며칠 걸렸지만 인간 연구원이 들인 시간은 몇 시간에 불과했다"며 "새로운 AI 모델이 등장하면서 성능이 점점 강력해지고 있다"고 강조했다.

이들은 오픈AI에 취약점을 신고했고, 오픈AI는 이를 확인한 후 문제를 수정하고 영향을 받은 인증토큰 등을 폐기했다. 그리고 해크트론에 6500달러(약 900만원)의 포상금을 지급했다. 오픈AI는 제보를 받은 뒤 14시간 만에 시스템 보완 조치를 완료했다. 업계는 이번 사건에 대해 오픈AI가 뚫렸다는 사실 자체보다 AI가 해킹에 필요한 전문 작업의 시간을 크게 줄일 수 있다는 점에 더 크게 우려하고 있다.

김현정 기자 khj27@asiae.co.kr