AI 스스로 격리망 뚫고 침투…"사람용 인증만으로는 못 막는다"

오픈AI의 최신 인공지능(AI) 모델이 내부 보안 평가 과정에서 통제망을 벗어나 외부 시스템에 접근한 사례가 확인되면서, 사람 중심의 인증·권한 관리 체계를 AI까지 확대해야 한다는 목소리가 커지고 있다. 이에 따라 AI의 신원과 권한을 관리하는 기술이 차세대 보안 시장의 핵심 분야로 떠오르고 있다.

최근 오픈AI는 최신 AI 모델 'GPT-5.6 솔'과 일부 미공개 AI 모델이 내부 사이버 보안 평가 과정에서 오픈소스 플랫폼 허깅페이스를 해킹한 사실을 공개했다.

회사 발표에 따르면 해당 모델들은 외부 인터넷과 차단된 샌드박스 환경에서 보안 능력을 평가받던 중 알려지지 않은 제로데이 취약점을 이용해 격리 환경을 벗어났다. 이후 허깅페이스의 인증 정보를 확보해 내부 시스템에 접근한 것으로 확인됐다.

업계는 이번 사례에서 AI의 공격 능력보다 AI에 부여된 실행 권한과 접근 범위 관리의 중요성에 주목하고 있다. AI가 외부 시스템과 연결되거나 다양한 작업을 수행하는 환경에서는 최소 권한 원칙과 지속적인 권한 검증 체계가 필수라는 지적이다.

허깅페이스 역시 당시 접속 주체가 AI라는 사실을 즉시 식별하지 못한 것으로 알려졌다. 오픈AI의 통보 이후에야 해당 접근이 AI 모델에 의해 이뤄졌다는 사실을 확인했다. AI가 외부 서비스와 상호작용하는 시대에는 접속을 허용하는 시스템 역시 AI의 신원과 권한을 실시간으로 검증할 수 있는 체계를 갖춰야 한다는 의미다.

염흥열 순천향대 정보보호학과 명예교수는 "기존 인증과 권한 관리는 사람이 시스템을 이용한다는 전제 아래 발전해왔지만 이제는 AI가 사람의 위임을 받아 독립적으로 행동하는 시대가 됐다"며 "AI에도 고유한 신원을 부여하고 권한 범위를 검증하는 체계가 마련되지 않으면 신뢰성을 확보하기 어렵다"고 말했다.

이 같은 변화에 맞춰 국내외 보안 기업들도 AI 신원 관리 기술 개발에 속도를 내고 있다. 국내에서는 라온시큐어가 업스테이지와 함께 에이전틱AI(Agentic AI)의 신원과 접근 권한을 관리하는 'AAM(Agentic AI Management)' 기술을 개발했으며 현재 상용화를 준비 중이다.

에이전틱AI는 이메일 작성과 발송, 전자결재, ERP 조회, 데이터 분석, 서버 접속 등 사람을 대신해 다양한 업무를 스스로 수행하는 AI를 의미한다.

이러한 AI가 기업 시스템에 직접 접근하려면 누구의 권한을 위임받았는지, 어떤 범위까지 업무를 수행할 수 있는지를 명확히 확인해야 한다. AAM은 에이전틱AI마다 고유한 신원을 부여하고 검증 가능한 자격정보를 발급해 신원과 위임 범위, 접근 권한을 통합 관리하는 기술이다.

기업들의 에이전틱AI 활용이 확대될수록 이 같은 관리 체계에 대한 수요도 함께 늘어날 것으로 전망된다. 이번 오픈AI 사례 역시 AI 활용 확대와 함께 신원 및 권한 관리 체계가 반드시 병행돼야 한다는 점을 보여준 사례라는 평가다.

라온시큐어 는 대한민국 모바일 신분증 구축에 적용한 분산신원인증(DID) 기술을 AAM에 접목할 계획이다. DID는 개인정보를 중앙 서버에 저장하지 않고 이용자가 필요한 정보만 선택적으로 제출하는 방식으로, 국가 단위 서비스에서 검증된 구조를 AI 신원 관리로 확대 적용한다는 전략이다.

글로벌 빅테크들도 같은 방향으로 움직이고 있다. 마이크로소프트는 '엔트라 에이전트 ID'를 통해 기존 인증·권한 관리 체계를 AI까지 확장하고 있다. AI마다 별도의 디지털 신원을 부여하고 조건부 접근과 권한 관리, 활동 이력을 기존 엔트라 플랫폼에서 통합 관리하는 방식이다.

미국 인증 전문기업 옥타도 AI가 여러 애플리케이션을 이용할 때 개별 서비스가 아니라 인증 계층에서 권한을 일괄 관리하는 기술을 공개했다. 현재 앤스로픽, 아사나, 아틀라시안, 클라우드플레어 등 25개 이상 기업이 초기 생태계에 참여하고 있다.

시장조사업체 가트너는 에이전틱AI가 수행하는 일상 업무 의사결정 비중이 2024년 0%에서 2028년 최소 15%까지 확대될 것으로 전망했다. 또한 2028년에는 기업의 절반 이상이 외부 AI 서비스와 자체 AI 애플리케이션을 보호하기 위해 AI 전용 보안 플랫폼을 도입할 것으로 예상했다.

업계 관계자는 "AI를 먼저 도입한 뒤 사후적으로 통제 체계를 추가하는 방식으로는 자율성이 높은 AI가 초래할 새로운 위험에 대응하기 어렵다"며 "사람과 달리 AI는 지속적으로 생성되고 사라지는 만큼 신원과 권한을 자동으로 관리하는 체계가 기본적으로 마련돼야 한다"고 말했다.

이번 사례는 AI의 자율성이 높아질수록 사람 중심의 인증을 넘어 AI의 신원과 권한까지 관리하는 보안 체계 구축이 필수 과제로 떠오르고 있음을 보여준다.

장효원 기자 specialjhw@asiae.co.kr