구글·오픈AI·앤스로픽 사이버보안 AI 접근 제한…아무나 못 쓰는 AI 쏟아진다

"신뢰할 수 있는 방어자에게만 제공"
특정 AI 기업 정책에 종속되는 문제 발생

글로벌 기업들이 인공지능(AI)의 사이버보안 역량 강화에 대응해 범용 AI 모델과 사이버보안 특화 모델을 나눠 공개하는 추세다. 사이버보안 특화 AI의 이중용도 위험성을 관리하려는 전략이지만, AI 모델 접근권이 해외 기업의 심사 기준에 따라 달라지는 만큼 자체적인 방어 체제를 구축해야 한다는 목소리도 커지고 있다.

구글은 2일(현지시간) 범용 모델 '제미나이 3.8 플래시'와 함께 사이버보안에 특화한 '제미나이 3.8 플래시 사이버'를 공개하고 '신뢰할 수 있는 방어자'에게만 제한된 접근권을 부여했다. 정부와 일부 기업·사이버 보안 파트너들에게만 첨단 사이버 방어 기술을 제공하는 '페어윈드 프로그램(Fairwind Program)'의 일환이다.

앤스로픽도 이달 1일 공개한 사이버보안·생명과학 분야 최상위 모델 '클로드 미토스 5.1'의 접근권을 제한했다. 악용가능성이 큰 만큼 심사를 통과한 기관에만 접근권을 제공하는 방식이다. 해당 모델은 미국 일부 기관에만 제공되고 있으며 향후 이용 신뢰 여부를 따져 대상을 확대할 예정이다.

오픈AI도 차세대 모델 아스트라 출시를 예고하면서 고급 사이버보안 기능을 소수의 알파 테스터에게만 제공하겠다 밝혔다. 이후 검증된 일부 기업·기관에만 고급 사이버 기능을 제공해 방어역량을 높이는 '데이브레이크 블루'로 범위를 넓힐 계획이다.

글로벌 AI 기업들이 사이버보안 특화 AI의 접근권을 통제하는 움직임은 '이중용도' 특성 때문이다. AI가 소프트웨어 취약점을 찾아내고 공격 방법을 분석하는 능력이 높아질수록 이를 공격으로 악용할 가능성은 커진다. AI 기업들은 일반 이용자의 위험한 질문을 차단하는 방법만으로는 공격 방어에 한계가 있다고 판단, 이용자의 신원과 목적을 확인한 후 제한된 대상자에만 고급 기능 접근권을 부여하는 방식으로 운영 정책을 바꾸고 있다.

사이버보안 특화 AI가 기업용 솔루션을 넘어 국가의 방어 역량과 직결되는 전략 자산으로 발전하고 있는 만큼 우리도 보안 특화 AI 개발이 절실해졌다. 국가의 사이버방어 역량이 AI의 접근권을 통제하는 특정 글로벌 AI 기업의 심사 기준과 제공 정책에 영향 받을 수 있기 때문이다.

이상근 고려대 정보보호대학원 교수는 "사이버보안 특화 AI는 국가안보 차원의 전략적 자산"이라며 "특정 국가나 기업에 종속될 경우 정책 변화 등으로 이용이 제한되면 사이버방어 공백이 발생할 위험이 있다"고 설명했다. 이어 "사이버보안 특화 파운데이션 모델을 자체 개발하는 것은 독자적인 방어 역량을 확보한다는 측면에서 더 중요해질 것"이라고 덧붙였다.

이은서 기자 libro@asiae.co.kr