정부, AI 사이버위협 대응 민관합동 체계…내년 독자 AI 정보보호 체계 전환

"국제협력 통해 확보한 AI 모델 취약점 공유"

배경훈 과기부총리 겸 과학기술정보통신부 장관이 30일 서울 종로구 정부서울청사에서 열린 과학기술관계장관회의에 참석, AI 대전환 시대 데이터 정책 추진방향 등 현안에 대해 발언하고 있다. 2026.4.30 조용준 기자

정부가 진화하는 인공지능(AI) 사이버 위협에 대응하기 위해 민관합동 대응체계 마련에 나선다. AI 취약점과 패치정보를 일원화해 관리하고, 기업·부처에 기술지원을 강화한다. 또 고성능 AI의 보안 활용 일상화에 대비하기 위해 내년부터 국내 정보보호 체계를 독자 AI 기술 기반으로 전환한다.

과학기술정보통신부는 29일 제9회 과학기술관계장관회의에서 이같은 내용을 골자로 한 'AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획'을 발표했다.

최근 미 빅테크는 보안전문가 수준의 사이버보안 역량을 가진 AI 모델을 제한된 기업에만 제공하는 프로젝트를 가동하고 있다. 지난 5월 앤스로픽 글래스윙 프로젝트 1차 보고서에 따르면, 프로젝트 참여사 소프트웨어와 오픈소스에서는 1만6000건 이상의 취약점이 발견됐다.

정부는 우선 AI 취약점 공개에 대응하기 위한 민관합동 대응체계를 마련한다. 청와대 국가안보실을 중심으로 AI 취약점 공개와 패치, 위협상황 등을 신속 공유·전파하고, 침해사고 발생시 합동대응 가능한 긴급체계를 구축한다. 과기정통부 내에는 총괄상황반을, 민간 분야는 소관부처별 상황반을 가동하기로 했다.

한국인터넷진흥원(KISA) 내에는 취약점 관리센터를 설치해 취약점·패치 관리를 일원화하고, 관계부처와 기업 기술지원을 추진한다. KISA 취약점 정보포털(KNVD)을 중심으로 대내외 공개와 신고, 유관기관 공유 등을 통해 취약점과 패치를 광범위하게 수집하고 분석할 계획이다. 이를 약 2만8000개 기업 정보보호최고책임자(CISO), 민간 협력채널(C-TAS, ISAC), 부처별 상황반· 관군 전체에 신속하게 공유하고 조치 권고하는 긴급 대응체계를 구성한다.

또 과기정통부가 국제협력을 통해 확보한 최신·고성능 AI 모델을 취약점·패치 업무와 기업지원 전반에 시범 적용할 방침이다.

AI 보안위협 관련 피해 파급력이 큰 주요기업에 대해서는 보안 대비 태세 강화한다. 각 소관부처의 주관 하에 자산관리와 취약점 점검, 패치 대응 등을 자체 추진하도록 하고, 정부는 분야별 이행 점검을 추진한다.

중소기업은 현 보안수준을 진단하고, 이에 기반한 보안투자 가이드와 조치실행을 추천해주는 웹 도구를 배포하는 한편 AI가 악용하기 쉬운 오픈소스 취약점을 선제 식별·조치할 수 있도록 SW구성명세서 생성·분석 기술을 지원한다.

과기정통부는 접근권을 확보한 고성능 AI 모델을 활용해 중소기업 SW의 취약점 점검 등 인프라도 제공할 계획이다.

이밖에 AI 보안위협에 대응하기 위해 전 세계 도메인을 상시 모니터링하고, AI 기반 악성행위와 도메인을 생성 즉시 탐지하고 대응한다. AI 서비스 관련 침해사고(정황·의심) 발생시, '침해사고조사심의위원회'를 즉각 가동해 신속한 침해사고 조사와 피해확산 차단에 나설 방침이다.

과기정통부는 오픈AI의 정부·기관용 신뢰기반 접근프로그램(GTAC) 확보를 시작으로, 글로벌 빅테크와 AI 보안 프로젝트 참여를 위한 협력을 지속하는 한편, 우방국 사이버보안 기관과 AI 기반 위협대응 등 협력 강화도 추진한다.

정부는 향후 고성능 AI의 보안 활용 일상화, 공격무기화에 대비해 내년부터는 국내 정보보호 체계를 독자 AI 기술 기반으로 대전환 하고, AI 보안주권을 확립하기 위한 다양한 프로젝트를 기획해 실행할 예정이다.

배경훈 부총리 겸 과기정통부 장관은 "최고 수준의 해커와 견줄 정도로 사이버보안 분야의 AI 발전 속도가 빠른 상황으로, 우리나라도 AI 시대에 걸맞은 보안 체계와 글로벌 협력을 갖추지 못한다면 AI 3대 강국 도약도 흔들릴 수밖에 없다"면서 "이번 대책을 통해 AI 발 대규모 취약점 공개에 대응하기 위한 긴급체계를 마련하고, 우리의 기술과 모델을 기반으로 한 AI 보안주권 확립도 속도감 있게 추진해 나가겠다" 고 말했다.

서소정 기자 ssj@asiae.co.kr