과기정통부-앤스로픽, 안전한 AI 위해 맞손…"안전성·사이버보안 분야 협력"
AI 생태계 전반으로 글로벌 네트워크 확장
인공지능(AI) 생태계 전반에서 글로벌 빅테크와 협력 네트워크를 넓히고 있는 과학기술정보통신부가 AI의 안전과 신뢰를 확보하기 위해 앤스로픽과 협력한다.
과기정통부는 앤스로픽과 AI 안전성 확보 및 사이버보안 협력을 위한 업무협약을 체결했다고 18일 밝혔다. 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고, 한국어 맥락에서 AI 모델의 안전성과 오남용 위험을 평가할 예정이다. 자율형 AI 에이전트(비서)에 관한 레드팀 평가 등 AI 안전성 확보를 위해 협력체계도 강화한다.
AI 안전 분야에서는 AI안전연구소가 AI 모델과 자율형 AI 에이전트의 안전성을 확보하기 위해 협력한다. 사이버보안 분야에서는 금융 분야를 포함한 AI 취약점 발굴과 사이버 위협에 관한 전문 지식과 관련 정보 등을 공유하기로 했다.
꼭 봐야 할 주요 뉴스
한중 FTA에 엔터·미디어 '불기둥'…수혜 기업 어디?
이번 협약은 배경훈 부총리 겸 과기정통부 장관이 지난 2월 열린 '인도 AI 영향 정상회의'에서 다리오 아모데이 앤스로픽 최고경영자(CEO)를 만나 논의했던 협력 방안의 후속 조치다. 이도규 정보통신정책실장은 "글로벌 AI 시장에서 향후 2~3년은 패권을 가를 골든타임"이라며 "이번 협력은 안전과 보안이라는 단단한 기반 위에서 한국 AI 혁신의 지평을 넓히고 역동성을 더하는 강력한 추동력이 될 것"이라고 말했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>