韓 반영한 평가 체계 개발 정보 교환

한국이 미국, 영국, 일본에 이어 세계에서 네 번째로 오픈AI와 인공지능(AI) 안전 협력 강화에 나선다. 최첨단 AI의 위험 검증과 평가 기준 마련을 위한 국제 협력 네트워크에서 역할을 한층 강화할 수 있는 길이 열린다.

한국, 오픈AI와 AI 안전 MOU…미·영·일 이어 세계 네번째
AD
원본보기 아이콘

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다고 밝혔다. 이번 MOU는 최첨단 AI의 안전성을 확보하기 위한 것으로 지난해 10월 과기정통부와 오픈AI가 구축한 협력기반을 AI 안전 분야까지 확대해 나간다는 점에서 의미가 있다. 류제명 과기정통부 제2차관은 올해 두 차례 오픈AI 고위관계자와 만나 AI 안전 협력 방안을 심도 있게 논의했고, 이를 토대로 실질적인 협력을 본격화할 수 있는 길을 텄다.


AI안전연구소와 오픈AI는 이번 업무협약을 통해 고위험 분야별 안전 평가 방법론과 벤치마크에 관한 지식과 모범사례를 공유하고, 한국어와 한국의 사회·맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환할 계획이다. 또 국제적으로 적용 가능한 AI 안전 평가 체계 마련을 위해 지속적으로 협력해 나가기로 했다. 업무협약 체결 이후에는 실무 협의를 거쳐 구체적인 협력 과제와 일정을 확정할 예정이다.

이진수 과기정통부 인공지능정책기획관은 "고성능 AI, 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해, 글로벌 선도기업과의 협력을 강화하고 AI 안전성 평가 체계를 고도화해 나갈 시점"이라면서 "급변하는 글로벌 AI 기술과 이용 환경에 대응해 최첨단 AI의 안전 확보에 적극 협력하길 기대한다"고 말했다.

AD

김명주 AI안전연구소 소장은 "AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수"라며 "이번 협약을 통해 최첨단 AI의 위험을 과학적으로 검증하고, 국제적으로 통용되는 평가 체계를 만드는 데 기여하겠다"고 말했다. 이상현 오픈AI 아시아태평양 지역 정책 총괄은 "고위험 분야 AI 안전성 평가에 대한 지식과 모범 사례를 공유하고, 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 기여할 것"이라고 덧붙였다.

서소정 기자 ssj@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈