“제2의 이루다 사태 막는다” 개인정보위, AI 자율점검표 발표

개인정보위, 인공지능 개발·운영 시 자율점검 가능한 개인정보보호 기준 제시

[아시아경제 구은모 기자] 인공지능(AI) 서비스의 개발과 운영 시 발생할 수 있는 개인정보 침해를 예방하기 위한 개발자와 운영자용 안내서가 발표되었다.

개인정보보호위원회는 31일 산업계의 의견을 수렴하고 전문가·전체회의 논의 등을 거쳐 ‘AI 개인정보보호 자율점검표’를 확정해 공개했다.

이번에 공개한 자율점검표는 인공지능 설계, 개발·운영 과정에서 개인정보를 안전하게 처리하기 위해 지켜야 할 ‘개인정보 보호법’ 상 주요 의무·권장사항을 단계별로 자율점검할 수 있도록 만든 안내서다. 업무처리의 전 과정에서 지켜야 할 적법성·안전성·투명성 등 6가지 원칙과 이를 기반으로 단계별로 점검해야 할 16개 항목, 54개 확인사항을 함께 제시했다. 이 같은 내용은 인공지능의 개인정보 처리 특성을 고려해 개인정보 보호법, AI 윤리기준, 국제적으로 통용되는 개인정보보호 중심설계 원칙 등을 반영했다.

업무처리 단계별 주요 점검항목을 살펴보면 먼저 ‘기획·설계’ 단계에선 AI 서비스 특성상 예상치 못한 개인정보 침해가 발생할 수 있으므로 기획 단계부터 사전 점검과 예방을 위해 개인정보보호 중심 설계(PbD) 원칙을 적용하고, 침해가 우려되는 경우 개인정보 영향평가를 수행하도록 했다. 이어 ‘개인정보 수집’ 단계에선 AI 개발·운영 시 대규모 개인정보가 수집·이용되는 점을 고려해 적법한 동의방법, 동의 이외의 수집근거 확인, 공개된 정보 등 정보주체 이외로부터 수집 시 유의사항을 점검하도록 하고, 동의 예시를 제시해 잘못된 방법으로 동의를 받지 않도록 안내했다.

또한 ‘이용·제공’ 단계에서는 개인정보는 수집 목적 내 이용·제공해야 하고, 목적 외 이용은 적법한 근거를 확인하도록 했다. 아울러 동의 없이 가명처리해 활용하려는 경우 과학적 연구, 통계작성 등 허용된 목적인지, 관련 기준에 부합하는지 등 점검내용을 제시하고, 학습데이터의 가명처리 시 유의사항, 가명정보의 공개제한 등을 안내했다. 마지막으로 ‘보관·파기’ 단계에서 개인정보의 유출·노출과 해킹 방지를 위한 안전조치를 점검하고, 개인정보가 불필요해지면 안전하게 파기하도록 했다.

이밖에 ‘AI 서비스 관리·감독’ ‘이용자 보호’ ‘자율보호 활동’ ‘AI 윤리점검’ 등과 관련한 상시 점검 항목들도 제시해 개인정보보호의 기준을 명확히 했다.

그동안 국내외에서 논의된 AI 관련 프라이버시에 관한 사항은 추상적인 원칙 수준이었지만 이번 자율점검표는 AI 서비스의 개인정보 침해사례와 산업계의 관심사항을 구체적으로 반영해 현장에 도움이 되도록 구성했다는 게 개인정보위 설명이다. 개인정보위는 자율점검표가 인공지능뿐만 아니라 다양한 ICT 서비스의 개발·운영에도 활용될 수 있어 신기술 분야의 개인정보 침해요인를 사전에 예방하는데 크게 도움이 될 것으로 기대하고 있다. 개인정보위는 점검표가 AI 분야 현장에서 널리 활용될 수 있도록 적극적인 홍보와 함께 다음달 초부터 AI 스타트업 대상 설명회를 개최하고 중소기업 컨설팅·교육 등에도 적극 활용할 예정이다.

윤종인 개인정보위 위원장은 “AI 개발자·운영자가 이번 자율점검표를 적극 활용해 AI로 인한 개인정보 침해를 예방하고, 보다 안전하고 신뢰할 수 있는 AI 서비스 환경을 조성하는데 도움이 되길 바란다”며 “앞으로도 개인정보위는 바이오정보·자율주행차·드론 등 신기술 환경변화에 대응헤 현장에서 개인정보가 안전하게 보호될 수 있도록 노력하겠다”고 말했다.

구은모 기자 gooeunmo@asiae.co.kr