"AI 에이전트의 개인정보 접근·활용 통제해야…공통 기술 규칙 필요"

개인정보 기술포럼 공개토론회
에이전트 권한 통제·공통 규칙 마련 제언
사이버공격, 침투 이후 내부 확산 차단해야

인공지능(AI) 에이전트의 안전한 활용을 뒷받침하기 위해 개인정보보호 기술을 고도화하고 공통 표준을 마련하는 등 신뢰 기반의 생태계를 조성해야 한다는 제언이 나왔다.

송경희 개인정보보호위원회 위원장이 5일 서울 중구 프레지던트 호텔에서 개최된 '개인정보 기술포럼'에서 환영인사를 하고 있다. 개인정보보호위원회.

개인정보보호위원회는 5일 서울 중구 프레지던트호텔에서 '에이전트·피지컬 AI 시대, 개인정보 보호 기술과 안전활용 방안'을 주제로 제4기 개인정보 기술포럼 공개토론회를 열었다. 토론회에서는 이용자를 대신해 업무를 수행하는 AI 에이전트의 개인정보 접근과 활용을 통제하는 방안이 중점적으로 논의됐다.

최대선 숭실대 교수는 개인정보보호의 단위가 '데이터'에서 '행동'으로 옮겨갔지만, 제도와 기술은 이를 따라가지 못하고 있다고 진단했다. 이어 에이전트에 별도의 신원을 부여하고 업무 목적에 따라 권한과 유효기간을 제한해야 한다고 제언했다. 최 교수는 "에이전트가 외부 시스템에 접근할 때는 사전에 지정된 프록시 서버를 거치도록 하고, 어떤 정보를 조회하고 전송했는지 삭제할 수 없는 로그로 남겨야 한다"고 말했다.

신현덕 한성대 교수는 기업과 플랫폼마다 에이전트의 개인정보 처리 정책과 권한 검증 방식이 다르다는 점에 주목했다. 여러 에이전트가 협력하는 환경에서 서로 다른 기업과 플랫폼의 에이전트가 연결될 때 정보 이용 목적과 위임 권한, 전달 조건도 함께 확인할 수 있어야 한다는 설명이다. 이를 위해 에이전트 간 개인정보 이용 조건과 권한을 같은 방식으로 표현·검증할 수 있는 공통 기술 규칙이 필요하다고 제언했다.

AI로 빨라지는 사이버공격에 대응해야 한다는 조언도 나왔다. 침해사고 대응 전문기업 플레인비트의 김진국 대표는 "과거에는 공격에 들어가는 비용이 큰 탓에 한번 침투에 성공하면 최대한 오래 시스템에 머물며 정보를 많이 획득하려했지만 이제는 공격을 유지하는 비용보다 새로 침투하는 비용이 훨씬 싸다"고 짚었다. 김 대표는 AI로 인해 빨라지는 공격 속도에 따라 공격자의 침투를 전제로 내부망 이동을 차단하고, 주요 권한을 업무에 필요한 최소 범위와 기간에만 부여해야 한다고 말했다. 사고 원인과 피해 범위를 신속히 파악할 수 있도록 로그와 증거도 보존하는 체계를 갖춰야 한다고 강조했다.

송경희 개인정보보호 위원장은 "AI 기술의 혁신을 지원하면서 신뢰 기반의 개인정보보호체계를 구축하기 위해서는 사전예방 보호체계와 함께 개인정보 보호 강화 기술의 발전이 뒷받침되어야 한다"며 "국민 신뢰를 바탕으로 기업이 안전하게 데이터를 활용할 수 있도록 개인정보보호 기술 생태계 조성에 힘쓰겠다"고 말했다.

이은서 기자 libro@asiae.co.kr