알아서 행동하는 ‘피클’ 열풍에 개인정보 통제 우려 현실화

앱 연결 늘수록 넓어지는 개인정보 활용
가족관계 추론에 요청 없는 전화까지
편리해진 AI 비서…권한 통제 과제

"알려준 적도 없는데 내 가족관계까지 어떻게 안거야?"

AI 에이전트 '피클'이 명시하지 않은 가족관계를 파악한 것에 관한 채팅을 재구성한 모습.

직장인 A씨는 한국판 '뮤즈'로 주목받는 인공지능(AI) 에이전트 '피클'이 자녀들의 이름과 생일까지 파악하고 있어 놀랐다. 피클이 A씨가 연결한 구글 메일함 자녀 계정 보안 알림과 넷플릭스 프로필, 연락처를 종합해 이용자가 알려주지 않은 가족관계를 파악한 것이다.

직장인 B씨는 피클이 허락 없이 주변 식당 여러 곳에 전화를 걸었다는 사실을 알게 됐다. 피클은 "아침 브리핑을 준비하던 중 제 자체적인 판단으로 진행한 일"이라며 행동의 배경을 설명했다. B씨는 이후 피클에게 전화와 메시지·이메일 발송 전 반드시 승인받도록 지시했다.

9일 AI 에이전트가 사람을 대신해 일상 업무를 끝까지 처리하는 수준으로 진화하면서 개인정보 보호와 과도한 자율성에 관한 우려가 현실로 나타나고 있다. 외부 앱·서비스와 연결해 정보를 활용하는 AI 에이전트의 업무 수행 방식으로 인해 여러 서비스에 흩어진 정보를 모아 이용자의 개인정보를 추론하거나, 명시적으로 요청하지 않은 일을 스스로 실행하는 사례가 빈번해졌다.

피클은 구글 등 해외 빅테크 서비스뿐 아니라 국내 서비스와의 높은 호환성이 강점으로 꼽힌다. 피클은 카카오톡, 정부24, 쿠팡 등 통신·배달·보험·항공 분야의 앱과 서비스를 연결할 수 있다고 안내하고 있다. 다만 비밀번호 등 인증정보는 암호화해 AI가 직접 볼 수 없다면서도 이를 통해 가져온 메일 본문과 일정 등은 대화와 기억에 반영될 수 있다는 설명이다.

이 가운데 피클이 공식 웹사이트에 공개한 개인정보처리방침 시행일은 올해 12월 8일이다. 현재 사용자의 계정과 개인정보를 활용하는 서비스를 운영하고 있지만, 공개된 처리방침의 시행일은 한 달 뒤로 안내된 상태다.

전문가들은 AI 에이전트의 자율적인 업무 수행을 뒷받침할 제도적 기반을 정비하고 권한 범위를 명확히 설정해야 한다고 지적한다. 박진호 동국대 컴퓨터·AI학부 교수는 "국내에서는 AI 에이전트의 자동 주문·결제나 개인정보활용 범위에 관해 제도적 기반이 아직 마련되지 않은 상황"이라며 "이용자 또한 에이전트에 어떤 권한을 부여할지 명확히 판단해야 한다"고 제언했다. 최대선 숭실대 소프트웨어학부 교수는 "개인정보보호의 단위는 '데이터'에서 '행동'으로 옮겨가고 있다"며 "에이전트가 외부 시스템에 접근할 때는 사전에 지정된 프록시 서버를 거치도록 하고, 어떤 정보를 조회하고 전송했는지 삭제할 수 없는 로그로 남겨야 한다"고 말했다.

이은서 기자 libro@asiae.co.kr