[AI세계속으로]"고객 데이터 안본다" vs "30일 보관"…오픈AI-앤스로픽 엇갈린 선택

오픈AI, 개인정보 보호 처리 기술 테스트 중
고객사 프롬프트·응답 열람 없이 공격 탐지
앤스로픽, 고객사 데이터 30일 보관
상장 앞두고 기업용 AI 시장 주도권 경쟁

오픈AI와 앤스로픽이 기업용 인공지능(AI) 시장에서 서로 다른 데이터 관리 전략을 내놨다. AI 에이전트가 수행하는 장기적인 사이버 공격을 탐지한다는 목적은 같지만, 고객 데이터의 보관 방식에서는 정반대의 방식을 택했다.

오픈AI가 미리 공개한 '개인정보 보호 처리'.오픈AI 홈페이지.

22일 업계에 따르면 오픈AI는 이용자의 프롬프트와 응답을 열람·저장하지 않고 사이버 공격과 모델 악용 징후를 자동 탐지하는 기술 '개인정보 보호 처리'를 일부 고객사를 대상으로 검증 중이다. 오는 9월 해당 기술의 적용 범위를 넓히고 기술 백서를 공개할 예정이다.

그 배경에는 AI가 복잡한 작업을 수행하는 에이전트로 발전하면서 여러 대화를 연결해야 탐지할 수 있는 사이버 위험이 늘어난 상황이 있다. 일례로 개별적으로는 직원의 정상적인 질문처럼 보이지만, 여러 대화에서 소프트웨어 취약점과 원격 접속, 보안 탐지 회피 방법 등을 묻는다면 장기적인 해킹 시도의 일부일 수 있다. 알레아 하우즈 오픈AI 제품정책 책임자는 "최첨단 모델에서는 단일 프롬프트와 응답만 볼 때가 아니라 여러 상호작용을 시간의 흐름에 따라 살펴볼 때 위험이 나타나는 경우가 많다"고 말했다.

이번 기술은 고객 데이터를 남기지 않는 대신 여러 대화에 걸친 위험을 파악하기 어려웠던 기존 제로데이터보존(ZDR)의 한계를 보완한 것이다. 고객이 통제하는 인프라에 데이터를 둔 채 자동화된 시스템이 여러 상호작용을 분석하고, 실제 프롬프트와 응답을 저장하지 않고 위험 유형과 심각도 등 제한된 신호만 전달하는 방식이다. 데이터 무보존 원칙을 지키면서 장기간에 걸친 공격과 AI 에이전트의 오작동을 탐지할 수 있다는 특징이 있다.

앤스로픽 "30일 보관해야 사이버 공격 탐지 가능"

한편 앤스로픽은 지난 6월 최상위 모델 클로드 페이블 5와 미토스 5의 이용 기록을 30일간 보관하도록 의무화했다. 사이버 공격은 개별 질문만으로 파악하기 어렵고 일정 기간 기록을 분석해야 한다는 이유다. 앤스로픽은 이달 공개한 위험보고서에서 탈취된 계정이나 API 키를 이용해 기업의 시스템과 데이터 등을 노린 공격을 확인했으며, 일부는 시간에 따라 누적된 여러 요청을 종합했기 때문에 탐지할 수 있었다고 데이터 보관 방침의 근거를 설명했다.

하지만 앤스로픽의 모델을 사용하는 고객사에서는 소스코드와 고객정보 등 사내 기밀자료를 외부 사업자에게 보관하는 것에 대한 우려를 표했다. 마이크로소프트는 앤스로픽의 방침을 문제 삼아 일부 직원의 페이블 5 이용을 제한하고 법적 영향을 검토한 것으로 전해졌다.

앤스로픽은 20일(현지시간) 30일 보관 원칙을 유지하되 데이터를 고객사의 자체 클라우드에 둘 수 있도록 방침을 수정할 계획이라고 밝혔다. 안전 감시에 필요한 기록은 남기면서 저장 장소와 통제권은 고객에게 넘기는 방식이다.

외신들은 양사가 상장을 앞두고 기업용 AI 시장의 주도권 경쟁을 벌이고 있다고 해석했다. 월스트리트저널(WSJ)은 오픈AI의 새 기술을 앤스로픽의 데이터 보관 정책에 불만을 가진 기업 고객을 끌어오기 위한 시도로 평가했다. 기업용 AI 시장에서 모델의 성능과 가격뿐 아니라 데이터와 보안 등이 고객의 새로운 선택 기준으로 떠오른 셈이다.

다만 데이터 보호를 단순히 저장과 삭제의 문제로만 판단해서는 안 된다는 지적도 나온다. 향후 경쟁이 데이터 보관 여부를 넘어 처리 과정의 보안과 사후 추적 가능성을 확보하는 방향으로 확대될 것이란 분석도 나온다. 클라우드보안연합(CSA)은 "데이터 수집과 전송부터 추론·저장·폐기에 이르는 수명주기 전체에 암호화와 접근권한 통제를 적용해야 한다"고 강조했다.

이은서 기자 libro@asiae.co.kr