"이제 거저 낸 자소서 싹 다 잡히겠네"…문장 속 새겨진 '비밀 지문'[AI세계속으로]

이미지 뿐 아니라 텍스트에도 식별장치

글로벌 인공지능(AI) 기업들이 생성형 AI를 활용해 작성된 글을 식별할 수 있는 '워터마크' 기술을 잇따라 도입하고 있다. 생성형 AI를 활용한 이미지에 관련 표시를 새겨넣어 AI 저작물임을 알리듯, 텍스트에도 이 같은 워터마크를 적용하겠다는 것이다. 유럽연합(EU)과 우리나라를 비롯해 세계 각지에서 AI 생성물에 대한 워터마크 도입을 법제화한 만큼, 워터마크 도입 범위는 점차 확대될 것으로 보인다.

9일 AI업계에 따르면 오픈AI는 지난 5일(현지시간) AI로 생성한 글인지 식별하는 기술인 '텍스트그레인'을 도입한다고 발표했다. 오픈AI는 이 기술을 향후 몇 주 내에 유럽 지역의 챗GPT와 코덱스에 적용할 예정이다.

텍스트그레인은 AI 모델이 글을 생성할 때 단어를 고르는 과정에서 미세한 통계적 신호를 넣는 기술이다. 단어를 선택할 때 특정 통계 규칙을 적용해 글 전체에 AI 활용 여부를 알 수 있는 일종의 '무늬'를 새긴다. 문장에 숨겨진 문자나 특수기호를 삽입하는 방식이 아니어서 글을 복사해 다른 곳에 붙여넣더라도 식별할 수 있다.

오픈AI는 이 기술이 적용되더라도 AI의 답변 품질이나 성능, 가독성에는 실질적 차이가 없다고 설명했다. 다만 텍스트그레인 방식의 특성상 문장이 짧거나 사용되는 단어가 적은 글이라면 AI 활용 여부를 판별해내는 식별률이 낮아질 수 있다. 이용자가 AI로 생성된 글의 단어나 표현을 일부 바꾸더라도 식별률이 떨어진다.

아울러 오픈AI는 접근 권한 신청을 받아 승인된 연구자와 전문 기관에 텍스트그레인을 탐지하는 도구를 우선 제공한다. 이 도구를 제공받은 곳들은 텍스트가 AI로 생성됐는지를 판별할 수 있게 된다.

앞서 앤스로픽과 구글 등 글로벌 AI 주요 기업들은 이 같은 텍스트 워터마크 기술을 이미 도입했다. 앤스로픽은 지난 8월 비슷한 방식의 텍스트 워터마크 기능을 도입했다. 구글 역시 2024년 5월부터 제미나이를 통해 생성한 텍스트에 구글 딥마인드가 개발한 텍스트 워터마크 기술인 '신스ID-텍스트'를 적용해왔다.

이처럼 글로벌 기업들이 텍스트 워터마크 기술을 적용하는 배경에는 EU의 AI법이 있다. 우리나라의 'AI 기본법'과 유사한 이 법에는 '생성형 AI 투명성 의무 규정'이 포함됐다. 이미지, 영상, 음성 등 미디어 콘텐츠뿐 아니라 텍스트에도 기술적으로 감지 가능한 워터마크나 식별 표지를 포함해야 한다.

AI 저작물이 정교해지면서 이를 악용한 딥페이크나 사이버 범죄, 허위·조작정보의 유통 가능성이 커지자 나온 대응 조치다. 최근 AI 모델의 고도화로 속도조절론이 제기되는 등 AI 안전에 대한 관심도 높아지고 있어 이 같은 워터마크 기술 도입 역시 범위가 확대될 것이라는 전망이 우세하다.

이명환 기자 lifehwan@asiae.co.kr