"사람이 쓴 글처럼 바꿔준다"…美 대학가 AI 사용 놓고 전쟁 중

학교는 AI 탐지기 vs 학생은 우회 기술
AI 안썼는데 억울한 적발 사례도
"피할 수 없는 AI, 활용법 교육해야"

미국 대학가에서 생성형 인공지능(AI)을 활용한 과제를 둘러싸고 학생들과 학교 측의 공방이 갈수록 치열해지고 있다. 학교는 AI 사용 여부를 가려내기 위해 탐지 도구를 도입하고 있지만, 학생들 사이에서는 AI가 작성한 글을 인간이 쓴 것처럼 바꿔주는 기술까지 등장하면서 창과 방패의 싸움이 벌어지는 모양새다.

28일(현지시간) 미국 NBC 뉴스는 대학들이 'AI 탐지기'를 동원해 학생들의 부정행위를 적발하고 있지만, 이러한 탐지 기능을 사실상 무력화할 수 있는 '회피용 AI'까지 등장했다고 보도했다. 이른바 '휴머나이저(humanizer)'로 불리는 이러한 도구는 사람이 쓴 것처럼 글을 수정해주는 AI다. 이를 통해 수정된 과제물은 AI 탐지기에 걸리지 않는다고 NBC는 전했다.

이에 맞서 턴틴, GPT제로 등 AI 탐지 전문 기업들은 학생들의 브라우저 검색 기록이나 글쓰기 기록을 추적하는 기능을 도입하며 대응에 나섰다. 그러나 일부 휴머나이저는 이런 추적을 피하기 위해 수정 문구를 직접 타이핑해주는 기능까지 탑재한 것으로 알려졌다.

이 같은 상황 속에서 AI 탐지기의 정확성을 둘러싼 논란도 커지고 있다. AI를 사용하지 않았음에도 사용한 것으로 오인되는 사례가 발생하고 있기 때문이다. 특히 문장 구조가 비교적 단순하거나 정형화된 표현을 사용하는 비영어권 출신 학생들이 억울한 피해를 보는 경우가 많은 것으로 전해졌다.

샌디에이고 캘리포니아대에서 AI 탐지 기술을 연구 중인 스페인 출신 대학원생 알단 크레오는 NBC에 "제대로 글을 쓰면 오히려 AI를 썼다는 소리를 듣는다"며 "AI 탐지기를 피하기 위해 일부러 철자 실수나 문장 오류를 그대로 둔 채 과제를 제출한다"고 말했다.

버지니아주 리버티대 온라인 과정에 재학하던 브리트니 카는 AI를 사용했다는 이유로 과제에서 낙제점을 받은 뒤 학교를 떠났다고 밝혔다. 그는 손으로 쓴 노트와 이메일 캡처, 교수와 주고받은 메시지 등을 제출하며 AI를 사용하지 않았다고 주장했지만, 성적은 복구되지 않았다고 전했다.

이 같은 사례가 이어지자 대학의 AI 탐지기 사용을 재검토해야 한다는 주장도 나온다. 지난해 뉴욕주 버펄로대에서는 학교 측에 AI 탐지기 사용 중단을 요구하는 온라인 청원이 제기돼 약 1500명의 학생이 서명했다.

일각에서는 AI 사용을 단속의 대상으로만 볼 것이 아니라, 대학이 이를 현실로 받아들이고 올바른 활용 기준과 윤리를 제시해야 한다는 지적도 나온다.

휴머나이저 개발 기업 퀼봇의 에릭 왕 연구 부문 부사장은 "교육자들은 점수를 깎는 데만 급급하기보다 학생들이 어떻게 AI를 활용할지, 어떻게 하면 인간성과 창의성을 잃지 않고 기술을 사용할 수 있을지를 가르쳐야 한다"고 제언했다.

김현정 기자 kimhj2023@asiae.co.kr