'토큰 먹는 괴물' 된 AI, 짠돌이가 승리한다 [테크토크]

임주형 기자

입력 2026.06.20 07:58

AI 보편화로 토큰 비용도 급등
코딩 작업에 기하급수적 소비량
토크노믹스 통달한 기업이 성공

편집자주AI, 반도체, 통신, 바이오에 이르기까지 우리 생활에 꼭 필요하지만 너무나 생소한 기술 이야기를 쉽게 풀어 전해 드립니다.

구글, 오픈AI, 앤스로픽 등 주요 인공지능(AI) 기업은 '토큰'을 중심으로 서비스 가격을 책정합니다. 요금제에 따라 일정 기간 사용 가능한 토큰을 지급하는 방식이지요. 하지만 AI가 일반 사무, 코딩 작업 등 여러 작업에 투입되면서 토큰 사용량이 급증했습니다. 과거에는 한 달 내내 사용했던 수량의 토큰이 단 수 시간 만에 동나 버리는 일도 비일비재합니다. 최첨단 AI 개발에 필요한 비용이 기하급수적으로 커지는 시대, 앞으로는 토큰을 얼마나 알뜰하게 사용하는지 여부가 경쟁력의 척도가 될 것이라는 예측도 나옵니다.

AI가 우리 말을 이해하는 최소 기준, 토큰

인공지능(AI)은 인간의 문자를 토큰 단위로 끊어 처리한다. 이 때문에 AI의 비용도 토큰에 맞춰 산정한다. 픽사베이

토큰은 거대 언어 모델(LLM) AI가 자연어 데이터를 처리하는 최소 단위를 이르는 단어입니다. 마치 우리가 알파벳이나 한글 조합에 따라 단어를 끊어 읽듯이, AI도 토큰 단위로 사람의 말을 인지하고 해석합니다. 일반적으로 영단어 1개, 한국어 1~2개가 '1개 토큰'에 해당하는 것으로 알려져 있습니다.

AI의 데이터 처리 기준이 토큰이다 보니, AI 기업들의 가격 책정 기준도 토큰에 좌우됩니다. 구체적으로는 AI가 사용자에게 답변하기 위해 출력하는 토큰의 양에 따라 결정되지요. 구글, 오픈AI, 앤스로픽의 AI 챗봇 구독제는 토큰 지급 방식입니다. 예를 들어 오픈AI의 요금제 명세를 잘 살펴보면, 챗봇이 토큰 100만개를 출력할 때 몇 달러를 지불하는지 여부가 상세히 표기됩니다.

토큰이 결정하는 AI 대화 비용

챗GPT 로고. AP 연합뉴스

수년 전 AI의 역할이 단순히 신기한 장난감, 외국어 번역기 등에 그치던 시절에는 토큰을 걱정할 필요가 없었습니다. 문제는 AI가 일반 사무, 법률, 코딩 작성 등 온갖 복잡한 업무에 실제로 투입되는 현시점입니다. AI에게 간단한 프로그램 개발만 요청해도 한 번에 수만~수십만개의 프로그래밍 언어를 작성하다 보니, 토큰 사용량도 기하급수적으로 뛰었습니다. 특히 프로그래머들은 작성한 코드가 실제 의도대로 작동하는지, 오류가 생겼다면 어떤 부분을 수정해야 하는지 등을 끊임없이 AI와 대화하며 작업물을 개선해 나가는데, 이 과정에서 수백만, 수천만개의 토큰이 소모되는 일도 비일비재합니다.

실제로 서구권 최대 커뮤니티 '레딧'에는 챗GPT나 클로드, 제미나이의 토큰 소모량을 줄일 방법을 묻는 개발자들의 질문이 줄을 잇습니다. AI를 적극적으로 사용하는 기업도 토큰이 부담되기는 마찬가지입니다. 미국 테크 전문 매체 '와이어드'에 따르면 최근 메타, 우버, 세일즈포스 등 주요 IT 기업 경영진은 급증하는 토큰 비용에 대한 우려를 전했습니다. 지난달에는 마이크로소프트가 자사 엔지니어들의 클로드 구독권을 취소하고 코파일럿 등 자사 개발 제품 사용을 권장한 바 있습니다. 그 이유도 토큰 비용 부담 때문이었지요.

토크노믹스가 미래 기업 경쟁력 결정

엔비디아의 AI 슈퍼컴퓨터 센터. 엔비디아

토큰 부담은 더욱 늘어날 전망입니다. AI가 똑똑해질수록 더 많은 사업 분야에 침투할 테고, 그만큼 처리하고 출력하는 토큰 개수도 자연스럽게 늘어날 테니까요. 이 때문에 앞으로 'AI를 잘 사용한다'는 말은 곧 '토큰을 얼마나 적게 사용해 업무를 처리할 수 있는지'에 달려 있다는 관측도 나옵니다. 이처럼 토큰 효율화에 초점을 맞춘 AI 사용을 두고 '토크노믹스(Tokenomics·토큰 경제)'라는 신조어도 탄생했습니다.

글로벌 시장조사기관 '가트너'는 지난달 내놓은 'AI 토크노믹스' 보고서에서 "토큰 기반 과금이 기존 IT 구독 서비스 기반의 비용 구조를 바꾸고 있다"며 "(개발자들의 토큰) 사용량을 가시화할 수 없으면, 예산 초과와 비용 대비 가치를 추적할 수 없게 될 것"이라고 경고했습니다. 즉, 토큰을 절약하려면 평소 개발자들이 업무에 얼마나 많은 토큰을 소모하고 있는지 한눈에 알아볼 수 있는 측정 도구가 필요하다는 겁니다.