기업 토큰 비용 부담…AI업계 '저비용·고효율' 경쟁

주요 인공지능(AI) 업체들이 기존보다 더 적은 비용으로 더 나은 서비스를 제공할 수 있는 신형 AI 모델을 내놓고 있다. AI 이용 업체들이 막대한 비용에 사용량을 제한하자, 비용 효율성을 높은 모델을 잇따라 출시하고 나섰다.

12일(현지시간) 블룸버그통신에 따르면 오픈AI와 스페이스XAI, 메타가 최근 출시한 AI 모델들은 더 적은 토큰으로 더 많은 작업을 처리할 수 있다는 점을 강점으로 내세우고 있다.

스페이스XAI의 그록 4.5은 경쟁사의 동급 모델보다 토큰 효율성이 2배 높다고 강조하고 있다. 마크 저커버그 메타 최고경영자(CEO)는 최근 뮤즈 스파크 1.1을 내놓으며 상당히 경쟁력 있는 가격을 책정했다고 밝혔다. 오픈AI도 GPT-5.6을 출시하며 기존 모델보다 훨씬 적은 토큰을 사용하면서 더 많은 작업을 수행하도록 설계됐다고 설명했다. 토큰은 AI가 사용자의 글을 읽고 쓸 때 사용하는 '글자 조각' 같은 단위이다. AI가 더 똑똑해져 토큰 사용량이 줄어들면 사용자의 AI 비용도 떨어지게 된다.

블룸버그는 AI 업체들이 비용 절감에 무게를 두게 된 것에 대해 AI 관련 지출을 들여다보기 시작했기 때문이라고 짚었다. 올해 초만 해도 기업들은 직원들에게 AI를 최대한 많이 사용하도록 장려했다. 이 같은 관행은 이른바 '토큰맥싱'으로 불렸다. 하지만 최근에는 예상보다 훨씬 큰 비용이 발생하면서 일부 기업들이 AI 사용량을 제한하기 시작했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 최근 CNBC와의 인터뷰에서 "이제 모든 기업이 AI에 얼마를 쓰고 그만큼의 가치를 얻고 있는지를 따지고 있다"며 "우리도 고객이 지불한 비용에 걸맞은 가치를 제공하는 데 집중하고 있다"고 말했다. 이 같은 발언은 약 1년 전과 비교하면 눈에 띄게 달라진 것이다. 당시 오픈AI 경영진은 최고급 AI 모델의 월 구독료를 수천달러까지 책정할 수 있다고 언급하기도 했다.

DA데이비드슨의 길 루리아 기술 리서치 책임자는 "기업들은 과거보다 훨씬 더 많은 돈을 쓰고 있다"며 "이러한 비용이 통제할 수 없는 수준으로 불어나는 것을 보면서 효율성에 관한 질문을 던지기 시작했다"고 말했다.

저렴한 대체 AI 모델을 찾는 기업들도 있다. 딥시크를 비롯한 중국 AI 기업들은 가격 경쟁력을 앞세운 개방형 모델을 대거 출시하고 있다. 성능은 미국 업체의 최상위 모델에 미치지 못하나 일상 업무를 처리하기에는 충분하다는 평가가 나온다. 일부 이용자들은 작업별로 수백 개의 AI 모델 가운데 적합한 모델을 손쉽게 선택해 비용을 낮출 수 있는 '모델 라우팅' 서비스로도 눈을 돌리고 있다.

기업들이 성능뿐 아니라 비용 효율성까지 따지기 시작하면서 현재 업계 선두 주자로 평가받는 앤스로픽도 가격 인하 압박을 받을 수 있다는 분석이 나온다. 벤치마킹 서비스 아티피셜 애널리시스에 따르면 앤스로픽의 최신 모델인 오퍼스와 페이블은 작업당 비용을 기준으로 가장 비싼 모델들 가운데 하나다.

유현석 기자 guspower@asiae.co.kr

기자가 작성하고 AI가 부분 보조한 기사입니다.