AMD "기름 안 나는 韓, '토큰 공장' 돌리면 산유국보다 100배 번다"

AMD·모레, '토큰 팩토리' 동맹
"원유보다 100배 높은 부가가치"
엔비디아 록인 깨고 추론 시장 공략

AMD가 국내 인공지능(AI) 소프트웨어 기업 모레와 함께 '토큰 팩토리'라는 사업 모델을 제시했다. 하드웨어 스펙 경쟁에서 벗어나 실제 서비스 구동 시 발생하는 토큰당 생산 비용을 낮추는 전략이다. 이를 통해 엔비디아의 독점 생태계에 균열을 내겠다는 구상이다.

라민 로앤 AMD AI 제품 애플리케이션 엔지니어링 담당 부사장과 조강원 모레 대표는 4일 강남구 웨스틴 서울 파르나스 호텔에서 열린 'AMD AI 개발자의 날 서울 2026'의 공동 발표자로 나서 이 같은 차세대 데이터센터 사업 모델과 소프트웨어 최적화 성과를 공개했다.

라민 로앤 AMD AI 제품 애플리케이션 엔지니어링 담당 부사장(왼쪽)과 조강원 모레 대표가 4일 강남구 웨스틴 서울 파르나스 호텔에서 열린 'AMD AI 개발자의 날 서울 2026'에서 발표를 하고 있다. 김진영 기자

최근 AI 시장의 중심축은 모델 학습에서 실시간 추론으로 빠르게 이동하고 있다. 이에 따라 전 세계 데이터센터의 성격도 단순 연산 용량 대여에서 토큰 대량 생산 공장으로 재편되고 있다.

로앤 부사장은 산유국의 원유 채굴과 AI 추론의 수익성을 비교했다. 로앤 부사장은 "원유 1배럴의 가격이 100달러일 때 산유국의 이익은 약 50달러 수준이지만, 그에 상응하는 전력 에너지로 오픈소스 AI 모델(키미 K3) 추론을 수행하면 클라우드 임대료와 라이선스 비용을 제하고도 5000달러의 순이익이 남는다"며 "산유국이 거두는 이익의 100배에 달한다"고 설명했다. 이어 "한국은 천연자원인 석유는 없지만, 데이터센터 인프라와 소프트웨어를 통해 산유국보다 100배 높은 부가가치를 만들어낼 수 있는 국가"라고 덧붙였다.

조강원 대표는 기업 고객들의 수요 변화를 짚었다. 조 대표는 "과거 데이터센터는 엔비디아의 '쿠다(CUDA)' 같은 그래픽처리장치(GPU) 프로그래밍 편의성이 핵심 경쟁력이었지만, 이제 고객들은 GPU 컴퓨팅 자원을 통째로 사지 않고 토큰 생성 결과물만을 요청한다"며 "하드웨어가 엔비디아 GPU인지, AMD GPU인지, 국산 신경망처리장치(NPU)인지 전혀 신경 쓰지 않고 하나의 '블랙박스'로 취급한다"고 밝혔다. 아울러 "고객이 신경 쓰는 유일한 기준은 '최신 오픈소스 모델을 즉시 지원하는가'와 토큰 생성 비용 단 두 가지뿐"이라고 부연했다.

토큰은 AI 언어 모델이 글자나 단어를 인식하고 처리하는 기본 데이터 단위다. 생성형 AI 서비스의 결과물 출력량과 사용 요금 책정의 기준이 된다.

소프트웨어 최적화에 따른 경제성도 강조됐다. 로앤 부사장에 따르면 AMD의 플랫폼 라콤(ROCm)에 AI 코딩 에이전트를 접목한 결과 6개월 만에 3.3배의 성능 향상을 기록했다. 또 반도체 분석기관 세미애널리시스에 따르면 오픈소스 추론 환경에서 엔비디아 기반 인프라의 마진율은 3~21%에 그쳤다. 반면 AMD 스택 기반 인프라는 44% 수준의 마진을 확보한 것으로 조사됐다.

조 대표는 "자체 시뮬레이션 결과 모레의 최적화 기술을 적용할 경우 토큰 판매 기업은 AMD 인프라를 통해 40% 이상의 높은 마진을 안정적으로 확보할 수 있다"며 "자체 AI 데이터센터를 구축하려는 기업 역시 외부 클라우드 토큰 서비스를 이용할 때보다 운영 비용을 약 절반 수준으로 절감할 수 있다"고 설명했다.

양사는 특정 하드웨어에 종속되지 않는 개방형 데이터센터 구축을 강조했다. 조 대표는 "최근 GPU 공급 부족 사태로 인해 어떤 데이터센터도 단일 하드웨어 벤더에만 의존하기를 원하지 않는다"며 "단일 칩으로는 모든 워크로드를 최적화할 수 없기 때문에 엔비디아 GPU, AMD GPU, 향후 등장할 국산 NPU까지 하나의 데이터센터 안에서 유기적으로 혼용할 수 있어야 한다"고 말했다.

김진영 기자 camp@asiae.co.kr

기자가 작성하고 AI가 부분 보조한 기사입니다.