'가상 실험장'서 AI 반도체·LLM 검증…"시간·비용 절감"

인공지능(AI) 반도체와 거대언어모델(Large Language Model·LLM)의 가상 실험장 역할을 할 가상의 실험 소프트웨어(시뮬레이터)가 개발됐다. 시뮬레이터는 챗 GPT 등 대규모 AI 서버 구축이 요구되는 상황에서 서버 인프라의 성능과 효율을 미리 검증할 수 있어 시간·비용을 절감하는 효과를 기대할 수 있게 한다.

(왼쪽부터) 박종세 KAIST 교수, 조재홍 KAIST 석사과정, 최현민 KAIST 석사과정, 브랜던 리건 ISPASS 2026 프로그램 위원장(뉴욕대 교수). KAIST

KAIST는 전산학부 박종세 교수 연구팀이 AI 서비스 환경에서 하드웨어와 소프트웨어의 조합을 가상으로 분석할 수 있는 시뮬레이션 플랫폼 'LLMServingSim 2.0'을 개발, 관련 연구를 토대로 컴퓨터 시스템 성능 분석 분야의 글로벌 학회 'ISPASS 2026(IEEE International Symposium on Performance Analysis of Systems and Software)'에서 최우수 논문상을 수상했다고 29일 밝혔다.

연구팀이 개발한 시뮬레이터는 기존 그래픽처리장치(GPU) 중심의 환경에서 벗어나 신경망처리장치(NPU)와 프로세싱인 메모리(PIM, 메모리 내부에서 연산 수행이 가능한 반도체 기술) 등 다양한 하드웨어 환경을 지원한다.

이를 활용하면 연구자와 개발자는 고가의 대규모 서버 인프라를 실제 구축하지 않고도 설계안을 자유롭게 실험하고, 성능을 검증할 수 있다. 상용화되지 않은 미래형 AI 반도체를 가상의 데이터센터 환경에서 시험할 수 있는 셈이다.

예컨대 시뮬레이터는 특정 반도체를 적용했을 때 서비스 속도 향상과 전력 소모 개선 그리고 수만 대의 서버 환경에서 얼마나 안정적으로 관련 시스템을 활용할 수 있는지를 컴퓨터 안에서 재현·분석할 수 있다.

AI 서비스 운영 과정에서 실제 발생하는 데이터 처리, 요청 분배, 메모리 활용 등 복잡한 동작을 시스템 수준에서 재현해 현실에 가까운 성능 평가가 가능한 점도 시뮬레이터의 강점으로 꼽힌다.

무엇보다 여러 서버 자원을 분리·연결해 사용하는 분산형(disaggregated) 인프라 환경을 분석하는 게 가능한 점은 차세대 AI 데이터센터 연구에 활용될 가능성을 높인다.

시뮬레이터는 연구자, LLM 서비스 기업, AI 반도체 스타트업 등을 AI 인프라 개발 비용과 시간을 줄일 수 있어 차세대 AI 인프라를 설계하고, 최적화하는 데 용이하다는 것이 연구팀의 설명이다.

챗 GPT 등 LLM 서비스를 운영하는 데 수만 대의 서버 인프라가 필요하고, AI 반도체와 LLM 시스템 구조를 검증할 때마다 고가의 장비를 실제 구축하는 데 필요한 막대한 시간·비용을 줄일 수 있다는 맥락에서다.

박 교수는 "안정·효율적으로 운영 가능한 인프라 기술은 AI 서비스의 경쟁력을 가르는 핵심 요소"라며 "시뮬레이터가 차세대 AI 인프라를 개발하는 연구자, 산업계에 중요한 기반으로 활용될 수 있길 기대한다"고 말했다.

한편 이번 연구에는 전산학부 조재홍·최현민 석사과정 학생이 공동 제1 저자로 참여했다. 연구팀은 2024년 IISWC에 이어 ISPASS 2026에서도 최우수 논문상을 받아 AI 인프라 분야의 연구 경쟁력을 재차 입증했다.

대전=정일웅 기자 jiw3061@asiae.co.kr