업스테이지, 소형 언어모델 '솔라 미니 4' 공개…GPU 1장으로 구동
350억개 매개변수 규모…MoE 구조로 효율 ↑
양자화 적용 시 GPU 1장만으로 구동
업스테이지는 최신 거대언어모델(LLM) '솔라 미니 4'를 공개했다고 1일 밝혔다.
솔라 미니 4는 업스테이지 솔라 LLM의 소형 모델 라인업으로, 작은 규모에서도 높은 성능과 효율을 동시에 구현했다. 전체 350억개급 파라미터(매개변수)의 소형 사이즈에 전문가혼합(MoE) 구조를 적용해 실제 추론 시에는 30억개의 파라미터만 선택적으로 활성화해 효율을 높였다.
성능은 글로벌 AI 평가기관 아티피셜 애널리시스의 지능지수(AAII) 벤치마크 기준으로 종합 24점을 기록했다. 이는 활성 파라미터 30억 규모의 소형 모델 중 수준급으로, 알리바바 '큐원 3.6-35B-A3B', 엔비디아 '네모트론 3.5 라이트닝' 등 동급 모델을 앞섰다. 매개변수가 더 큰 엔비디아 '네모트론 3 울트라', 구글 '젬마 4 31B', 샤오미 '미모 V2.5' 등 상위 체급 모델과도 대등하거나 앞선 성능을 기록했다.
아울러 솔라 미니 4는 양자화 적용 시 그래픽처리장치(GPU) 1장만으로도 구동할 수 있어 기업 내부 서버에 직접 설치해 운영하는 온프레미스 환경에도 적합하다. 활성 파라미터가 적은 만큼 응답 속도가 빠르고 처리 비용이 낮아 보안 요구 수준이 높은 기업·기관도 온프레미스형으로 이 모델을 도입할 수 있다.
업스테이지는 이번 공개로 솔라 LLM을 '프로'와 '미니' 두 개의 라인업 체제로 갖춘다. 솔라 프로는 복잡한 판단이 이어지는 고난도 에이전트 작업에, 솔라 미니는 단계별 업무 자동화처럼 반복 작업을 빠르고 효율적으로 처리하는 데 특화됐다. 업무 난이도와 처리량에 따라 두 라인업을 조합해 성능과 비용을 최적화할 수 있다.
솔라 미니 4는 글로벌 API 라우팅 플랫폼 '오픈라우터'를 통해 애플리케이션 프로그래밍 인터페이스(API)로도 공개된다. 지난 8월 한국 모델 최초로 오픈라우터에 정식 등재된 솔라 프로 4는 오픈라우터 폐쇄형 모델 토큰 사용량 기준 주간 3위까지 오른 바 있다.
꼭 봐야 할 주요 뉴스
"화장실 두 번 다녀오더니 답을 술술"…스마트 안경 숨긴 수험생 결국
김성훈 업스테이지 대표는 "솔라 미니 4는 동급 경쟁 모델을 모두 앞서며 소형 LLM의 새로운 기준을 제시했다"며 "복잡한 에이전트 업무는 프로, 대규모 업무 자동화는 미니로 체계화한 솔라 LLM을 통해 기업이 업무에 가장 알맞은 AI를 선택할 수 있도록 하겠다"고 밝혔다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>