카카오, '카나나' 한국어 특화 경량 모델 4종 오픈소스 공개

카나나-2 SLM 시리즈 모델 4종 공개
스마트폰 등 기기 최적화…'카나나 인 카톡' 등서 활용
유사 크기 글로벌 모델과 유사한 성능

카카오 는 자체 개발한 인공지능(AI) 모델 '카나나'의 경량언어모델(SLM)을 오픈소스로 공개했다고 28일 밝혔다.

카카오가 오픈소스 AI 플랫폼 허깅페이스에 공개한 카나나-2 경량언어모델 시리즈는 ▲카나나-2-1.3B-베이스 ▲카나나-2-1.3B-인스트럭트 ▲카나나-2-3B-베이스 ▲카나나-2-3B-인스트럭트 등이다. 이 모델들은 스마트폰 등 디바이스에서 구동할 수 있도록 모델 크기를 줄였다.

카카오는 자체 개발한 인공지능(AI) 모델 '카나나'의 경량 언어모델(SLM)을 오픈소스로 공개했다고 28일 밝혔다. 카나나 경량언어모델의 성능 지표. 카카오

카카오는 최근 개인 기기에서 구동할 수 있는 경량언어모델의 중요성이 부각되는 추세 속에서 작은 크기에도 실제 서비스에 적용 가능한 수준의 성능을 갖춘 경량언어모델을 연구해왔다. 이번에 공개한 모델은 현재 '카나나 인 카카오톡', '카카오톡 대화요약 및 통화요약', 'AI 국민비서' 등 다양한 서비스에서 활용되고 있다.

이번에 공개한 모델들은 한국어와 영어 모두에서 글로벌 수준의 성능을 구현했다는 게 카카오의 설명이다. 특히 카나나-2-1.3B-인스트럭트와 카나나-2-0.9B-인스트럭트는 대화, 지식, 코드, 수학, 지시이행, 툴 호출 등 실제 서비스 활용 역량에서도 큐웬(알리바바), 젬마(구글) 등 동급 글로벌 모델과 경쟁하는 수준의 성능을 보였다.

한국어 처리 성능도 높였다. 카카오가 자체 개발한 한국어 특화 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 토크나이저는 AI 모델이 텍스트를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 기술로, 한국어에 최적화된 토크나이저를 사용할수록 같은 문장을 더 적은 단위로 처리할 수 있어 연산 속도가 빨라지고 비용도 줄어든다.

스마트폰 등 연산 성능이 제한된 온디바이스 환경에 최적화해 설계된 점도 특징이다. 긴 대화를 처리할 때 메모리 사용량이 늘어나는 문제를 해결하기 위해 '슬라이딩 윈도우 어텐션' 구조를 도입했으며, 이를 통해 최대 32K(3만2000 토큰) 길이 수준의 대화에서도 메모리를 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있다.

카카오는 이번 모델을 상업적 활용까지 허용하는 '카나나 오픈 라이센스'로 배포한다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "카카오는 두 영역에서 기술 경쟁력을 높여가고 있으며, 이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.

이명환 기자 lifehwan@asiae.co.kr