LG CNS, 캐나다 AI기업과 고도 추론형 LLM 선보여…에이전틱 AI 서비스 기반 마련

코히어와 1110억개 파라미터 LLM 공동 개발
GPU 2장만으로 구동 가능…'소버린 AI' 경쟁력 확보 나서

LG CNS 본사 전경. 사진=LG CNS

LG CNS가 캐나다 인공지능(AI) 스타트업 코히어(Cohere)와 함께 1110억개 파라미터를 갖춘 초대형 추론형 거대언어모델(LLM)을 공동 개발했다고 10일 밝혔다. 이 모델은 AI가 스스로 판단하고 작업을 수행하는 '에이전틱 AI' 구현에 핵심이 되는 기술로, 23개 언어를 지원한다.

양사 자체 테스트 결과, 이번에 개발한 LLM은 챗GPT-4o, 클로드3.7 소넷 등 국제 대표 모델보다 한국어·영어 추론 능력에서 우수한 성능을 보였다. 특히 수학 추론 능력을 평가하는 매스500, AIME 2024 벤치마크에서 다른 모델보다 높은 점수를 기록했다는 설명이다. 민감한 데이터를 자체 인프라 내에서 안전하게 처리할 수 있는 '온프레미스' 방식도 지원한다. 그래픽처리장치(GPU) 2장으로도 구동이 가능한 압축 기술이 적용돼 비용 효율성을 높였다. LG CNS는 이를 통해 공공·금융 등에 적합한 '소버린 AI' 경쟁력을 확보한다는 전략이다.

박유진 기자 genie@asiae.co.kr