리벨리온 '아톰-맥스'에 KT LLM·API 결합
"국방·제조·금융 등 보안 산업 AX 촉매제"

KT가 국산 인공지능(AI) 반도체와 거대언어모델(LLM)을 하나의 서버에 통합한 기업용 소버린 AI 어플라이언스를 출시했다고 19일 밝혔다.


KT 관계자가 'KT NPU LLM 스테이션'을 살피고 있다. KT 제공

KT 관계자가 'KT NPU LLM 스테이션'을 살피고 있다. KT 제공

AD
원본보기 아이콘


리벨리온의 신경망처리장치(NPU) '아톰-맥스'에 자체 개발 LLM '믿음 K 2.5 프로', 운영 API 플랫폼을 탑재한 'KT NPU LLM 스테이션'으로, AI 반도체·모델, 운영 플랫폼까지 국내 기술로 구성했다.

아톰-맥스는 추론에 특화된 국산 NPU로, 공인 시험을 통해 동급 그래픽처리장치(GPU) 대비 높은 처리 성능과 전력 효율을 검증받았다. '믿음 K 2.5 프로'는 고난도 추론과 에이전트 활용에 강점을 가진 KT 독자 모델이다.


KT는 강력한 보안을 가장 큰 특징으로 꼽았다. 제품은 고객사 내부에 설치돼 모든 데이터와 AI 연산이 사내에서만 처리된다. 망분리 등 관련 규제로 해외 생성형 AI를 도입하지 못했던 공공·국방·제약·제조·금융 등 규제 산업의 AI 전환(AX)에 촉매제가 될 것으로 KT는 예상했다.

도입 부담도 낮췄다. 서버, AI 모델, 플랫폼이 통합된 완제품형 장치여서 별도 구축 과정 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등 AI 기능을 바로 사용할 수 있다. 동급 GPU 서버 대비 전력 효율이 높고, 업계 표준 API를 제공해 기존 AI 서비스와 호환할 수 있다.


KT는 향후 회의록 작성, 코딩 지원, 업무 자동화 에이전트 'K-Claw'(가칭) 등 KT가 개발한 AI 에이전트를 순차 탑재하고, 에이전트 전문 개발사와 협력해 고객 맞춤형 구축 사업으로 확장할 계획이다. 나아가 'KT NPU LLM Station'의 활용 영역을 피지컬 AI를 위한 엣지 데이터센터로 확대해 저전력·저지연 AI 인프라를 구현한다.

AD

이진형 KT AX사업본부장(상무)은 "소버린 AI를 실제 산업 현장에서 즉시 사용할 수 있도록 했다"며 "데이터 주권을 지키면서 AI 전환을 시작하려는 기업·기관에 현실적인 선택지가 될 것"이라고 말했다.


노경조 기자 felizkj@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈