네이버, AI탭 최적화 모델 공개…"속도 2배 높이고 환각현상 30%p개선"

AI 검색 서비스 위해 개발된 경량 모델
하이퍼클로바X 대비 강화 학습 비중 확대

2일 진행된 'AI검색 테크 딥톡' 현장에서 발표하는 네이버클라우드 이기창 이사. 네이버 제공.

네이버가 초거대 인공지능(AI) 모델 하이퍼클로바X(HCX)보다 응답속도와 처리량을 높인 경량화 모델을 'AI탭'에 새롭게 탑재했다. 기존 HCX 대비 강화 학습 비중을 확대하고 속도는 2배 높였으며, 환각현상은 30%포인트 개선했다.

네이버( NAVER )는 지난 2일 네이버 D2SF 강남에서 '탐색에서 실행까지, Ai 기술이 만드는 네이버 AI 검색'을 주제로 테크 딥톡 세션을 진행하고 이같이 밝혔다.

이날 세션에서는 대화형 AI 검색 'AI탭' 최적화 모델, AI를 안전하고 효율적으로 운영하는 하네스 엔지니어링, AI의 시각적 이해를 확장하는 멀티모달 기술 등 차세대 AI 검색을 구현하는 핵심 기술이 공개됐다.

이기창 네이버클라우드 하이퍼스케일 AI모델 이사는 "AI탭에 적용된 모델은 학습 데이터 구축부터 모델 설계, 강화학습까지 전 과정을 네이버 서비스에 맞춰 최적화한 것이 특징"이라며 "네이버 사용자가 검색·구매·예약 등 실제 서비스 과정에서 가장 정확하고 효율적으로 작동하는 모델을 만드는 것이 목표"라고 강조했다.

AI탭에 새로 적용된 모델은 기존 HCX를 기반으로 AI 검색 서비스를 위해 개발된 경량 모델로, 네이버의 데이터·서비스 시나리오·사용자 피드백을 모델 설계 전반에 반영한 프로덕트 네이티브 거대언어모델(LLM)이다.

해당 모델은 서비스 효율성을 극대화하기 위해 데이터, 아키텍처, 트레이닝 3대 축을 중심으로 개발됐다. 네이버는 문서 품질 필터를 통해 학습 데이터의 품질을 높였으며, 복잡한 사용자 요청과 최적의 답변을 매핑하는 '서비스형 데이터 수집 파이프라인'을 구축해 검색·쇼핑·플레이스·생활정보 분야의 고품질 데이터를 사전 학습 단계부터 반영했다.

아키텍처 측면에서도 대규모 서비스 환경에 최적화된 혼합전문가(MoE) 구조를 도입해, 기존 HCX 대비 더 빠른 응답 속도와 높은 처리량을 확보했다. 특히 이번 모델은 입력부터 최종 답변 완료까지 걸리는 총 소요시간을 단축했다.

트레이닝 단계에서는 강화학습에 투입되는 컴퓨팅 자원이 기존 HCX 대비 2배 이상 확대됐다. 유저 시뮬레이터와 네이버의 검색·예약 등 실제 서비스를 연계한 강화학습 환경을 구축해, 모델이 여러 도구를 활용해 사용자의 과업을 끝까지 수행하도록 학습시켰다.

답을 낼 수 없는 질문에 대해 추가 조건을 되물었을 때, 보상을 부여해 모델 성능을 높이는 강화학습 기술도 새롭게 적용했다. AI가 모호한 요청을 임의로 해석하지 않고, 추가 질문을 통해 사용자의 의도를 명확하게 확인하는 명료성 강화학습 기술로 할루시네이션(환각) 현상을 개선했다. 아티피셜 애널리시스의 AA-Omniscience 벤치 마크 기준, 특화 모델의 할루시네이션 비율이 기존 HCX 대비 최대 30%포인트 감소한 것으로 나타났다.

아울러 OPD(자기정책 기반 증류) 기법을 적용했다. 학습 중인 모델(Student)이 직접 생성한 답변을 고성능 모델(Teacher)이 토큰 단위로 첨삭하는 방식으로, 부족한 전문 영역의 역량을 효과적으로 보완하고 Teacher 모델의 성능이 높아질수록 Student도 함께 향상되는 개선 구조를 갖는다.

네이버는 AI탭에 적용된 모델의 '검색·구매·예약' 등의 실행 품질을 종합적으로 평가한 자체 벤치마크 결과, '서비스 역량'에서 글로벌 동급모델의 평균점수(100점)를 상회하는 108점을 기록했으며, 지시 이행과 일반 도구호출 등 기본 역량에서도 동급 평균(100점) 대비 높은 104점을 기록했다고 설명했다.

AI탭에 경량화된 모델 적용해 비용 최대 3배 절감

이날 네이버의 에이전틱 검색 서비스 'AI탭'을 안정적으로 구동하는 핵심 기술 '하네스 엔지니어링'도 공개됐다. AI탭에 적용된 하네스 엔지니어링은 AI가 부적절한 답변을 하지 않도록 제어하는 동시에, 필요한 정보를 스스로 찾고 적절한 도구를 활용해 사용자의 요청을 끝까지 수행하도록 설계됐다. 안전 필터, 사용자 의도 이해와 긴 대화 맥락 관리, 검색·쇼핑·플레이스 등 서비스 연계 추론, 출처 제공과 실행 연결의 네 단계로 동작한다.

네이버는 대규모 서비스인 AI탭의 효율성을 높이기 위해 분업형 SLM(소규모 언어모델) 구조도 구축했다. 하나의 거대 LLM이 모든 작업을 처리하는 대신, 역할별로 특화된 SLM을 조합해 운영 비용을 줄이면서도 응답 속도와 품질을 동시에 높였다. 실제 AI탭에는 경량화된 특화 모델을 적용해 일부 컴포넌트의 장비 운영 비용을 기존 대비 최대 3배 절감하고, 응답 속도는 2배 이상 개선하는 성과를 거뒀다. 또 분업형 SLM 구조는 새로운 소형 모델이 개발되면 해당 파트만 플러그인 형태로 교체할 수 있어, 서비스 중단 없이 지속적인 성능 개선이 가능하다.

네이버 AI 검색 서비스 한승균 리더는 "서비스에서 잘 작동하는 AI 에이전트를 만들기 위해서는 LLM 뿐만 아니라 비용 효율성과 안정성을 동시에 설계하는 하네스 엔지니어링이 필수"라며 "지난 27년간 축적한 검색 인프라와 노하우, 블로그·카페 등 방대한 콘텐츠, 쇼핑·플레이스 등 다양한 서비스 자산을 AI 기술로 연결해 검색부터 실행까지 이어주는 경험은 누구도 쉽게 따라올 수 없는 네이버만의 경쟁력"이라고 강조했다.

2일 진행된 'AI검색 테크 딥톡' 현장에서 발표하는 네이버 윤상두 리더. 네이버 제공.

네이버는 검색창 전면에 배치된 스마트렌즈를 중심으로 한 멀티모달 기술 고도화 전략도 함께 공개했다. 멀티모달은 이미지를 AI가 이해할 수 있는 표현으로 변환해 텍스트뿐 아니라 이미지와 영상 등 다양한 형태의 정보를 함께 이해하고 활용할 수 있도록 하는 기술이다.

네이버는 2017년 스마트렌즈를 출시하며 이미지 검색 서비스를 선보인 이후, 지속적인 기술 고도화를 통해 멀티모달 검색 역량을 축적해왔다. 네이버 Future AI Center 윤상두 리더는 "향후 네이버의 AI 에이전트 서비스는 텍스트뿐 아니라 이미지를 통해서도 사용자의 의도를 이해하고 실제 행동까지 연결하는 방향으로 진화할 것"이라고 말했다.

서소정 기자 ssj@asiae.co.kr