서버에 의존도를 낮춰 빠르게 판단하는 모바일 인공지능(AI) 기술이 개발됐다. 어려운 문제를 해결할 때마다 서버에 묻는 대신, 이미 학습한 내용을 저장해 비슷한 문제는 스스로 해결하는 방식이다. 이를 통해 모바일 AI는 높은 정확도를 유지하면서 서버 호출은 평균 55.61%까지 줄일 수 있다.


KAIST는 전산학부 이재길 교수 연구팀이 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결할 기기-서버 협업 기술 'CURE(Cumulative Knowledge Reuse·누적 지식 재사용)'를 개발했다고 21일 밝혔다.

AI 생성 이미지. KAIST

AI 생성 이미지. KAIST

AD
원본보기 아이콘

스마트폰 등 기기는 계산능력과 메모리가 제한돼 소형 AI 모델을 주로 사용한다. 이 모델은 간단한 문제를 빠르게 처리하는 데는 용이하지만, 복잡하거나 낯선 이미지를 구분할 때는 정확도가 떨어진다.


반대로 고성능 서버의 대형 AI는 정확도가 높지만 데이터를 보내고, 답을 얻는데 소요되는 시간이 길어진다. 통신량과 서버 연산량도 늘어 이용자의 대기 시간과 서비스 운영비용도 커지는 단점이 있다.

CURE는 이런 장단점을 상호 보완하는 역할로 개발됐다. 서버가 알려준 답을 일회성으로 사용하지 않고, 이후에도 활용할 수 있는 지식으로 축적할 수 있게 한 것이 핵심이다.


기기의 소형 AI가 질문을 스스로 처리할 수 있는지 판단한 후 해결하기 어려울 땐 먼저 기기에 저장된 서버 지식을 활용하는 방식이다. 만약 저장된 지식으로도 문제를 해결하기 어렵다면 서버에 도움을 요청한다. '혼자 풀기→배운 내용 찾아보기→전문가에게 묻기' 등 3단계로 문제를 해결하는 구조다.


예컨대 소형 AI가 사진 속 특정 차종을 구분하지 못하면, 서버의 대형 AI에 답을 요청한다. 이때 CURE는 서버의 판단 결과와 이미지의 특징을 기기의 지식 저장소에 반영한다. 또 비슷한 차종의 사진을 재차 구분해야 하는 상황이 생기면 앞서 저장한 지식을 참고해 서버에 묻지 않고도 직접 판단한다.


CURE는 서버가 처리한 사진을 그대로 저장하지 않는다. 여러 사진에서 공유된 특징과 서로 다른 점을 요약해 지식으로 보관하는 것이다. 자동차 사진을 통째로 외우는 게 아니라, 차체 모양이나 전조등처럼 차종을 구분하는 핵심 특징을 정리해 두는 것과 같다. 이를 통해 이전에 봤던 사진은 물론 처음 접하는 유사한 사진을 판단할 때도 축적된 지식을 활용할 수 있다.


연구팀은 CURE의 성능을 이미지와 글로 이해하는 '비전-언어 모델'을 통해 검증했다. 비전-언어 모델은 사람처럼 이미지를 보고, 그 내용을 언어와 연결해 이해하는 AI다.


검증 과정에선 기기용 소형 모델 'MobileCLIP2'와 서버용 대형 모델 'EVA-CLIP'이 사용됐다. 매개변수는 AI가 학습 과정에서 익힌 정보를 담은 내부 수치가 반영됐다. 이는 사물을 구분해 관계를 판단할 때 활용하는 일종의 '판단 기준'이다.


이 결과 이미지 분류 데이터셋을 이용한 실험에서 CURE는 모든 입력을 대형 서버 모델로 처리하는 방식에 근접한 정확도를 유지하면서, 서버의 지식을 축적하지 않는 기존 기기-서버 협업 방식보다 서버 호출 횟수를 평균 55.61% 줄였다.


처리 속도는 기존 기기-서버 협업 방식보다 최대 2.80배, 모든 입력을 서버로 보내는 방식보다 최대 3.67배 빨랐다. 서버에 묻는 횟수를 줄여 데이터를 주고받고 답을 기다리는 시간을 단축한 셈이다.


(왼쪽부터) KAIST 정보전자연구소 이영준 박사, 전산학부 이재길 교수, (우측 상단 왼쪽부터) Amazon 김도영 박사, LG AI연구원 강준혁 박사, KAIST 산업및시스템공학과 송환준 교수. KAIST

(왼쪽부터) KAIST 정보전자연구소 이영준 박사, 전산학부 이재길 교수, (우측 상단 왼쪽부터) Amazon 김도영 박사, LG AI연구원 강준혁 박사, KAIST 산업및시스템공학과 송환준 교수. KAIST

원본보기 아이콘

이번 기술은 모바일 사진 인식과 이미지 검색 등에서 반복적인 데이터 전송과 서버 연산을 줄여 이용자의 대기 시간과 서비스 운영 부담을 낮추는 역할을 할 것으로 기대된다.


이 교수는 "CURE는 소형 AI가 서버에 같은 문제를 반복해 묻지 않고, 지식을 저장해 다시 활용할 수 있다"며 "이 기술은 스마트폰뿐 아니라 제한된 기기 자원으로 주변 환경을 인식하는 로봇, 웨어러블 기기에도 응용될 수 있다"고 설명했다.


그러면서 "다만 실제 적용 효과는 기기의 성능, 저장 공간, 통신환경, 입력 데이터의 특성 등에 따라 달라질 수 있어 다양한 기기와 환경에서의 검증이 필요하다"고 말했다.


한편 이번 연구에는 KAIST 정보전자연구소 이영준 박사후연구원이 제1 저자, 전산학부 이재길 교수가 교신저자, Amazon 김도영 연구원·LG AI연구원 강준혁 연구원·KAIST 산업 및 시스템공학과 송환준 교수가 공동저자로 참여했다.

AD

연구 결과는 최근 스웨덴 말뫼에서 열린 컴퓨터 비전 분야 국제학술대회 '유럽컴퓨터비전학회(ECCV 2026, European Conference on Computer Vision)'에서 발표됐다.


대전=정일웅 기자 jiw3061@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈