"선별·분배가 핵심" 의료·코딩 AI 학습시간 70% 단축

대전=정일웅 기자

입력 2026.11.02 08:19

의료·코딩 등 특정 분야에서 인공지능(AI)의 추가 학습 시간을 10시간에서 3시간으로 단축할 기술이 개발됐다. 학습 효과가 비슷한 자료를 추려내 다양한 자료를 여러 GPU에 고르게 나누는 게 핵심이다. 이런 과정은 반복 학습을 줄여 AI 성능을 유지하면서, 학습 시간을 최대 69.6% 단축할 수 있게 한다. 기업별 고객 상담, 의료진의 정보 확인을 돕는 AI를 적은 비용으로 보다 빠르게 개발하는 데 기여할 것으로 기대된다.

KAIST는 전산학부 이재길 교수 연구팀이 학습에 영향을 주는 유사 데이터를 묶어 '선별'한 후 GPU에 '배분'하는 대규모 언어모델(LLM) 미세조정 기술 'CluSTER(클러스터)'를 개발했다고 2일 밝혔다.

AI 생성 이미지. KAIST

LLM을 코딩과 의료 등 특정 분야에서 활용하려면 AI에 관련 자료를 추가로 학습시키는 '미세조정'이 필요하다. 이 과정에선 여러 GPU가 데이터를 분담해 수많은 계산을 처리한다.

GPU는 AI 학습에 필요한 계산을 수행하는 반도체다. 대규모 학습 자료를 분담해 처리한 후 결과를 합쳐 하나의 AI 모델을 개선하는 역할을 한다.

이때 무작위로 자료를 나누면 유사 데이터를 여러 GPU가 반복해 처리하게 된다. 문제는 이런 과정이 계산량에 비해 추가로 얻는 학습 효과를 낮출 수 있다는 점이다.

이를 개선하기 위해 연구팀은 많은 자료를 학습시키는 것과 함께 '자료를 선별해 나눠주는 방식'에 주목했다. 반복 학습을 줄이면서 AI가 배워야 할 다양한 정보를 놓치지 않게 하는 방법을 고민한 것이다.

클러스터는 먼저 데이터가 AI 학습에 미치는 영향을 분석해 유사 데이터를 묶는 과정을 수행한다. 겉은 다른 문제라도 'AI에 유사한 풀이 능력을 가르친다'면 같은 묶음으로 분류하는 방식이다.

예컨대 학생에게 덧셈을 가르칠 때 '사과 두 개와 세 개를 합치는 문제' 그리고 '연필 두 자루와 세 자루를 합치는 문제'는 이야기는 달라도 익히는 계산 방법은 같다. 연구팀은 이처럼 표현이 달라도 학습에 비슷한 영향을 주는 자료를 찾아 묶었다.

또 묶음별로 데이터를 선별하고, 여러 GPU가 다양한 학습 정보를 골고루 처리하도록 배분했다. 문제집에서 비슷한 문제는 줄이되 반드시 익혀야 할 여러 유형의 문제는 빠짐없이 남겨 처리할 수 있도록 한 것이다. 이는 데이터의 양을 줄이는 데 그치지 않고, 선택한 데이터를 여러 GPU가 효율적으로 활용하도록 한다.

(왼쪽부터) KAIST 김현진 박사과정, 이재길 교수. (상단 왼쪽부터) 토론토대 남영은 박사후연구원, KAIST 한재민 석사과정, KAIST 최원혁 석사과정. KAIST

연구팀은 이런 방식으로 의료·코딩 분야의 학습 데이터 3종에서 70억개와 130억개의 매개변수를 가진 LLM을 미세조정하고, 총 8개의 성능 평가시험으로 기술의 효과를 확인했다. 매개변수는 AI가 학습하면서 조정하는 내부 수치로다. 학습한 지식을 답변에 반영하는 데 주로 쓰인다.

실험에서는 전체 데이터의 31%가량만 선별해 학습해도 모델 성능은 유지하면서, 학습 시간은 최대 69.6% 단축했다. 최대 10시간 소요되던 학습이 3시간으로 짧아진 셈이다.

이번 연구는 GPU 투입을 늘리지 않고, 학습 자료를 선별해 고르게 배분하는 것만으로도 AI의 학습 효율을 높일 수 있다는 사실을 보여준다.

클러스터를 활용하면 기업과 연구기관이 코딩 지원이나 의료 분야의 질문·답변 등 특정 목적에 맞는 AI를 개발할 때 추가 학습에 드는 시간과 GPU 사용 비용을 줄일 수 있을 것으로 기대된다.

이 교수는 "AI의 학습 효율을 높이려면 GPU를 많이 사용하는 것 외에도 어떤 데이터를 학습할지 '선택'하는 것이 중요하다"며 "이번 연구는 GPU 자원을 보다 효율적으로 활용해 대규모 AI 모델의 학습 부담을 줄인다는 점에서 의미를 갖는다"고 말했다.

한편 이번 연구에는 KAIST 전산학부 김현진 박사과정 학생이 제1 저자, 토론토대 남영은 박사후연구원과 KAIST 데이터사이언스대학원 한재민·최원혁 석사과정 학생이 공동저자, 이재길 교수가 교신저자로 참여했다.