‘관심이 당신에게 필요한 모든 것’ 논문의 저자들이 엔비디아의 GTC 2024 ‘트랜스포밍 AI’ 세션에 참여해 사진을 촬영했다. 오른쪽 3번째가 야콥 우스코라이트, 5번째는 젠슨 황 엔비디아 CEO. 엔비디아

‘관심이 당신에게 필요한 모든 것’ 논문의 저자들이 엔비디아의 GTC 2024 ‘트랜스포밍 AI’ 세션에 참여해 사진을 촬영했다. 오른쪽 3번째가 야콥 우스코라이트, 5번째는 젠슨 황 엔비디아 CEO. 엔비디아

AD
원본보기 아이콘

'관심이 당신에게 필요한 모든 것(Attention Is All You Need).' 야콥 우스코라이트를 비롯한 구글 연구팀 8명이 2017년 신경정보처리시스템학회에서 발표한 논문의 제목이다. 비틀스 노래 '당신에게 필요한 모든 것은 사랑(All You Need Is Love)'을 패러디한 제목이다.


논문 주제는 셀프 어텐션을 중심으로 한 트랜스포머 구조였다. 셀프 어텐션이란 문장을 구성하는 단어들이 서로 어떤 관계를 맺는지 계산하고, 각 단어를 처리할 때 다른 단어들의 정보를 중요도에 따라 반영하는 방식이다. 트랜스포머는 셀프 어텐션을 핵심 요소로 하는 신경망이다. 기존에 널리 쓰이던 순환 신경망은 단어를 순서대로 처리하면서 앞서 입력된 정보를 다음 단계로 전달했다. 이 때문에 텍스트가 길어질수록 이전 정보를 유지하고 활용하기 어려워했다. 반면 트랜스포머는 셀프 어텐션을 이용해 멀리 떨어진 단어들 사이의 관계를 직접 계산하고, 여러 단어를 병렬적으로 처리했다. 이런 구조는 대규모 학습에 유리했다. 트랜스포머가 엔비디아 그래픽처리장치(GPU) 등의 강력한 병렬 연산 능력과 결합하면서 GPT 같은 거대언어모델(LLM)의 발전을 촉진했고, 이를 기반으로 챗GPT가 나왔다.

우스코라이트는 1982년생으로 독일 베를린공대에서 컴퓨터과학과 수학을 전공했다. 부친 한스 우스코라이트는 컴퓨터가 언어를 처리하도록 하는 컴퓨터언어학을 연구했다. 우스코라이트는 원래 생물학과 관련된 컴퓨터 분야에서 일하고 싶었으나 2008년 구글에 입사한 후 부친의 분야인 언어 처리에 흥미를 갖게 됐다고 '엔비디아 젠슨 황, 생각하는 기계'에서 전한다.


인공지능(AI)을 활용한 문해력 교육을 궁리하다 문득 우스코라이트의 근황이 궁금해졌다. 그는 2021년 구글을 떠나 인셉티브를 공동 창업했고, 현재 이 회사 최고경영자(CEO)로서 AI를 활용한 RNA 신약 개발을 이끌고 있다. 첫 관심사인 생명으로 돌아온 것이다.

언어와 RNA 사이에는 공통점이 있다. 문장은 단어들이 일정한 순서로 배열된 구조이며, RNA는 아데닌(A), 우라실(U), 구아닌(G), 사이토신(C)이라는 네 종류의 염기가 배열된 구조다. 단어의 의미가 다른 단어와의 관계에서 영향을 받듯, RNA의 기능도 염기의 배열과 염기 사이의 상호작용에서 영향을 받는다. AI를 활용하면 동일한 단백질을 만들 수 있는 수많은 염기 배열 가운데 RNA의 안정성과 단백질 생산 효율 등을 개선하고 면역반응을 적절히 조절할 가능성이 높은 후보를 찾는 데 도움받을 수 있다.


인셉티브는 RNA 치료제 설계 기술 개발에 이러한 접근을 적용하고 있다. 지난 6월 RNA 치료제 전문기업 앨나일람과 향후 성과에 따라 최대 20억달러를 받는다는 조건으로 공동개발 계약을 체결했다.


신약 개발에 뛰어든 AI 연구자는 많다. 그러나 트랜스포머 개발의 주역이었다는 점에서 우스코라이트의 변신은 남다른 관심을 끈다. 다음엔 내가 궁금해하기 전 그의 성과가 전해지기를 기대해본다.

AD

백우진 경제 칼럼니스트


<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈