ARM 기반 PC·스마트폰의 버그 확인 기술 개발돼

세계 최대 컴퓨터 학회 운영체제 분야 최고 학회서 아시아 최초 최우수 논문상 2회 수상
반도체 없이도 버그 확인 가능해져
안드로이드 및 윈도우 운영제체도 적용가능

애플의 최신 컴퓨터와 태블릿PC에 사용되는 'M3' 칩을 사용하던 중 운영체제에서 발생할 수 있는 치명적인 문제를 소프트웨어적으로 사전에 파악할 수 있는 기술이 국내에서 개발됐다. 애플 외에도 퀄컴, 삼성전자 등은 물론 전 세계 대부분의 반도체 업체들이 생산하는 칩에 적용할 수 있어 기술 기전도 가능할 것으로 예상된다.

애플의 최신 컴퓨터와 태블릿PC에 사용되는 ‘M3’ 칩을 사용하던 중 운영체제에서 발생할 수 있는 치명적인 문제를 소프트웨어적으로 사전에 파악할 수 있는 기술이 국내에서 개발됐다. 애플 외에도 퀄컴, 삼성전자 등은 물론 전 세계 대부분의 반도체 업체들이 생산하는 칩에 적용할 수 있어 기술 기전도 가능할 것으로 예상된다.

2일 카이스트(KAIST·총장 이광형)에 따르면 이 학교 전산학부 권영진·신인식 교수 연구팀은 서울대 이병영 교수와 협력해 세계 최대 컴퓨터학회 ACM(Association for Computing Machinery)의 운영체제 분야 최고 학회인 SOSP 심포지움(Symposium on Operating Systems Principles)에서 아시아 최초로 최우수 논문상을 2회 수상했다.

해당 연구는 세계 최초로 애플의 시스템온칩(SoC)은 물론 퀄컴, 삼성전자 등 RISC 기반의 ARM 코어를 사용한 반도체 실물이 없이도 운영체제 시스템을 해킹하거나 중단시킬 수 있는 비순차적 실행에 의한 동시성 버그를 탐지하는 기술에 관한 것이다. 최근 애플의 M 시리즈와 퀄컴의 스냅드래곤 X 엘리트 칩은 AI 용 노트북 시장에서 사용이 늘고 있다. 이번 연구는 이들 칩을 사용할 경우 발생할 수 있는 소프트웨어적인 문제를 찾을 수 있다는 뜻이다. 연구팀은 맥북과 같이 비순차적 실행 기반의 반도체에서 발생 가능한 동시성 버그를 찾는 기술 개발한 것은 세계 최초라고 설명했다.

비순차적 실행에 의한 동시성 버그란 전문 개발자가 몇 년이 지나도 찾지 못할 정도로 발견하기 어려운 매우 어려운 버그다. 이를 해커가 악용해 공격할 경우 시스템이 해킹당하거나 작동을 멈출 수 있는 결과를 초래할 수 있다.

애플 M3 칩

ACM SOSP는 컴퓨터 시스템 분야 세계 최고 권위의 학술대회로, 지난 30년간 국내에서 단 4편의 논문만 게재될 정도로 높은 기준을 요구한다.

권영진 교수는 2021년 ACM SOSP에서 아시아 학교에서는 최초로 최우수 논문상을 받았다. 이번 수상을 포함해 ACM SOSP에서 최우수 논문상을 두 차례 받는 성과를 냈다.

권영진·신인식 교수팀은 실제 물리적인 반도체가 없이도 정확하고 빠르게 소프트웨어만으로 구현하는 방법을 고안해 리눅스 커널 운영체제를 에뮬레이션 환경에서 구동할 수 있도록 하는 기법을 개발했다.

또 연구팀은 입력값을 무작위로 대입해 그 과정에서 발생하는 버그나 에러를 발견하는 기법인 퍼징(fuzzing)을 활용해 범용 운영체제인 리눅스 커널에서 11개의 새로운 버그를 발견해 보고했으며 리눅스 커널 개발자들에게 보안 패치를 제공하기도 했다. 발견된 버그들은 암호화된 네트워크에 사용하는 TLS 코드를 비롯해 보안에 위협이 되는 중요한 커널 요소에서 곳곳에서 발견됐다.

연구팀은 개발한 기술이 리눅스뿐만 아니라 핸드폰에 사용되는 안드로이드 운영체제나 윈도에도 적용할 수 있다고 설명했다. 서버, PC, 스마트폰 등 ARM 기반 칩을 사용한 기기에는 적용 가능하다고 했다. 연구팀은 응용 사례가 계속 확대될 것으로 기대했다. 연구 결과물은 개발자 커뮤니티인 깃허브에 오픈소스로 공개돼 있다.

권영진 교수는 "시행착오를 감수하고 끈기있게 연구를 진행한 학생 연구원의 의지에 감사하며 훌륭한 조언을 아끼지 않았던 동료 교수님께 다시 한번 감사드린다"고 수상 소감을 밝혔다. 연구팀은 국내외 주요 기업과 기술이전에 대한 논의에 나설 예정이다.

이번 연구는 한국연구재단, 정보통신기획평가원(IITP), 한국과학기술정보연구원, K-스타트업, 삼성전자의 지원을 받아 수행됐다.

백종민 기자 cinqange@asiae.co.kr