위상절연체 속 '수수께끼 맥놀이' 풀었다…양자소자 설계 새 기준[과학을읽다]

김종화 기자

입력 2026.08.19 09:30

표준연·GIST 등 국내 연구진, 발생 원인 세계 최초 규명
위상·일반 전자 상태 양자간섭 확인…머신러닝으로 신호 분리

위상절연체 나노선에서 수년간 정체를 알 수 없었던 '맥놀이' 신호의 발생 원인이 국내 연구진에 의해 처음 규명됐다. 위상절연체의 표면을 흐르는 특수한 전자뿐 아니라 표면 아래의 일반 전자도 양자간섭에 참여하면서 서로 다른 진동이 겹쳐 나타나는 현상이었다. 향후 양자소자의 신호를 정확히 해석하고 원하는 전자 상태를 구현하는 데 새로운 기준이 될 것으로 기대된다.

한국표준과학연구원(KRISS)과 광주과학기술원(GIST) 등 공동연구진은 위상절연체 나노선에서 관측되는 '맥놀이' 신호가 위상 표면 상태와 일반 전자 상태에서 발생한 서로 다른 양자진동이 중첩되면서 만들어진다는 사실을 세계 최초로 규명했다고 19일 밝혔다.

KRISS 연구진이 위상절연체 나노선에서 측정한 양자수송 데이터를 분석하고 있다. KRISS 제공

위상절연체는 내부에서는 전기가 잘 흐르지 않지만 표면에는 특수한 전자 상태가 존재하는 양자물질이다. 이를 가느다란 나노선으로 만들고 자기장을 가하면 표면 전자가 둘레를 따라 이동하면서 서로 다른 경로를 지난 전자의 파동이 간섭한다. 이에 따라 전도도가 규칙적으로 변하는 '아하로노프-봄(AB) 진동'이 나타난다.

문제는 실제 위상절연체에서는 도핑 등의 영향으로 표면 바로 아래에도 전자가 흐르는 얇은 층이 생길 수 있다는 점이다. '2차원 전자기체(2DEG)'로 불리는 이 일반 전자층이 위상 표면 상태와 함께 AB 진동에 참여하는지는 그동안 명확히 밝혀지지 않았다.

KRISS·GIST 등 공동연구진의 위상절연체 나노선 양자간섭 연구가 Nano Letters 표지논문으로 선정됐다. KRISS 제공

두 전자 경로가 만든 '웅-웅-'…머신러닝으로 분리

연구진은 안티몬(Sb)을 첨가한 비스무트 셀레나이드(Bi₂Se₃) 나노선의 열전 현상을 연구하다 단서를 발견했다. AB 진동을 측정하는 과정에서 주기가 조금씩 다른 진동이 겹치면서 신호의 세기가 커졌다 작아지는 '맥놀이'가 포착된 것이다. 두 소리굽쇠가 미세하게 다른 주파수로 울릴 때 '웅-웅-'하는 소리가 반복되는 것과 같은 원리다.

연구진이 기존 전기전도 데이터를 다시 분석하자 같은 맥놀이 현상이 확인됐다. 수년에 걸친 분석 결과, 위상 표면 상태(TSS)와 표면 아래 2차원 전자기체에서 각각 발생한 양자진동이 중첩된 결과라는 결론에 도달했다. 두 전자 상태가 나노선을 감싸며 이동하는 경로의 면적이 미세하게 달라 서로 다른 주기의 진동을 만들고, 이들이 겹치면서 맥놀이가 발생했다.

이를 검증하는 데는 머신러닝이 활용됐다. 국립공주대학교 송태근 교수팀은 기존 주파수 분석에서는 서로 겹쳐 구분하기 어려웠던 진동 성분을 머신러닝으로 분리했다. 그 결과 게이트 전압을 바꿔 맥놀이 무늬가 달라져도 각각의 진동수는 고유하게 유지되는 것을 확인했다. 이론 계산에서도 같은 특성이 재현됐고, 별도의 나노선 소자에서도 동일한 현상이 관측됐다.

KRISS·GIST 등 위상절연체 나노선 양자간섭 공동연구진. KRISS 제공

이번 연구는 그동안 위상 표면 상태의 주요 신호로 활용돼 온 AB 양자간섭에 일반 전자 상태까지 참여할 수 있다는 사실을 입증했다는 데 의미가 있다. 위상절연체 기반 양자소자를 개발할 때 관측되는 신호를 위상 전자만의 특성으로 단순 해석해서는 안 된다는 것이다.

배명호 KRISS 책임연구원은 "전자가 위상 상태뿐 아니라 일반 전자 상태도 오가며 양자간섭할 수 있음을 보여준 성과"라며 "원하는 위상 상태만 활용하려면 일반 전도 상태가 개입하지 않도록 도핑과 게이트를 정밀하게 제어하는 것이 중요하다"고 말했다.

최상준 GIST 교수는 "각 기관 연구진의 실험·이론·데이터 분석 역량이 맞물려 수년간 풀리지 않았던 맥놀이의 원인을 하나의 물리적 그림으로 설명했다"며 "서로 다른 전자 상태의 간섭을 이해하고 제어하는 원리는 향후 위상 양자소자 설계에도 활용될 수 있을 것"이라고 말했다.