전자구조 변화 직접 포착으로 차세대 양자소재 설계 기반 마련
– GIST-경희대 공동연구진, 위상반금속 박막 두께 제어 통해 전자구조의 위상 변화 직접 관측… 플라즈마 진동수가 최소값까지 감소한 뒤 다시 증가하는 변화 통해 리프시츠 상전이 실험 입증
– 양자소재 전자구조 측정·진단의 새로운 실험 패러다임 제시… 국제학술지《Materials Today Physics》게재
▲ (왼쪽부터) GIST 물리·광과학과 이종석 교수, 김민섭 박사
광주과학기술원(GIST, 총장 임기철)은 물리·광과학과 이종석 교수 연구팀이 경희대학교 최석호 고황명예교수 연구팀과의 공동 연구를 통해, 전자가 질량이 없는 입자처럼 매우 빠르게 움직이는 특이한 전자 구조를 가진 물질인 ‘위상반금속’에서 발생하는 ‘리프시츠 상전이(Lifshitz transition)’의 물리적 원리를 세계 최초로 실험적으로 규명했다고 밝혔다.
리프시츠 상전이는 전자 띠 구조 변화로 인해 페르미 표면의 위상이 바뀌는 양자 상전이 현상으로, 그동안 이론적으로만 예측돼 왔으나 실제 물질에서 이를 직접 관측하기는 매우 어려웠다.
이번 연구는 전자의 집단적 거동을 반영하는 플라즈마 진동수(plasma frequency)를 핵심 지표로 활용해 이 현상을 실험적으로 입증한 성과로서, 양자소재 연구에 새로운 측정 패러다임을 제시했다는 점에서 의미가 크다.
연구팀은 위상반금속 특성을 지닌 ‘비스무트–안티몬 합금 박막(Bi₀.₉₆Sb₀.₀4 박막)*’의 두께를 나노미터(nm) 단위로 정밀하게 제어하면서, 전자의 집단적 거동을 반영하는 플라즈마 진동수 변화를 테라헤르츠(THz) 대역 광학 측정을 통해 분석했다.
그 결과, 박막 두께 약 10 나노미터(nm·1㎚는 10억분의 1m)를 기준으로 플라즈마 진동수가 급격히 변화하며, 전자 구조의 위상이 급격히 전환되는 임계 현상을 직접 관측하는 데 성공했다.
이는 전자 구조의 연속적인 변화 속에서 위상적 성질이 근본적으로 바뀌는 순간을 실험으로 포착한 것으로 해석된다.
* 비스무트–안티모니 합금 박막(Bi₀.₉₆Sb₀.₀4 박막): 비스무트(Bi)에 안티모니(Sb)를 약 4% 혼합한 합금 물질을 나노미터 두께로 성장시킨 얇은 막 형태의 시료로, 대표적인 위상반금속 소재로 알려져 있다. 이 조성에서는 전도대와 가전자대가 맞닿은 디락 반금속 전자구조가 형성되며, 박막의 두께나 변형 조건에 따라 전자의 거동과 위상적 특성이 민감하게 변한다. 이러한 특성 덕분에 Bi₀.₉₆Sb₀.₀₄박막은 위상 상전이, 리프시츠 상전이, 차원 효과 등 양자현상을 연구하는 핵심 실험 플랫폼으로 활용된다.
‘위상반금속’은 전도대와 가전자대*가 특정 지점이나 선에서 만나며, 이 교차 구조가 물질의 대칭성에 의해 안정적으로 보호되는 독특한 전자구조를 지닌 양자소재다. 이로 인해 전자는 질량이 없는 디락(Dirac) 또는 웨일(Weyl) 페르미온처럼 거동해, 기존 금속이나 반도체와는 다른 특이한 물리적 특성을 나타낸다.
디락(Dirac) 또는 웨일(Weyl) 페르미온은 위상반금속에서 마치 새로운 입자처럼 거동하는 상태로, 빛과 같은 고속 입자의 물리 법칙을 따르는 것이 특징이다. 디락 페르미온은 전자 구조가 하나로 유지된 상태에서 나타나는 전자 상태이며, 웨일 페르미온은 이 구조가 깨지면서 전자가 ‘왼손·오른손’처럼 서로 다른 성질을 지닌 두 상태로 나뉘는 경우(손잡이성·카이럴리티(chirality))를 의미한다.
이러한 특성으로 위상반금속은 초고속·저전력 전자소자, 스핀트로닉스, 양자컴퓨팅 등 차세대 기술을 구현할 핵심 소재로 주목받고 있다.
* 전도대와 가전자대: 전도대는 전자가 자유롭게 이동할 수 있어 전기 전도를 담당하는 에너지 띠이며, 가전자대는 전자가 원자에 묶여 비교적 안정적으로 존재하는 에너지 띠를 말한다. 두 띠 사이의 관계에 따라 물질은 금속, 반도체, 절연체 또는 위상물질로 구분되며, 위상반금속에서는 전도대와 가전자대가 특정 지점이나 선에서 맞닿아 독특한 전자적 성질을 나타낸다.
‘리프시츠 상전이’는 물질의 결정 구조나 대칭성 변화 없이도, 전자 띠 구조 변화로 인해 페르미 표면의 ‘위상(topology)*’이 바뀌는 양자 상전이 현상이다. 이 현상은 위상물질과 초전도체, 자성체는 물론 고에너지 물리와 우주 물리 분야까지 폭넓게 연결되는 핵심 개념이다.
그동안 이론적으로는 전자 농도의 급격한 변화와 함께 임계 지점에서 플라즈마 진동수가 최소값을 가질 것이라는 예측이 제시돼 왔으나, 실제 물질에서 이를 직접 확인하는 데에는 한계가 있었다.
* 위상(topology): 물체의 크기나 형태가 조금 변해도 쉽게 바뀌지 않는 본질적인 구조적 성질을 의미하는 개념이다. 물리학에서는 전자 에너지 띠의 연결 방식이나 교차 구조처럼, 외부 자극이나 연속적인 변형에도 유지되는 전자구조의 특성을 가리킨다. 이러한 위상적 성질은 물질의 대칭성과 결합돼 독특한 전자 상태를 만들어내며, 위상반금속·위상절연체와 같은 위상물질에서 나타나는 특이한 물리 현상의 근본 원리가 된다.
연구팀은 분자빔 에피택시(MBE) 기술*을 이용해 갈륨비소(GaAs) 기판 위에 두께 3~300nm 범위의 비스무트–안티모니 합금 박막을 원자층 단위로 성장시켰다.
이후 나선형 의존성 테라헤르츠 방출 분광법, 투과형 테라헤르츠 시분해 분광법 등 테라헤르츠(THz) 대역 광학 측정 기법을 활용해 자유전자의 동역학과 광학 전도도를 정밀 측정했다.
* 분자빔 에피택시(Molecular Beam Epitaxy, MBE) 기술: 초고진공 환경에서 원소를 분자 또는 원자 빔 형태로 기판에 공급해, 원자층 단위로 물질을 한 층씩 정밀하게 성장시키는 박막 성장 기술이다. 각 원소의 공급량과 성장 속도를 정밀하게 제어할 수 있어 조성, 두께, 결정 구조를 원자 수준에서 조절할 수 있으며, 불순물이 거의 없는 고품질 단결정 박막을 제작할 수 있다는 장점이 있다. 이 때문에 반도체, 위상물질, 양자소재 등 기초 물성 연구와 차세대 전자·광소자 개발에 널리 활용된다.
그 결과, 박막 두께가 약 10nm 이하로 감소할 때, 원형 편광의 방향(왼쪽·오른쪽)에 따라 방출되는 테라헤르츠파의 세기가 달라지는 ‘원형 광전 효과*’가 나타났다.
▲ 두께에 따른 테라헤르츠 대역 광전도도 스펙트럼(위)과 플라즈마 진동수의 변화(아래) 측정을 통한 리프시츠 상전이의 원리에 대한 실험적 규명. 임계 두께인 10 nm 에서 플라즈마 진동수가 최저점에 도달함.
이는 디락 반금속 상태가 웨일 반금속 상태*로 전환됐음을 보여주는 명확한 위상적 신호로 해석된다.
* 원형 광전 효과(Circular Photogalvanic Effect, CPGE): 물질에 원형 편광된 빛을 조사했을 때, 빛의 회전 방향(왼쪽·오른쪽)에 따라 전류의 크기나 방향이 달라지는 현상을 말한다. 이는 전자의 스핀과 운동이 강하게 결합된 비대칭 전자구조에서 나타나는 효과로, 특히 반전 대칭성이 깨진 웨일 반금속에서 대표적인 특성 신호로 알려져 있다.
* 디락 반금속 상태와 웨일 반금속 상태: 전도대와 가전자대가 만나는 방식에 따라 구분되는 위상반금속의 전자구조를 의미한다. 디락 반금속 상태에서는 두 띠가 하나의 점에서 교차하며, 전자가 질량이 없는 디락 페르미온처럼 거동하고 시간 반전 대칭성과 반전 대칭성이 모두 유지된다. 반면 웨일 반금속 상태는 이들 대칭성 중 하나가 깨지면서 하나의 디락 점이 서로 다른 성질을 지닌 두 개의 웨일 점으로 분리된 경우로, 전자는 손잡이성(카이럴리티)을 갖는 웨일 페르미온처럼 거동하며 원형 광전 효과와 같은 고유한 위상적 현상이 나타난다.
특히 주목할 점은 플라즈마 진동수의 변화다.
실험 결과, 박막 두께가 감소함에 따라 플라즈마 진동수는 점차 감소하다가 10nm에서 최저점에 도달한 뒤, 다시 증가하는 뚜렷한 변화를 보였다.
이는 전하 밀도, 페르미 준위, 광학·전기 전도도가 모두 같은 임계 두께에서 최소값을 보인다는 사실과 일치하며, 전자 구조의 위상이 바뀌는 리프시츠 상전이가 실제로 발생했음을 보여주는 결정적 증거다.
이러한 결과는 기존 이론 연구에서만 예측됐던 ‘위상반금속에서의 리프시츠 상전이와 플라즈마 진동의 직접적 연관성’을 세계 최초로 광학 실험을 통해 입증한 것이다.
이종석 교수는 “이번 연구는 그래핀에 이은 차세대 양자소재로 주목받는 위상반금속에서 외부 자극이 없이 리프시츠 상전이를 실험적으로 확인한 최초의 사례”라며 “플라즈마 진동이라는 물리량이 위상적 전자구조 변화와 직접 연결됨을 보여줌으로써, 양자소재를 측정·진단·제어하는 새로운 접근법을 제시했다”고 말했다.
이어 “이는 향후 양자소재의 상태를 비파괴적으로 진단하고, 두께·변형·외부 자극을 통해 전자구조를 정밀 제어하며, 실제 소자 설계로 이어질 수 있는 새로운 기준이 될 것”이라고 강조했다.
GIST 물리·광과학과 이종석 교수가 주도하고 김민섭 박사가 수행했으며, 경희대학교 응용물리학과 최석호 고황명예교수 연구팀, 호주국립대학교·성균관대학교 연구진이 함께 참여한 이번 연구는 과학기술정보통신부·한국연구재단 중견연구자지원사업의 지원을 받았다.
연구 결과는 국제학술지 《머티리얼즈 투데이 피직스(Materials Today Physics)》에 2025년 12월 9일 온라인으로 게재됐다.
한편 GIST는 이번 연구 성과가 학술적 의의와 함께 산업적 응용 가능성까지 고려한 것으로, 기술이전 관련 협의는 기술사업화센터(hgmoon@gist.ac.kr)를 통해 진행할 수 있다고 밝혔다. <끝>
Publication Date: December 2025