"반도체도 이제는 재료 바꿀 때"…실리콘 한계 넘을 '2차원 소재'

[스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

반도체 산업은 트랜지스터(전기 스위치와 전압 증폭 작용을 하는 반도체 소자)를 더 작게 만들면서 성능을 높여왔다. 하나의 칩에 더 많은 트랜지스터를 집적해 연산 속도를 높이고 전력 소비는 줄이는 방식이다.

하지만 반도체 공정이 2나노미터(㎚)급 이하로 미세화되면서 '얼마나 작게 만들 것인가'를 넘어 '무엇으로 만들 것인가'가 중요한 문제로 떠올랐다.

트랜지스터 내부에서 전류가 흐르는 통로인 '채널'이 원자 단위로 얇아지면 기존 실리콘 소재로 전류를 정밀하게 통제하기 어려워지기 때문이다. 누설전류와 발열이 늘고 소자 성능이 떨어지는 문제도 발생할 수 있다.

임현섭 GIST(광주과학기술원) 화학과 교수는 "반도체 공정이 계속 미세화되는 과정에서 실리콘으로 성능을 높이는 데 물리적인 한계가 오고 있다"며 "결국 채널에 사용되는 물질 자체를 더 좋은 소재로 바꿔야 하는 상태"라고 말했다.

실리콘을 대체·보완할 후보로는 원자층 수준으로 얇은 '2차원(2D) 반도체'가 꼽힌다. 대표적인 물질은 이황화몰리브덴(MoS₂)이다. MoS₂는 황 원자 사이에 몰리브덴 원자가 들어간 샌드위치 구조다. 두께가 1㎚보다 얇으면서도 전류를 켜고 끌 수 있게 하는 에너지 간격인 '밴드갭'을 갖고 있다.

그래핀 역시 대표적인 2차원 소재지만 밴드갭이 거의 없어 디지털 반도체 채널로 활용하는 데 한계가 있다. 반면 MoS₂와 이황화텅스텐(WS₂), 이셀레늄화텅스텐(WSe₂) 등의 전이금속 디칼코게나이드(TMD)는 원자층 두께에서도 반도체 성질을 유지한다.

얇은 만큼 게이트가 채널 내부의 전류를 통제하기에 유리하다는 설명이다. 서로 다른 2차원 소재를 층층이 쌓으면 기존 실리콘 중심의 평면 구조를 넘어 3차원으로 반도체 기능을 집적할 수도 있다.

2차원 반도체의 가능성은 일찍부터 확인됐지만 산업 현장에 적용하기까지는 넘어야 할 장벽이 적지 않았다. 가장 큰 문제 가운데 하나가 대면적(넓은 면적)에서 균일한 품질을 확보하는 것이다.

접착테이프로 층을 떼어내는 기계적 박리법을 사용하면 결정성이 우수한 2차원 소재를 얻을 수 있다. 하지만 크기가 수 마이크로미터(㎛) 수준에 불과해 대량생산용 웨이퍼에 적용하기 어렵다.

화학기상증착(CVD)을 이용하면 더 넓은 기판에 매우 얇은 반도체 박막을 성장시킬 수 있다. 문제는 원료의 공급량과 기판의 표면 상태, 온도와 압력 등의 미세한 차이에 따라 소재의 두께와 결정 방향, 품질이 달라질 수 있다는 점이다.

임 교수는 "연구실에서 고품질 소재를 한 번 만드는 것과 생산라인에서 같은 품질을 반복해서 만드는 것은 전혀 다른 문제"라며 "산업에서는 최고 성능만큼이나 웨이퍼마다, 웨이퍼의 위치마다 품질이 일정한 '재현성'이 중요하다"고 했다.

이어 "2차원 반도체 물질을 잘, 그리고 크게 합성하는 기술을 계속 개발하고 있다"며 "좋은 소재를 한 번 만드는 데 그치지 않고 왜 그렇게 만들어지는지를 파악해 재현성을 높이는 것이 핵심"이라고 덧붙였다.

임 교수는 '고품질 2차원 반도체 박막 합성 기술'을 하나의 해법으로 제시했다. 핵심은 원자층 수준으로 얇은 차세대 반도체 소재를 넓은 면적에 균일하게 합성하는 것이다.

기존 방식이 여러 원료와 기판을 장비에 넣고 조건을 바꿔가며 결과를 확인하는 '셰이크 앤드 베이크(shake-and-bake)' 기법이었다면, 그는 전구체(화학반응을 통해 최종 물질로 바뀌는 원료) 분자와 기판 계면의 상호작용을 화학적으로 규명하고 제어하는 방식으로 접근했다.

임 교수는 "어떤 조건에서 좋은 박막이 나왔는지를 기록하는 것을 넘어 왜 그 조건에서 결정이 한 방향으로 성장했고, 왜 두께가 달라졌는지를 분자 수준에서 밝히는 것"이라고 말했다.

임 교수 연구팀은 기존에 주로 사용하던 삼산화몰리브덴(MoO₃)과 삼산화텅스텐(WO₃) 등의 고체 원료 대신 옥시염화몰리브덴(MoOCl₄)과 옥시염화텅스텐(WOCl₄)이라는 무기 분자 전구체를 활용했다.

고체 원료는 가열 과정에서 얼마나 기화해 기판까지 전달되는지 정밀하게 통제하기 어렵다. 반면 분자 전구체를 기체로 만들면 유량제어기와 미세조절 밸브를 이용해 투입량을 보다 세밀하게 조절할 수 있다.

임 교수는 "요리할 때 재료를 눈대중으로 넣는 대신 계량도구를 사용해 같은 맛을 반복해서 내는 것과 비슷하다"며 "전구체와 기판 사이의 '화학흡착', 전구체와 이미 성장한 박막 사이의 '물리흡착'이 압력에 따라 다르게 작동한다는 원리를 실험과 계산으로 규명했다"고 말했다.

임 교수는 합성의 근본 원리를 파악하는 것이 연구팀의 차별점이라고 강조했다. 중국과 대만을 비롯한 해외 연구진이 새로운 대면적 합성법을 빠르게 내놓고 있지만 특정 장비나 조건에서 나온 결과만으로는 산업 현장에서 필요한 재현성을 확보하기가 어렵다는 설명이다.

그는 "어떤 분자와 기판이 어떻게 상호작용하는지 알아야 조건이 달라졌을 때도 공정을 다시 설계할 수 있다"며 "특정한 2차원 소재에 그치지 않고 다른 물질로 기술을 확장하기 위해서도 원리에 대한 이해가 필요하다"고 했다.

임 교수는 오는 29일 서울 삼성동 코엑스 B홀 플러스 스테이지에서 열리는 '2026 K-프리미어 딥테크 페스타'(참가신청 : https://vvd.bz/buvX)에서 관련 기술을 소개한다. 그는 "삼성전자(215,500원 ▲5,500 +2.62%)나 SK하이닉스(1,272,000원 ▲10,000 +0.79%) 같은 대기업뿐만 아니라 반도체 소재를 개발하는 중소기업과의 협력도 희망하고 있다"고 밝혔다.

<'K-프리미어 딥테크 페스타(기술이전·사업화)' 참가신청>

-일시: 2026년 10월 29일(목) 오후 1시

-장소: 서울 삼성동 코엑스 B홀 PLUS STAGE

-참가 대상: 기술이전·공동연구·신사업을 검토하는 기업, 출연연 패밀리기업, 투자사

-참가비: 무료 (사전 등록 필수)

-주최: 과학기술정보통신부, KAIST, GIST, DGIST, UNIST, 머니투데이 유니콘팩토리

-후원: 한국과학기술정보연구원(KISTI), 과학기술사업화진흥원(COMPA)

-신청: https://vvd.bz/buvX

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']