GIST 반도체 혁신기술 2종 뜬다…'유리 기판·2차원 소재' 눈길

최태범 기자
2026.10.25 07:00

[2026 K-프리미어 딥테크 페스타 : 광주과학기술원(GIST)]

전기먹는 하마 AI 반도체 열·손실 잡는다…'특수유리 기판' 뭐길래

김복현 광주과학기술원(GIST) 고등광기술연구원 수석연구원

'반도체 글라스 기판용 저유전 유리소재 기술' 개발

구리 배선 대신 빛으로 연결…광인터커넥트로 확장

김복현 GIST 고등광기술연구원 수석연구원 /사진=머니투데이DB

AI(인공지능) 반도체의 성능 경쟁이 칩을 넘어 '기판'으로 확대되고 있다. 하나의 패키지 안에 여러 연산 칩과 고대역폭메모리(HBM)를 결합하면서 반도체 패키지의 크기와 소비전력이 함께 증가하고 있어서다.

기존 반도체 패키지에는 주로 폴리머 기반의 유기 기판이 사용됐다. 전자제품 안에서 볼 수 있는 파란색이나 녹색 인쇄회로기판(PCB)이 대표적이다. 하지만 AI 반도체처럼 많은 전력을 사용하는 칩에서는 열에 의해 기판이 휘는 '워피지(warpage)' 문제가 발생할 수 있다.

또 기존 기판은 표면이 상대적으로 거칠어 미세 배선을 구현하기 어렵고, 데이터 전송 주파수가 높아질수록 신호 감쇠와 발열이 커진다. AI 반도체의 연산 성능을 높여도 칩 사이에서 데이터를 전달하는 기판이 이를 뒷받침하지 못하면 전체 시스템의 성능이 떨어질 수 있다.

김복현 GIST(광주과학기술원) 고등광기술연구원 수석연구원은 "AI 반도체는 전력 소비가 크고 패키지 크기도 계속 커지고 있다"며 "기존 폴리머 기판은 열에 의해 휘는 문제가 있어 글라스 기판으로 대체하려는 움직임이 나타나고 있다"고 말했다.

이어 "현재 개발 중인 기술은 기존 반도체의 유기 소재 기판을 특수유리 기판으로 바꾸는 데 필요한 핵심 소재 기술"이라며 "AI 반도체를 고성능화하고 전력 효율을 높이기 위한 차세대 기판이라고 보면 된다"고 했다.

반도체용 글라스 기판은 창문이나 디스플레이에 사용하는 일반 유리와 다르다. 고주파 전기신호를 빠르고 손실 없이 전달할 수 있도록 유전율과 유전손실을 낮춘 특수유리다.

유전율(Dk)은 물질이 전기장에 반응해 분극되는 정도를 나타낸다. 유전율이 높으면 신호의 전달 속도와 지연에 영향을 줄 수 있다. 유전손실(Df)은 전기신호의 에너지가 소재 내부에서 열로 사라지는 정도다.

두 수치가 높으면 기판 위의 구리 배선을 따라 이동하는 고속 데이터 신호가 약해지고 노이즈와 발열이 증가할 수 있다. 특히 데이터 전송에 사용하는 주파수가 10~20기가헤르츠(㎓) 이상으로 높아질수록 유리 소재의 유전특성이 중요해진다.

김복현 연구원은 "반도체 기판 위에는 구리 배선이 형성되고 그 위로 고속 데이터 신호가 지나간다"며 "기판 소재의 유전율이나 유전손실이 높으면 신호가 감쇠하고 노이즈와 발열이 발생한다"고 설명했다.

이어 "반도체용 글라스 기판은 단순히 투명하고 단단한 유리가 아니다"며 "저유전 특성과 열팽창 특성, 기계적 강도, 가공성을 함께 갖춰야 하는 특수유리"라고 덧붙였다.

김 연구원 연구팀은 알루미노붕규산염 유리의 조성을 조절해 유전특성과 열적 안정성을 개선했다. 알루미노붕규산염 유리는 이산화규소와 산화붕소, 산화알루미늄 등을 기본 성분으로 하는 유리다.

연구팀이 개발한 유리는 고속 데이터 신호가 기판을 지날 때 발생하는 손실과 발열을 줄이는 데 초점을 맞췄다. 기존 디스플레이용 유리를 반도체 기판으로 전용하는 방식과 달리 처음부터 고성능 반도체 패키징에 맞춰 유리의 성분과 내부 구조를 설계한 것이 특징이다.

전기적 성능만 개선한 것도 아니다. 온도가 변해도 실리콘 칩과 비슷한 수준으로 팽창·수축하도록 만들어 기판이 휘거나 접합부에 균열이 생길 가능성을 낮췄다. 반도체 제조 과정의 높은 온도와 미세가공을 견딜 수 있도록 열적 안정성도 함께 높였다.

김 연구원은 "반도체 기판은 신호전송 성능과 열팽창, 강도, 가공성을 모두 갖춰야 한다"며 "연구팀은 어느 한 가지 성능만 극대화하기보다 실제 반도체 공정에 적용할 수 있도록 여러 물성을 균형 있게 확보하는 데 차별점을 뒀다"고 말했다.

이어 "유전율만 낮다고 해서 좋은 반도체 기판 소재가 되는 것은 아니다"며 "실리콘과 열팽창 특성을 맞춰야 하고 고온 공정에서도 변형되지 않아야 하며, 기판에 구멍을 뚫고 배선을 형성하는 공정도 견뎌야 한다"고 덧붙였다.

글라스 기판의 또 다른 장점은 내부에 빛이 지나가는 통로를 만들 수 있다는 점이다. 연구팀은 이 기술을 '광인터커넥트'로 확장할 계획이다. 칩과 칩 사이를 잇는 기존 구리 배선의 경우 데이터 처리량과 전송 거리가 늘어날수록 발생하는 전력 소비와 신호 손실도 커진다.

광인터커넥트는 전기신호의 일부를 광신호로 바꿔 전달하는 기술이다. 유리 내부에 굴절률이 다른 광도파로(Optical Waveguide)를 형성하면 빛이 정해진 경로를 따라 이동할 수 있다. 구리 배선 대신 유리 속에 '빛의 고속도로'를 만드는 셈이다.

김 연구원은 오는 29일 서울 삼성동 코엑스 B홀 플러스 스테이지에서 열리는 '2026 K-프리미어 딥테크 페스타'(참가신청 : https://vvd.bz/buvX)에서 관련 기술을 소개한다.

그는 "광인터커넥트 기술을 필요로 하는 삼성전기와 같은 반도체 패키지 기업이나 오이솔루션 등 광트랜시버 기업과 협력하고 싶다"며 "최종 수요기업이 원하는 구조와 세부 사양을 파악해 소재와 광도파로 기술을 공동으로 최적화하는 것이 상용화의 핵심"이라고 했다.


"반도체도 이제는 재료 바꿀 때"…실리콘 한계 넘을 '2차원 소재'

임현섭 광주과학기술원(GIST) 화학과 교수

'고품질 2차원 반도체 박막 합성 기술' 개발

대면적 생산 가능…차세대 반도체 '청신호'

임현섭 GIST 화학과 교수 /사진=머니투데이DB

반도체 산업은 트랜지스터(전기 스위치와 전압 증폭 작용을 하는 반도체 소자)를 더 작게 만들면서 성능을 높여왔다. 하나의 칩에 더 많은 트랜지스터를 집적해 연산 속도를 높이고 전력 소비는 줄이는 방식이다.

하지만 반도체 공정이 2나노미터(㎚)급 이하로 미세화되면서 '얼마나 작게 만들 것인가'를 넘어 '무엇으로 만들 것인가'가 중요한 문제로 떠올랐다.

트랜지스터 내부에서 전류가 흐르는 통로인 '채널'이 원자 단위로 얇아지면 기존 실리콘 소재로 전류를 정밀하게 통제하기 어려워지기 때문이다. 누설전류와 발열이 늘고 소자 성능이 떨어지는 문제도 발생할 수 있다.

임현섭 GIST(광주과학기술원) 화학과 교수는 "반도체 공정이 계속 미세화되는 과정에서 실리콘으로 성능을 높이는 데 물리적인 한계가 오고 있다"며 "결국 채널에 사용되는 물질 자체를 더 좋은 소재로 바꿔야 하는 상태"라고 말했다.

실리콘을 대체·보완할 후보로는 원자층 수준으로 얇은 '2차원(2D) 반도체'가 꼽힌다. 대표적인 물질은 이황화몰리브덴(MoS₂)이다. MoS₂는 황 원자 사이에 몰리브덴 원자가 들어간 샌드위치 구조다. 두께가 1㎚보다 얇으면서도 전류를 켜고 끌 수 있게 하는 에너지 간격인 '밴드갭'을 갖고 있다.

그래핀 역시 대표적인 2차원 소재지만 밴드갭이 거의 없어 디지털 반도체 채널로 활용하는 데 한계가 있다. 반면 MoS₂와 이황화텅스텐(WS₂), 이셀레늄화텅스텐(WSe₂) 등의 전이금속 디칼코게나이드(TMD)는 원자층 두께에서도 반도체 성질을 유지한다.

얇은 만큼 게이트가 채널 내부의 전류를 통제하기에 유리하다는 설명이다. 서로 다른 2차원 소재를 층층이 쌓으면 기존 실리콘 중심의 평면 구조를 넘어 3차원으로 반도체 기능을 집적할 수도 있다.

2차원 반도체의 가능성은 일찍부터 확인됐지만 산업 현장에 적용하기까지는 넘어야 할 장벽이 적지 않았다. 가장 큰 문제 가운데 하나가 대면적(넓은 면적)에서 균일한 품질을 확보하는 것이다.

접착테이프로 층을 떼어내는 기계적 박리법을 사용하면 결정성이 우수한 2차원 소재를 얻을 수 있다. 하지만 크기가 수 마이크로미터(㎛) 수준에 불과해 대량생산용 웨이퍼에 적용하기 어렵다.

화학기상증착(CVD)을 이용하면 더 넓은 기판에 매우 얇은 반도체 박막을 성장시킬 수 있다. 문제는 원료의 공급량과 기판의 표면 상태, 온도와 압력 등의 미세한 차이에 따라 소재의 두께와 결정 방향, 품질이 달라질 수 있다는 점이다.

임 교수는 "연구실에서 고품질 소재를 한 번 만드는 것과 생산라인에서 같은 품질을 반복해서 만드는 것은 전혀 다른 문제"라며 "산업에서는 최고 성능만큼이나 웨이퍼마다, 웨이퍼의 위치마다 품질이 일정한 '재현성'이 중요하다"고 했다.

이어 "2차원 반도체 물질을 잘, 그리고 크게 합성하는 기술을 계속 개발하고 있다"며 "좋은 소재를 한 번 만드는 데 그치지 않고 왜 그렇게 만들어지는지를 파악해 재현성을 높이는 것이 핵심"이라고 덧붙였다.

임 교수는 '고품질 2차원 반도체 박막 합성 기술'을 하나의 해법으로 제시했다. 핵심은 원자층 수준으로 얇은 차세대 반도체 소재를 넓은 면적에 균일하게 합성하는 것이다.

기존 방식이 여러 원료와 기판을 장비에 넣고 조건을 바꿔가며 결과를 확인하는 '셰이크 앤드 베이크(shake-and-bake)' 기법이었다면, 그는 전구체(화학반응을 통해 최종 물질로 바뀌는 원료) 분자와 기판 계면의 상호작용을 화학적으로 규명하고 제어하는 방식으로 접근했다.

임 교수는 "어떤 조건에서 좋은 박막이 나왔는지를 기록하는 것을 넘어 왜 그 조건에서 결정이 한 방향으로 성장했고, 왜 두께가 달라졌는지를 분자 수준에서 밝히는 것"이라고 말했다.

임 교수 연구팀은 기존에 주로 사용하던 삼산화몰리브덴(MoO₃)과 삼산화텅스텐(WO₃) 등의 고체 원료 대신 옥시염화몰리브덴(MoOCl₄)과 옥시염화텅스텐(WOCl₄)이라는 무기 분자 전구체를 활용했다.

고체 원료는 가열 과정에서 얼마나 기화해 기판까지 전달되는지 정밀하게 통제하기 어렵다. 반면 분자 전구체를 기체로 만들면 유량제어기와 미세조절 밸브를 이용해 투입량을 보다 세밀하게 조절할 수 있다.

임 교수는 "요리할 때 재료를 눈대중으로 넣는 대신 계량도구를 사용해 같은 맛을 반복해서 내는 것과 비슷하다"며 "전구체와 기판 사이의 '화학흡착', 전구체와 이미 성장한 박막 사이의 '물리흡착'이 압력에 따라 다르게 작동한다는 원리를 실험과 계산으로 규명했다"고 말했다.

임 교수는 합성의 근본 원리를 파악하는 것이 연구팀의 차별점이라고 강조했다. 중국과 대만을 비롯한 해외 연구진이 새로운 대면적 합성법을 빠르게 내놓고 있지만 특정 장비나 조건에서 나온 결과만으로는 산업 현장에서 필요한 재현성을 확보하기가 어렵다는 설명이다.

그는 "어떤 분자와 기판이 어떻게 상호작용하는지 알아야 조건이 달라졌을 때도 공정을 다시 설계할 수 있다"며 "특정한 2차원 소재에 그치지 않고 다른 물질로 기술을 확장하기 위해서도 원리에 대한 이해가 필요하다"고 했다.

임 교수는 오는 29일 서울 삼성동 코엑스 B홀 플러스 스테이지에서 열리는 '2026 K-프리미어 딥테크 페스타'(참가신청 : https://vvd.bz/buvX)에서 관련 기술을 소개한다. 그는 "삼성전자나 SK하이닉스 같은 대기업뿐만 아니라 반도체 소재를 개발하는 중소기업과의 협력도 희망하고 있다"고 밝혔다.

<'K-프리미어 딥테크 페스타(기술이전·사업화)' 참가신청>

-일시: 2026년 10월 29일(목) 오후 1시

-장소: 서울 삼성동 코엑스 B홀 PLUS STAGE

-참가 대상: 기술이전·공동연구·신사업을 검토하는 기업, 출연연 패밀리기업, 투자사

-참가비: 무료 (사전 등록 필수)

-주최: 과학기술정보통신부, KAIST, GIST, DGIST, UNIST, 머니투데이 유니콘팩토리

-후원: 한국과학기술정보연구원(KISTI), 과학기술사업화진흥원(COMPA)

-신청: https://vvd.bz/buvX

/그래픽=김지영

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']

<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>