UNIST 인공지능대학원, 양자 알고리즘 AI 학습 기법 'QRIM' 개발
ICML 2026서 공개
국내 연구팀이 양자컴퓨터를 활용해 AI(인공지능) 계산 비용을 기존의 최대 5분의 1로 줄이는 데 성공했다.
6일 UNIST(울산과학기술원)는 윤성환 인공지능대학원 교수 연구팀이 김중헌 고려대 전기전자공학부 교수연구팀과 함께 양자 알고리즘을 이용한 새로운 AI 학습 기법 'QRIM'(Quantum Robust Inner Minimization)을 개발했다고 밝혔다.
이번 연구는 세계 3대 AI 학회인 '국제머신러닝학회'(ICML) 2026에 채택됐다. 올해 ICML이 채택한 양자 분야 AI 논문 중 유일하게 한국 연구기관이 주도한 연구다.
강화학습은 AI가 시행착오를 거치며 스스로 행동 전략을 찾아가는 것을 말한다. 인간의 학습 방식과 유사하지만, AI의 경우 실제 환경과 학습한 상황이 조금만 달라져도 성능이 급격히 떨어지는 한계가 있다. 이를테면 맑은 날의 도로만 학습한 자율주행차는 비나 눈으로 노면이 미끄러운 상황에 제대로 대응하지 못한다.
이를 보완하기 위해 등장한 것이 '강인한 강화학습'이다. 학습 과정에서 발생할 수 있는 최악의 상황을 미리 찾아내고, AI가 이에 대비하도록 훈련한다. 그런데 최악의 상황을 찾아내는 과정이 매우 비효율적이다. 가능한 모든 경우의 수를 모두 찾아 하나하나 계산해야 하기 때문이다. 변화 가능성이 높은 환경일수록 계산 비용이 폭증한다.
연구팀은 양자컴퓨터의 중첩 원리로 이 문제를 풀었다. 양자컴퓨터는 상태를 순차적으로 계산하는 고전 컴퓨터와 달리 대신 여러 상태를 동시에 계산한다. 다수의 후보 환경을 한꺼번에 계산해 빠르게 결과를 도출하는 것이다.
연구팀이 개발한 'QRIM'은 이같은 양자의 특성을 활용했다. 1만 개의 시나리오를 검토한다고 할 때 고전 컴퓨터 환경에서는 1만 번 계산해야 하지만, QRIM은 계산 100번만으로 같은 결과를 얻는다.
실제 실험에 적용한 결과, QRIM은 기존 방식 대비 약 20~30% 수준의 계산량만으로 학습을 수행했다. 연구팀은 IBM의 127큐비트 양자컴에서 QRIM을 돌려 검증했는데, 계산 오류를 발생시킬 수 있는 양자 하드웨어 잡음 환경에서도 안정적으로 학습을 수행했다.
제1 저자인 이현규 박사는 "강인한 강화학습의 가장 큰 병목인 '최악의 상황 탐색' 과정을 양자 알고리즘으로 가속하는 구조"라며 "기존 강화학습 알고리즘은 그대로 두고 탐색 부분만 양자 모듈로 교체하면 되는 만큼 다양한 강화학습 분야에 폭넓게 적용할 수 있을 것"이라고 했다.
독자들의 PICK!
윤 교수는 "양자컴퓨팅이 기존 AI의 한계를 어떻게 보완하는지 구체적으로 보여준 사례"라고 의의를 밝혔다.
한편 ICML 2026은 이달 6일부터 11일까지 서울 코엑스에서 열린다. 전 세계에서 2만3918편의 논문을 제출해 이 중 6352편이 채택됐다.
