[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
울산과학기술원(UNIST)가 스스로 판단하고 일하는 '에이전틱 AI(Agentic AI)'를 안전하게 쓰기 위한 보안 원천기술 개발에 나선다.
UNIST는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 '2026년도 AI 최고급 신진연구자 지원사업(AI 스타 펠로우십)' 학제연계형 과제에 선정됐다고 18일 밝혔다. 성균관대와 컨소시엄을 꾸려 2031년 12월까지 5년 6개월간 연구를 수행하며, 정부지원금 110억원을 받는다.
AI 스타 펠로우십은 세계 최고 수준의 AI 연구를 이끌 신진연구자를 키우기 위해 과기정통부가 지난해 시작한 사업이다. 신진연구자 주도로 여러 연구실과 기업이 공동연구를 수행한다. UNIST는 이번 선정으로 이 사업에서 2개 과제를 맡게 됐다.
연구책임자는 문현곤 컴퓨터공학과 교수가 맡는다. UNIST에서 위성일·박민경·박새롬·나형호 교수, 성균관대에서 박은일·황성재·김형식 교수가 참여하고, AI·보안 전문기업인 시큐레이어와 S2W, 라온데이터도 함께한다.
에이전틱 AI는 거대언어모델(LLM)을 바탕으로 문서를 읽고 웹을 검색하며 도구를 사용해 업무를 처리한다. 문제는 이 과정에서 외부의 악의적 입력이 모델의 판단을 왜곡하면 실제 실행 단계까지 피해가 번질 수 있다는 점이다. 위험한 입력을 탐지하거나 실행환경을 분리하는 식으로 각 계층에 따로 적용하는 방어 기법만으로는 여러 단계를 거치는 공격을 막아내기 어렵다.
연구팀은 모델·인터페이스·실행환경의 안전장치를 함께 설계하는 '계층 간 안전 공동설계'로 이 문제를 풀 계획이다. 공통 안전 기준과 계층별 역할을 정해 한 계층이 뚫려도 다음 계층에서 공격을 막는 방식이다. 각 계층의 핵심 난제를 해결할 3개 프로젝트를 추진하고, 개발한 기술은 협력기업의 실제 서비스에서 검증한다.
문 교수팀은 데이터와 연산을 보호하는 신뢰실행환경(TEE), 시스템 안전성을 수학적으로 확인하는 형식 검증 등 시스템 보안 분야에서 연구 역량을 쌓아 왔다. 유즈닉스 시큐리티(USENIX Security), IEEE 보안·프라이버시 심포지엄(S&P) 등 세계적 보안 학회에서 꾸준히 성과를 발표했다. AI 분야에서는 기존 모델의 지식을 다른 모델에 옮겨 유사한 성능을 구현하는 증류 기술, 딥페이크 방어 기술의 성능과 한계를 검증하는 평가 기법 등을 연구했다. 이런 보안·AI 전문성이 이번 연구의 토대다.
연구팀은 보안 우려로 AI 에이전트 도입이 어려웠던 분야에서도 이를 안전하게 활용할 수 있도록 할 방침이다. AI와 보안 전문성을 함께 갖춘 신진연구자를 양성하고 비수도권 AI 연구 기반을 넓히는 데도 힘쓸 계획이다.
독자들의 PICK!
문 교수는 "에이전틱 AI는 모델 하나만 안전해서는 안 되고, 입력이 들어오는 경로와 실행환경까지 함께 지켜야 한다"며 "이번 사업으로 세 계층을 아우르는 핵심 보안 기술을 개발하고, 에이전틱 AI를 안전하게 활용하는 데 기여할 인재를 양성하겠다"고 말했다"고 말했다.
