시간·비용 부담 SW 코드 검증…비효율 해결할 'AI 감리팀' 뜬다

[2026 K-프리미어 딥테크 페스타]⑥
김기섭 대구경북과학기술원(DGIST) 전기전자컴퓨터공학과 교수
LLM 기반 소프트웨어 개발·분석 및 보안 자동화 기술 개발
"다수 AI 에이전트가 동시에 코드 리뷰…시간·비용 절약"

[편집자주] KAIST(한국과학기술원)를 비롯한 4대 과학기술원이 보유한 딥테크(첨단기술)와 사업화 유망기술을 한자리에서 만나볼 수 있는 공동 설명회가 코엑스에서 열린다. 머니투데이 스타트업 전문 미디어 플랫폼 유니콘팩토리는 오는 29일 서울 삼성동 코엑스 B홀에서 '2026 프리미어 딥테크 페스타'를 개최한다. 과학기술정보통신부와 KAIST, 대구경북과학기술원(DGIST), 울산과학기술원(UNIST), 광주과학기술원(GIST)이 공동 개최하는 이번 행사는 4대 과기원의 우수 연구개발(R&D) 성과를 기업에 소개하고 기술이전을 촉진하기 위해 마련됐다. 이를 통해 기업의 기존 제품과 서비스를 고도화하고 글로벌 경쟁력을 높인다는 취지다. 행사 무대에 오를 유망기술을 개발한 과기원 교수들을 만나 핵심 기술의 경쟁력과 산업적 활용 가능성을 들어봤다.

AI(인공지능)가 만들어준 소프트웨어(SW) 코드 검증이 새로운 과제로 떠올랐다. 사람이든 AI든 작성한 코드를 검토 없이 실제 서비스에 붙이면 오류와 보안 사고로 이어질 수 있다. 이를 막는 절차가 '코드 리뷰'다. 코드의 기능과 품질, 보안상 문제를 검토하는 것이다.

이러한 코드 리뷰 역시 시간과 비용이 많이 들기 때문에 AI로 자동화하려는 연구가 이어져 왔다. 대부분은 단일 AI가 코드 전체를 검토하는 방식이 주를 이뤘다. 김기섭 대구경북과학기술원(DGIST) 전기전자컴퓨터공학과 교수는 "건축 감리로 치면 감리사 한 명이 설계부터 마감까지 혼자 다 확인하는 셈"이라며 "시간과 비용 등 여러 측면에서 비효율적"이라고 말했다.

김 교수 연구팀은 역할을 나눈 여러 AI가 함께 코드를 검토하는 'AI 감리팀'을 만들었다. 한 AI는 설계대로 코드가 구현됐는지 확인하고, 다른 AI는 보안 취약점을 찾는다. 또 다른 AI는 팀이 정한 코드 작성 규칙을 지켰는지 점검한다.

다만 AI가 늘어나고 검토할 항목이 많아지면서 코드 리뷰가 본래의 목적에서 벗어나는 오류가 발생할 수 있다. AI 에이전트끼리 대화를 이어가면서 당초 감리 목적을 망각하는 셈이다. 연구팀은 이를 막기 위해 'QA(품질보증) 체커'라는, 감리팀 전체를 감독하는 AI를 추가했다. AI 에이전트들이 코드 리뷰의 방향성을 잃을 우려가 있을 때 이를 바로잡아주는 역할이다.

김 교수는 "QA 체커는 AI 코드 리뷰팀이 처음 목표에 제대로 도달할 수 있도록 하는 것이 핵심"이라고 말했다. 김 교수 연구팀은 오는 29일 서울 코엑스에서 열리는 '2026 K-프리미어 딥테크 페스타'(참가신청 : https://vvd.bz/buvX)에서 이 기술을 직접 소개한다.

김 교수는 AI 모델의 사고 과정을 들여다보는 연구도 하고 있다. 사람의 뇌에서 특정 부위를 자극하면 언어나 신체 기능이 활성화되듯이, AI 내부에서도 특정 기능을 담당하는 뉴런을 찾아내는 연구다. 김 교수는 "AI 안에 언어별로 담당하는 뉴런이 따로 있는지, 그 부분을 지우면 정말 그 언어를 못하게 되는지 궁금했다"고 말했다.

분석 결과 특정 언어를 담당하는 뉴런을 지우면 실제로 해당 언어 능력이 떨어졌다. 다만 다른 언어 능력까지 함께 떨어지는 경우도 있었다. 김 교수는 "일본어를 담당하는 뉴런만 지웠는데 한국어도 어눌해진다면, 그중 한국어에 영향을 주는 뉴런은 남겨둬야 한다"며 "그래야 지워야 할 타깃만 정확하게 지우고 나머지 지식은 이전처럼 쓸 수 있다"고 설명했다. 연구팀은 반대로 특정 뉴런을 강화해 해당 능력을 끌어올리는 연구도 진행하고 있다.

독자들의 PICK

지금 896명 읽는 중

이 연구는 AI가 이미 학습한 지식을 지우는 기술과 연결된다. 2024년 12월 해리포터 출판사 블룸즈버리 등이 참여한 인도출판협회는 챗GPT가 허가 없이 책 요약을 제공한다며 오픈AI를 상대로 소송을 냈다. 출판사들은 라이선스 계약을 맺지 않을 거라면 학습 데이터를 삭제하라고 요구했다. 하지만 이미 학습한 내용을 지우기 위해 AI를 처음부터 다시 학습시키면 수천억원이 든다.

김 교수는 학습 단계부터 지식을 지우기 쉬운 곳에 저장하는 방법을 연구하고 있다. 그는 여러개의 분리형 칠판으로 이뤄진 강의실 환경을 예로 들면서 "해리포터 내용을 지워야 하면 해리포터 보조칠판만 떼어내는 방식"이라며 "처음부터 AI를 '부분 삭제'에 용이하게 설계할 수 있을 것"이라고 말했다.

김 교수는 "제가 연구하는 기술들은 기본적으로 대부분의 AI 기업들의 고민과 결이 맞을 것"이라며 "국내 기업들의 수요를 좀 더 파악해 직접 가져다 쓸 수 있는 기술을 제공하고, 이를 통해 우리나라의 경제 발전에 기여하고 싶다"고 강조했다.

<'K-프리미어 딥테크 페스타(기술이전·사업화)' 참가신청>

-일시: 2026년 10월 29일(목) 오후 1시

-장소: 서울 삼성동 코엑스 B홀 PLUS STAGE

-참가 대상: 기술이전·공동연구·신사업을 검토하는 기업, 출연연 패밀리기업, 투자사

-참가비: 무료 (사전 등록 필수)

-주최: 과학기술정보통신부, KAIST, GIST, DGIST, UNIST, 머니투데이 유니콘팩토리

-후원: 한국과학기술정보연구원(KISTI), 과학기술사업화진흥원(COMPA)

-신청: https://vvd.bz/buvX