더벨'머니투데이 thebell'에 출고된 기사입니다.
인공지능(AI) 보안·인증 플랫폼 기업 라온시큐어가 과학기술정보통신부와 정보통신산업진흥원이 지원하는 '협업지능 시스템을 위한 피지컬AI 기반 다중계층 보안기술 개발 과제’의 주관기관으로 선정돼 본격적인 연구개발에 착수한다고 15일 밝혔다.
피지컬AI는 제조 생산라인의 산업용 로봇과 물류 장비 같은 현실 기기를 직접 인지하고 판단하며 제어한다. 이에 따라 사이버 공격이나 AI의 잘못된 판단이 데이터 유출에 그치지 않고 설비 오작동과 생산 중단, 작업자 안전사고 등 현실의 물리적 피해로 이어질 수 있다.
특히 산업 현장에서 여러 AI와 로봇이 정보를 주고받으며 협업하는 환경이 확대될수록 각 AI의 신원과 권한, 명령과 판단 결과의 신뢰성을 지속적으로 검증하는 보안 체계가 중요해진다.
이번 연구개발은 이러한 피지컬AI의 특성을 고려해 AI 모델부터 데이터, 통신, 기기, 운영 환경까지 전 영역에서 발생할 수 있는 보안 위협을 단계별로 검증하고 대응하는 기술 개발에 초점을 맞춘다. 정부가 제조 인공지능 대전환(AX)을 국가 전략으로 추진하는 가운데, 피지컬AI가 산업 현장에 안착하기 위한 전제인 신뢰 기준을 함께 마련하기 위함이다.
라온시큐어는 전체 연구개발을 주관하는 동시에 피지컬AI 로봇과 에이전트의 신원·권한 관리 기술 개발을 맡았다. 국가 모바일 신분증에 적용한 분산신원인증(DID·Decentralized Identity) 기술을 피지컬AI 영역으로 확장해 각각의 로봇 에이전트에 고유한 '디지털 신분증'을 부여하는 것이 시작이다. 이를 기반으로 권한과 위임 관계, 활동 이력까지 통합 관리하는 하나의 체계를 구축할 계획이다.
이 체계가 구현되면 로봇이 기계를 조작할 때마다 자격과 권한을 실시간으로 확인하고 허용된 범위를 벗어난 명령은 실행 단계에서 통제할 수 있다. 사람의 신원을 증명하던 기술이 기계의 행위를 제어하는 수단으로 확장되면서 해킹이나 오작동이 물리적 사고로 이어지기 전에 차단하는 것도 한층 수월해진다.
참여사들도 각자의 전문 영역을 맡아 피지컬AI 보안의 방어막을 견고히 채운다. AI 모델 검증부터 암호화, 인증, 가상화, 현장 실증까지 전 영역을 아우르는 기술 역량을 결집한다.
예를 들어 센스톤은 한 번만 사용 가능한 인증코드를 생성하는 OTAC(One-Time Authentication Code) 기술을 기반으로 산업 현장의 접근을 인증하고 비정상적인 명령을 탐지·차단하는 기술을 개발한다. 틸론은 외부와 분리된 안전한 작업 환경을 구축해 외부 침입과 정보 유출을 막고 폐쇄망 내부의 이상 징후까지 탐지한다.
라온시큐어는 이번 과제를 통해 피지컬AI 확산의 핵심 전제인 '신뢰 가능한 자율성'을 확보할 것으로 기대한다. 스마트팩토리와 자율제조 현장에서 AI와 로봇을 안전하게 활용할 수 있는 보안 체계를 마련하고 향후 물류·의료·국방 등 다양한 피지컬AI 산업으로 적용 범위를 넓혀가기로 했다.
이정아 라온시큐어 대표는 "피지컬AI 시대의 성패는 얼마나 뛰어난가가 아니라 얼마나 신뢰할 수 있는가에 달려 있다"며 "국가 모바일 신분증으로 검증한 인증 기술을 로봇의 영역까지 확장해 산업 현장에서 AI와 기계를 안심하고 맡길 수 있는 보안 기준을 만들 것"이라고 말했다.