악성 프롬프트·탈옥·개인정보 유출까지 탐지·차단…AI 가드레일 시장 본격 대응
라온시큐어(18,200원 ▲860 +4.96%)가 AI 세이프 가드레일 솔루션 '원쉴드'로 '인공지능 제품·서비스 확인서'를 획득하고 공공·금융 AI 보안 시장 공략을 강화한다.
라온시큐어는 한국인공지능·소프트웨어산업협회가 운영하는 '인공지능 제품·서비스 확인제도'에서 원쉴드의 AI 기술 적용을 공식 확인받았다고 14일 밝혔다.
해당 제도는 인공지능기본법에 따라 제품이나 서비스에 AI 기술이 실제 적용됐는지를 확인하는 절차다. AI의 학습·추론 특성과 기능 기여도 등을 기술적으로 심사해 확인서를 발급한다.
원쉴드는 생성형 AI와 AI 에이전트 활용 과정에서 발생할 수 있는 보안 위협을 통제하는 솔루션이다. 사용자와 AI 사이에서 오가는 입력·출력 데이터를 실시간으로 분석하고, 사전에 설정한 정책에 따라 허용하거나 차단한다.
기업 내부 정보나 개인정보가 생성형 AI에 입력되는 것을 막고, 공격자가 악성 프롬프트로 AI 정책을 우회하는 시도에도 대응한다.
구체적으로 프롬프트 인젝션과 탈옥 등 악성 프롬프트 공격을 탐지·차단하고, AI에 입력되는 개인정보를 자동으로 식별해 익명화하거나 마스킹한다. 한국어 특화 모델을 활용해 유해 콘텐츠도 걸러낸다.
기업이나 기관이 정한 보안 정책에 따라 민감정보 입력이나 부적절한 AI 사용을 통제하는 기능도 제공한다.
라온시큐어는 이번 확인서 획득을 계기로 공공·금융기관을 중심으로 원쉴드 공급을 확대한다는 계획이다. AI 보안 솔루션 도입 과정에서 AI 기술 적용 여부를 판단하는 근거로 활용할 수 있을 것으로 기대하고 있다.
AI 에이전트 확산에 따른 보안 수요에도 대응한다. 업무를 직접 수행하는 AI 에이전트가 늘어날수록 입·출력 데이터뿐 아니라 접근 권한과 행동까지 통제해야 할 필요성이 커질 것으로 보고 있다.
이정아 라온시큐어 대표는 "생성형 AI 활용을 넘어 AI 에이전트가 실제 업무를 수행하는 단계로 전환되면서 민감정보 유출과 악성 프롬프트, 정책 우회 등 새로운 위협도 함께 커지고 있다"며 "이번 확인서 획득을 계기로 공공·금융을 중심으로 사업 기회를 확대해 나가겠다"고 말했다.
