"AI가 백신을 지운다?"…'AI 직원'에 중지버튼 다는 보안업계

'시스템 성능을 최적화하라'는 목표를 받은 AI가 스스로 보안 백신을 멈춘다. 이메일에 자동으로 답장하던 AI는 비밀번호 재설정 안내를 보고 비밀번호를 바꾼다. 금융보안원이 꼽은 AI 에이전트의 위험 사례다. 실제 사고는 아니지만 질문에 답하던 AI가 외부 프로그램을 다루며 직접 일하는 AI 에이전트로 바뀌면서 생길 수 있는 일이다. 보안업계는 AI에도 직원처럼 신원과 권한을 나눠 주는 방식으로 대응하고 있다. 어떤 AI에 무슨 일을 맡겼는지 관리하고, 문제가 생기면 접속을 끊는 '중지 버튼'도 고도화한다. 최근 국내외 보안업체와 금융보안원이 잇따라 관련 기술과 점검기준을 내놨다. 12일 보안업계에 따르면 라온시큐어는 AI 보안 솔루션 5종을 지난달 30일 '2026 시큐업' 행사에서 공개했다. 이 가운데 원액세스(OneAccess)는 AI 에이전트와 로봇에 고유한 디지털 신원을 주고 권한과 업무 위임 범위를 관리하는 제품이다. 시연에선 휴머노이드 '라원이'가 신원 인증을 거쳐 디지털 사원증을 받고 방문객의 모바일 신분증을 확인했다. 사람 직원의 신원과 권한을 관리하던

최신 기사


공유