'시스템 성능을 최적화하라'는 목표를 받은 AI가 스스로 보안 백신을 멈춘다. 이메일에 자동으로 답장하던 AI는 비밀번호 재설정 안내를 보고 비밀번호를 바꾼다. 금융보안원이 꼽은 AI 에이전트의 위험 사례다. 실제 사고는 아니지만 질문에 답하던 AI가 외부 프로그램을 다루며 직접 일하는 AI 에이전트로 바뀌면서 생길 수 있는 일이다.
보안업계는 AI에도 직원처럼 신원과 권한을 나눠 주는 방식으로 대응하고 있다. 어떤 AI에 무슨 일을 맡겼는지 관리하고, 문제가 생기면 접속을 끊는 '중지 버튼'도 고도화한다. 최근 국내외 보안업체와 금융보안원이 잇따라 관련 기술과 점검기준을 내놨다.
12일 보안업계에 따르면 라온시큐어(16,350원 ▲960 +6.24%)는 AI 보안 솔루션 5종을 지난달 30일 '2026 시큐업' 행사에서 공개했다. 이 가운데 원액세스(OneAccess)는 AI 에이전트와 로봇에 고유한 디지털 신원을 주고 권한과 업무 위임 범위를 관리하는 제품이다.
시연에선 휴머노이드 '라원이'가 신원 인증을 거쳐 디지털 사원증을 받고 방문객의 모바일 신분증을 확인했다. 사람 직원의 신원과 권한을 관리하던 인증 기술을 AI와 로봇으로 넓힌 것이다.
해외에선 직원 로그인과 접근 권한을 관리해 온 업체들이 AI로 영역을 넓혔다. 미국 옥타(Okta)는 지난달 22일 개막한 연례 행사 '옥테인 2026'에서 AI 에이전트 관리 기능 확대를 발표했다. 직원 컴퓨터에서 작동하지만 회사가 파악하지 못한 AI를 찾아내고, 어떤 자료에 접근하는지 보여주는 기능이다.
중지 버튼도 강화한다. 지금은 관리자 화면에서 AI의 새 접속만 막을 수 있다. 앞으로는 AI의 작업 요청이 모두 거쳐 가는 관문인 '에이전트 게이트웨이'에서 AI가 이미 받은 접속용 디지털 통행증(토큰)까지 무효화해 진행 중인 작업도 끊는다. 연말까지 내놓을 계획이다.
기업 계정과 권한을 관리하는 세일포인트(SailPoint)는 AI에 권한을 늘 열어 두지 않고 필요할 때만 조건을 붙여 주는 기능을 최근 발표했다. 회사가 모르는 AI를 찾아내고 이상 행동이 보이면 바로 차단하는 기능도 강화했다.
답이 틀리면 사람이 고치면 되지만, AI가 직접 일하다 잘못 판단하면 회사 시스템과 자료가 곧바로 영향을 받는다. 세일포인트가 지난해 기업 IT 담당자 353명을 조사한 결과 AI 에이전트를 쓰는 곳은 82%였는데, 보안 정책을 갖춘 곳은 44%에 그쳤다. 응답자 80%는 AI가 시키지 않은 행동을 한 적이 있다고 답했다.
금융권은 내년부터 점검을 받는다. 금융보안원은 6개 분야 17개 항목으로 된 '금융분야 AI 에이전트 보안 평가기준'을 지난 7일 내놨다. AI에 꼭 필요한 권한만 줬는지, 외부 도구를 쓸 때 사람의 승인을 거치는지, 필요하면 작동을 멈출 수 있는지 등을 본다. 올해 말까지 시범 검증을 거쳐 내년부터 금융권 전반에 정식 적용키로 했다.
