이정아 라온시큐어 대표
"모든 사람이 거짓말을 한다(Everybody lies)." 미드 '닥터하우스'에서 인상적이었던 대사다. 의사인 주인공은 환자들에게 왜 거짓말을 하느냐고 묻지 않는다. 의사가 붙든 건 '진술'이 아니라 환자의 몸이 보내는 데이터, 곧 '증거'다.
그럼에도 그의 동료 몇몇은 여전히 손에 익은 직관을 더 믿고, 그 직관이 가리키는 곳만 들여다본다. 의사의 방심과 확신, 둘 다 환자에게 위험했다.
기업 보안 현장도 묘하게 닮아 있다. 보안 담당자가 익숙한 위협에만 눈을 고정하면, 탐지 결과도 거기에서만 나온다. 인간의 경험과 직관은 강력하지만 동시에 편향의 원천이기도 하다. '놓친 곳'이 '뚫리는 곳'이 된다.
'에이전틱AI(Agentic AI)'의 등장은 이 오래된 문제를 정면으로 건드린다. 기존 AI가 사람의 지시에 답하는 도구였다면, 에이전틱AI는 목표를 받아 스스로 판단하고 실행하는 행위자다. 사람의 편향에서 벗어나 24시간 쉬지 않는다. 이로써 기업은 구조적 오진의 가능성을 줄인다. 보안 담당자는 반복 업무 대신 정책 수립과 리스크 관리 등 심도 깊은 판단에 매진하게 된다.
이런 구조는 정보보호 산업 전반의 지형을 바꾸고 있다. 지금까지 보안 산업은 주로 인간 사용자의 행위를 탐지하고 통제하는 방향으로 발전해왔다. 에이전틱AI라는 새로운 행위자를 상정하지 않은 채 설계된 것이다. 정보보호 산업이 '사람 중심 보안'에서 '행위자 중심 보안'으로 패러다임을 전환해야 하는 중요한 이유가 여기에 있다.
이미 에이전틱AI의 신원 관리, 행위 감사, 권한 범위 제어를 전문으로 하는 새로운 보안 영역이 주목 받고 있다. 산업 전반에 새로운 시장과 기술 수요를 만들어 낼 것이 자명해 보인다.
이 부분에서 우리는 더 본질적인 질문과 마주하게 된다. 스스로 판단하고 움직이는 에이전틱AI가 탈취된다면 어떻게 되는가. 단순히 '계정 하나'가 뚫리는 문제가 아니다. 그 순간부터 에이전트는 내부 시스템을 합법처럼 누비고, 정상 업무 흐름을 가장한 채 조용히 권한을 넓힌다. 경보는 늦고, 책임은 흐려진다. 피해는 커진다.
오진을 막으려고 AI를 들였다가 통제되지 않은 AI가 더 큰 위기를 만드는 역설이다. 자율과 위협의 크기는 철저히 비례한다. 이것이 지금 시대의 화두로 '통제 가능한 자율성'이 떠오르는 이유다.
독자들의 PICK!
우리는 직원을 채용할 때 신분을 확인하고, 역할을 정의하고, 접근 권한의 범위를 정한다. 그런데 AI에게는 유독 관대해지는 경우가 눈에 띈다. '일단 가동해보고 살펴보자'는 순간 보안이 뒤로 밀린다.
원칙은 이미 우리 손에 있다. 에이전틱AI에게도 강한 인증, 명확한 권한 경계, 명령자 검증이 필요하다. 이 신원과 권한을 변조하기 어렵게 기록·검증하는 기반은 물론 블록체인이다. 당연한 원칙을 고도화된 기술로 에이전틱AI에 적용하는 것이다.
오늘날 이 문제가 더 긴박한 이유가 있다. 현실 공간에서 로봇·자동차·드론 등이 자율적으로 움직이는 피지컬AI의 시대가 도래하기 때문이다. 디지털 권한의 실패는 화면 속 오류에만 머물지 않는다. 공장의 중단부터 물류의 충돌, 시설의 오작동, 급기야 사람의 안전으로 번진다. 통제 체계의 부재는 더 이상 기술 부서만의 문제가 아닌 것이다.
이제 AI를 단순한 생산성 도구나 자율적 생성 엔진으로 바라보는 시각에서 벗어나야 할 시기다. 에이전틱AI는 조직 안에서 실질적인 권한을 행사하는 하나의 행위자다. 사람과 마찬가지로 신원이 있어야 하고, 역할이 정의돼야 한다. 그 행위에 책임이 따라야 한다.
'닥터하우스'의 주인공이 진술이 아닌 데이터를 신뢰했듯 우리도 AI의 행위를 증명 가능한 체계 위에 올려놓아야 한다. 증명할 수 없는 AI에게 판단을 맡기는 것은 근거없는 진술을 믿는 것보다 위험하다.
사람에게 적용하는 보안 원칙을 AI에게도 동일하게 적용하는 것. 이것이 에이전틱AI 시대 정보보호의 출발점이다. 통제 없는 자율은 보안이 아니라 공백이다.