AI가 직원처럼 일한다…회사 시스템 권한, 어디까지 내줄까?

자료를 찾고 질문에 답하던 AI가 회사 시스템에 직접 접속해 일을 처리하는 단계로 진화하고 있다. 데이터를 조회하고 여러 업무도구를 연결해 작업하는 'AI 에이전트'가 등장하면서 기업 보안에도 새로운 문제가 생겼다. AI에 어떤 시스템과 정보를 보여주고 어디까지 일을 맡길 것인가의 문제다.

AI 에이전트는 MCP(Model Context Protocol)나 API(Application Programming Interface)를 통해 기업의 여러 시스템과 업무도구를 호출한다. 사람이 화면에서 직접 하던 조회와 변경 작업을 AI가 대신할 수 있다.

권한은 어디까지 줘야할까. 한 직원이 회사 내부 문서를 볼 수 있다고 해서 그 직원이 사용하는 모든 AI에도 같은 문서를 보여줘야 하는지는 별개의 문제다. 문서를 읽어 요약하는 것과 내용을 수정하거나 외부 서비스로 전송하는 것도 같은 권한으로 볼 수 없다.

AI가 업무를 대신할수록 '접속했는가'보다 '누구의 권한으로 무엇을 했는가'가 중요해진다. 사용자가 AI에 일을 맡겼다는 이유만으로 자신이 가진 모든 접근권한을 넘기면 AI가 필요 이상의 시스템이나 데이터에 접근할 수 있다.

소프트캠프(6,450원 ▲60 +0.94%)는 이를 해결하기 위해 AI 에이전트를 사람 계정과 구분되는 비인간 신원(NHI·Non-Human Identity)으로 관리하는 방식을 제시한다. 'SHIELD AI Gateway'는 AI 에이전트의 시스템 호출을 하나의 관문으로 모은다. 어떤 에이전트가 어느 사용자의 권한을 위임받았는지 확인한 뒤 접근 여부를 판단하고, 누구의 권한으로 어떤 시스템이나 도구를 호출했는지도 기록한다.

시스템 접근 키도 AI에 직접 주지 않는다. 접근 키는 게이트웨이가 관리하고 허가된 요청만 대신 실행한다. 에이전트 사용 가능 도구도 업무에 필요한 범위로 제한한다. '최소 권한' 원칙을 사람뿐 아니라 AI에도 적용하는 방식이다.

AI가 시스템에서 데이터를 조회한 뒤 PC 문서를 참고하고 결과를 다른 서비스로 보내는 식으로 업무가 이어질 수 있다. 소프트캠프는 AI의 신원부터 MCP·API 호출, PC 문서 접근까지 하나의 보안정책으로 제안한다.

외부 공격에 대한 대응도 필요하다. 공격자는 AI를 활용해 인터넷에 노출된 기업 서비스를 탐색하고 취약점을 찾는 과정을 자동화할 수 있다. 서비스가 늘수록 외부에 공개되는 접속주소와 인증경로도 많아진다.

소프트캠프는 이를 줄이기 위해 기존 업무서비스 앞에 별도의 보안 접속창구를 두는 'SHIELD Gate'를 제시한다. 신원과 권한을 확인한 사용자에게 필요한 서비스만 보여주고 원본 서버로 직접 접근하는 경로를 제한하는 방식이다. 웹 콘텐츠는 격리된 원격 브라우저에서 실행해 사용자 단말과 분리한다.

'통제된 위임'이다. AI에 업무를 맡기되 필요한 시스템과 데이터, 도구만 열어주고 누가 어떤 권한을 위임했으며 AI가 무엇을 했는지 추적할 수 있어야 한다는 것. AI가 할 수 있는 일의 범위를 기업의 보안정책이 결정하는 구조다.

김동훈 소프트캠프 컨설팅본부 부장은 오는 29일 서울 코엑스에서 열리는 'AI 인프라 프런티어 컨퍼런스'에서 'AI가 공격하고, AI가 일하는 시대의 보안'을 주제로 이 같은 AI 에이전트 보안 전략을 소개할 예정이다.