금융권에서 AI 에이전트 활용도를 확대하면서 관련 보안 체계를 강화해야 할 필요성이 높아지고 있다. AI가 스스로 판단해 실행까지 하는 만큼 업무체계에 미치는 파급력이 크다는 우려다.
금융보안원은 7일 금융분야 AI 에이전트 보안 평가 기준을 마련했다고 밝혔다.
최근 금융회사들의 AI 에이전트 도입을 확대하면서 새로운 보안 위협에 대비할 필요성이 높아졌다. 생성형 AI는 할루시네이션 등 답변오류가 주요 보안 위협이었다면 AI 에이전트는 자율성, 능동성, 실행력, 전략성, 연속성을 바탕으로 기존 위협을 실제 행위로 이어질 수 있다.
특히 AI 에이전트는 인간의 개입 없이 문제 정의, 계획 수립, 실행을 자율적으로 처리해 보안 위협이 발생하면 실제 업무에도 악영향을 줄 수 있다. 예를 들어, 이메일 자동 답장 기능을 가진 에이전트가 비밀번호 재설정 안내 메일을 보고 이용자의 승인없이 임의로 비밀번호를 변경할 수 있다.
금융보안원은 국내외 주요 AI 에이전트 보안위협을 분석해 연쇄적 실패 대비,취약한 도구 사용금지, 에이전트 간 통신보안 등 17개 점검항목을 제시했다. 금융회사 대상으로 AI 레드티밍을 실시할 때 △실행 권한 및 격리 관리 여부 △도구 실행 및 승인 통제 여부 △작업 범위 및 결과 확인 여부 △자율 실행 제한 및 중단 여부 등을 중점 점검할 예정이다.
금융보안원은 올해 말까지 시범 검증을 통해 항목별 실효성 검증 및 개선을 수행하고 내년부터 정식 점검기준에 적용할 방침이다.
박상원 금융보안원장은 "AI 에이전트는 판단에 그치지 않고 직접 행동한다는 점에서 기존 AI와는 또 다른 보안 리스크를 수반한다"며 "이번 평가기준 마련을 계기로 금융권 AI 에이전트의 위험을 실질적으로 검증하고, 금융회사의 안전하고 신뢰할 수 있는 AI 기술 활용을 적극 지원해 나가겠다"고 밝혔다.