금융권에서 인공지능(AI) 활용이 확대되는 가운데 AI 안전성과 신뢰성을 객관적으로 평가할 수 있는 금융권 특화 평가 체계가 국내에 처음 마련됐다.
금융보안원은 12일 AI 안전성과 신뢰성을 객관적·종합적으로 평가할 수 있는 프레임워크를 개발 완료했다.
이 프레임워크는 국내 최초 금융 특화 AI 안전성·신뢰성 평가 체계다. 최근 금융사들이 AI 활용이 핵심 업무까지 확대되면서 AI환각, 오작동, 보안사고 등 리스크에 대응하고 금융산업에 특화된 평가 기준을 마련할 필요성이 제기돼왔다.
금융위원회가 발표한 '금융분야 인공지능 가이드라인' 내 신뢰성·보안성 원칙에 대한 기술적 검증이 가능하도록 구성됐다. 신뢰성 부문엔 △모델 성능관리 △데이터 품질관리 △공정성·편향성 △설명가능성으로, 안전성 부문엔 △AI특화 보안위협 △ AI 특화공격 탐지대응 △AI 자산 보호관리 △외부 모델·데이터 검증 △기존 보안관리 확장 적용 △보안 검증 및 운영관리 등 10개 항목을 마련했다. 금융보안원은 세부항목도 조만간 공개할 예정이다.
금융보안원은 하반기 중 금융회사를 대상으로 온라인 설명회, 수요 조사, 시범검증을 진행할 예정이다. 이를 통해 AI기본법 상 AI 안전성·신뢰성 검증·인증 체계로 활용될 수 있도록 추진할 계획이다.
박상원 금융보안원장은 "이번 프레임워크는 금융산업의 특수성을 반영한 국내 최초의 AI 안전성․신뢰성 평가 체계라는 점에서 의미가 크다"며 "향후 금융권의 표준 프레임워크로 발전시켜 안전하고 신뢰할 수 있는 금융권의 AI 활용을 지원할 계획"이라고 밝혔다.