금융보안원이 금융권 인공지능(AI) 활용 확대에 맞춰 AI 안전성·신뢰성 확보와 보안 위협 대응 방안을 논의하는 자리를 마련했다. 금융보안원은 올 하반기 신청을 받아 AI 안전성·신뢰성 시범평가를 실시한다.
금융보안원은 지난 13일 서울 여의도 금융투자협회 불스홀에서 '2026년 금융권 AI 활용 및 안전성·신뢰성 강화 세미나'를 개최했다고 14일 밝혔다.
이번 세미나는 금융회사의 AI 도입과 운영 과정에서 고려해야 할 안전성·신뢰성 확보 및 위험관리 방향을 공유하기 위해 마련됐다. 특히 클로드 미토스 등 초고성능 프론티어 AI가 촉발하는 사이버 위협 증가에 대한 금융권 대응 방안도 논의됐다.
세미나에서는 네이버클라우드, 삼성생명, 카카오뱅크, 금융감독원, 금융보안원 등이 금융권 AI 활용 사례와 위험관리 체계, 감독당국의 AI 정책 방향 등을 발표했다. 발표자들은 생성형 AI 활용 과정에서 필요한 보안 체계 등 금융권이 준비해야 할 실무 대응 방안을 공유했다.
금융보안원은 국내외 AI 안전성·신뢰성 평가체계를 분석해 국내 금융권에 적합한 평가 프레임워크 초안을 공개했다. 프레임워크에는 모델 성능, 데이터 품질, 공정성·편향성, 설명가능성 등 금융 AI 활용 전반의 점검 기준이 담겼다.
금융보안원은 올해 하반기 중 금융회사 신청을 받아 AI 안전성·신뢰성 시범평가를 실시할 예정이다. 또 금융권 AI 확산과 초고성능 AI 보안 위협에 대응하기 위해 금융AI 안전성·신뢰성 프레임워크와 AI 에이전트 보안 기준 등을 마련해 실효성을 높일 계획이다.
참석자들은 AI 기술의 성공적 활용을 위해 안전성과 신뢰성이 담보돼야 하며 이를 객관적으로 평가할 수 있는 체계가 필요하다는 점에 공감했다. 이를 위해 금융당국과 금융회사, 금융보안원, AI 관련 기업 등 유관기관 간 협력이 필요하다는 의견도 나왔다.
박상원 금융보안원장은 "AI는 금융산업의 혁신을 가속화하는 핵심 기술이지만 금융분야에서 안정적으로 활용되기 위해서는 보안성, 안전성, 신뢰성이 함께 확보되어야 한다"며 "금융보안원 AI 조직의 확대·개편을 통해 AI에 의한 사이버 공격 및 방어 연구 강화, AI 보안 인재 양성 등을 적극 추진하여 금융권의 선제적 AI 보안리스크 대응을 지원하겠다"고 밝혔다.