[the300]
국가정보원은 5일 미국 국가안보국(NSA)·호주 신호정보부(ASD) 등 주요 7개국 사이버안보 기관들과 'AI(인공지능) 공급망 위험·완화방안'을 공동 발표했다.
호주 ASD는 AI 공급망 특유의 복잡성으로 인한 '백도어 은닉' 등 위험요인 증가를 우려해 관련 권고문을 마련하고 글로벌 차원의 대응을 위해 국정원에도 동참을 요청했다.
국정원 관계자는 "이번 권고문의 가장 차별화되는 특징은 AI를 배포 후 관리 대상이 아닌 설계 단계부터 보안을 내재화해야 할 시스템으로 바라보는 것"이라고 설명했다.
권고문에는 △데이터 △머신러닝 모델 △소프트웨어 △인프라·하드웨어 △제3자 서비스 등 5개 항목에서 AI 공급망 관련 위험요소 및 완화방안이 담겨있다.
권고문에 따르면 품질이 낮고 편향된 AI 데이터는 판단 오류를 초래할 수 있다. 따라서 신뢰할 수 있는 출처의 데이터를 사용해 위험 요소를 완화해야 한다. 머신러닝 모델의 경우 악성코드 은닉·백도어 삽입 등의 보안사고가 일어날 수 있는 만큼 안전한 파일 형식 및 투명한 모델 사용이 권고된다.
아울러 국정원은 2023년 11월 미국·영국과 공동으로 '안전한 AI 개발 가이드라인'을 발표했다. 지난해 12월에는 'AI 보안 가이드북'을 배포하는 등 AI 공급망 공격 위협을 강조하고 관련 대책을 제시·권고했다.
국정원 관계자는 "이번 권고문은 AI에 특화된 위험을 공급망 측면에서 체계적으로 정리하고, '사후대응'이 아닌 '사전예방' 중심의 보안 관리 방향을 제시했다"며 "향후 주요국들과 파트너십을 바탕으로 국내에서 AI를 안전하게 활용할 수 있도록 적극 지원하겠다"고 밝혔다.
