배경훈 부총리 겸 과학기술정보통신부장관이 23일 인공지능안전연구소(이하 안전연구소)를 방문해 현장을 살핀 후 산·학·연 전문가들과 간담회를 열었다.
최근 AI를 활용해 사람의 음성 얼굴을 합성·조작하는 딥페이크 기술 악용 피해가 잇따르고 있다. 다가올 범용인공지능(AGI), AI 에이전트 시대엔 예상치 못한 새로운 유형의 피해가 발생할 수 있다. 이에 배 부총리는 현재 AI 안전 확보 기술 현황 등을 공유하고, 정부의 정책 방향을 논의하기 위해 안전연구소를 찾았다.
영국, 미국, 일본 등 주요국들은 2023년 말부터 다양한 AI 위험에 대응하기 위해 AI안전연구소를 설립했다. 우리나라도 2024년 안전연구소를 설립해 안전확보 기술 선도와 모델 평가, AI안전 정책 전반에 대한 논의와 대응, 글로벌 협업 등을 수행하고 있다.
이날 배 부총리는 △딥페이크 탐지 기술 △미래 AI 위험 연구 △AI 안전 평가 수행 △AI 안전 정책 및 글로벌 AI 협력 등을 수행하는 직원들을 격려하고 AI 안전 관련 의견을 청취했다. 산업계, 학계, 연구계 등 관련 전문가 15명과 딥페이크 탐지 기술과 AI 에이전트 안전성 평가에 대한 시연을 진행했다.
이어진 간담회에선 딥페이크 방지 기술와 AI 에이전트를 안심하고 사용할 수 있는 기술 개발 현황 및 대응 방향 등을 논의했다. 두 번째 세션에선 글로벌 AI 위험 대응 동향에 따른 우리나라의 체계적인 AI 위험 대응 및 안전 확보를 위해 '(가칭)국가AI 안전 생태계 조성 종합계획' 추진 방향을 논의했다. 참석자들은 AI 안전 생태계를 조성해 안전하고 신뢰할 수 있는 AI 개발·활용하는 환경 조성에 공감했다.
배 부총리는 "국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음"이라며 "AI안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 연내 '국가AI 안전 생태계 조성 종합계획'을 마련할 계획"이라고 말했다.
