"AI(인공지능)에 대한 해킹 공격이 시작된다면 문제가 걷잡을 수 없이 커질 것이라고 생각한다."
배경훈 부총리 겸 과학기술정보통신부 장관은 23일 경기 성남의 인공지능안전연구소(이하 안전연구소)에서 진행된 산학연 간담회에서 "장관 임명 후 정보보호 관련 이슈에 대한 스트레스가 크다. 과기정통부뿐 아니라 많은 부처가 모여 정보보호 대책을 세우고 있지만 죽자고 덤벼드는 사람들을 막기가 쉽지 않다"며 이같이 말했다.
배 부총리는 "우리의 산업 경쟁력을 높이기 위해 AI를 반드시 도입해야 하는데, 이 과정에서 '굿(Good) AI'를 잘 만들고 있는가의 측면에서 논의의 장이 부족한 게 아닌가 생각된다"며 "AI 3대 강국을 목표로 내년 예산투자가 3배 이상 느는 상황에서 산업 진흥만 얘기하면 안 되고, 안전한 AI를 만들기 위한 고민을 해야 한다"고 말했다.
이날 행사는 다가올 'AI 에이전트' 시대에 새로운 유형의 피해가 발생할 수 있는 만큼, AI 안전 확보 기술 현황을 공유하고 정부의 정책 방향을 논의하기 위해 마련됐다. 이 자리에서 안전연구소는 AI로 사람의 얼굴과 음성을 합성·조작한 딥페이크 탐지 기술과 AI 에이전트 안전성 평가를 시연했다. 연내 '국가 AI 안전 생태계 조성 종합계획'(가칭)도 마련할 계획이다.
다만 현장에선 정부 규제가 기술 개발 속도를 따라가지 못한다는 지적이 나왔다. 간담회에 참석한 김민재 엔씨소프트 CTO(최고기술책임자)는 "(딥페이크 탐지 기술은) 이미 수년 전 나왔던 데모"라며 "생성 기술이 (탐지 기술보다) 훨씬 앞서 나가고 있어 쫓아가는 게 어렵다. 탐지 기술 연구에 대한 지원이 많이 필요하다"고 제언했다.
배순민 KT AI 퓨처랩장(CRAIO)도 "사내에서 AI 모델과 서비스에 대한 가이드라인을 제시할 때 '오늘 기준은 이렇지만 다음주는 달라질 수 있다'고 말할 정도로 기술 개발 속도가 빠르다"며 "그런데 AI 기본법은 시행령 제정에만 몇 달이 걸린다. AI 시대에 스피드 차원에서 국가가 거버넌스 역할을 하는 게 맞는지 고민된다"고 꼬집었다.
마지막으로 배 부총리는 "'AI 성능 최고'보다 중요한 건 대한민국이 가장 신뢰할 수 있는 안전 AI를 만든다는 것"이라며 "이제는 우리나라도 글로벌에 AI 기술력을 보여줄 시점이 왔다. 이럴 때 '한국의 AI 모델은 성능도 좋은데 신뢰할 수 있다'는 걸 보여주면 궁극적으로 국가경쟁력 제고로 이어질 것"이라고 강조했다.