오픈AI·메타 "AI 영상·음성 100% 판별 어렵다"…법정 증거 기준도 흔들
가짜 탐지보다 '진짜 증명' 기술 부상…촬영·편집 이력까지 확인하는 시대 도래
교통사고 순간이 블랙박스에 찍혔다. 상대 차량 번호도, 운전자 얼굴도 선명하다. 예전이라면 결정적 증거였다. 앞으로는 상대가 이렇게 말할 수 있다. "그 영상, AI로 만든 것 아닌가요?".
생성형 AI가 실제 촬영물과 구별하기 어려운 영상과 목소리를 만들어내면서 사진·영상·녹음이 '보이는 그대로의 사실'이라는 상식이 흔들리고 있다. 문제는 가짜가 늘어나는 데서 끝나지 않는다. 진짜 영상까지 가짜라고 의심받을 수 있다는 점이다.
오픈AI와 메타는 현재 기술만으로 AI가 만든 영상이나 음성을 완벽하게 가려내기 어렵고, 앞으로도 100% 정확한 탐지기를 만들기 쉽지 않을 것이라고 최근 미국 연방 사법부에 경고했다.
법원이 걱정하는 것도 이 부분이다. 폭행 장면이 담긴 CCTV나 직장 내 괴롭힘 녹음이 있어도 상대가 "AI 합성물"이라고 주장하면 진위를 다시 확인해야 한다. 가짜를 만드는 기술이 진짜를 부정할 핑계까지 만들어주는 셈이다.
미국 사법부는 이런 상황에 대비해 증거 규칙을 손보는 방안을 검토 중이다. 영상이 딥페이크일 가능성이 제기되면 이를 증거로 낸 쪽에서 실제 자료라는 점을 더 적극적으로 입증하게 하는 방식이 거론된다.
IT업계의 대응도 바뀌고 있다. 이미 만들어진 영상을 보고 가짜인지 찾아내는 것보다, 촬영하는 순간부터 "이건 진짜 원본"이라는 흔적을 남기는 방식이 주목받는다.
대표적인 것이 '콘텐츠 자격증명'이다. 사진이나 영상을 찍을 때 어느 기기에서 언제 만들어졌는지 기록하고, 이후 편집 과정도 남긴다. 일종의 디지털 출생증명서다. 앞으로는 영상 자체만 보는 게 아니라 누가 찍었는지, 어떤 기기에서 만들어졌는지, 중간에 수정됐는지까지 함께 확인해야 할 가능성이 커진다.
한국도 예외는 아니다. AI 생성물 표시 의무가 생겼지만, 블랙박스와 CCTV, 통화 녹음처럼 실제 분쟁에 쓰이는 자료의 진위를 확인하는 문제는 별개다.
AI가 바꾸는 것은 가짜 영상의 품질만이 아니다. 지금까지는 "영상이 있으니 사실"이라고 생각했다. 앞으로는 그 영상이 어디서 왔고, 중간에 손대지 않았다는 것을 증명할 수 있느냐가 더 중요해질 전망이다. 증거의 힘이 흔들리고 있다.
