소셜미디어(SNS) 등을 중심으로 인공지능(AI) 콘텐츠가 범람하는 시대다. 사람의 창작물과 AI 콘텐츠를 구분하려는 수요가 커지면서 AI 탐지 서비스에도 관심이 늘어나고 있다. 최근 주목받는 회사는 'AI 감별 프로그램'을 선보인 미국 AI 스타트업 팬그램(Pangram)이다.
20일 주요 외신 보도를 종합하면 팬그램은 지난달 멘로벤처스가 주도한 투자 유치에서 900만달러(약 125억원) 자금을 조달하며 화제를 모았다. 팬그램은 스탠포드대학교에서 인공지능과 머신러닝을 전공한 맥스 스페로와 브래들리 에미가 2024년 설립했다.
팬그램은 최근 차세대 AI 텍스트 감지 모델인 '팬그램4'와 AI 이미지 감지 모델인 '팬그램 이미지'를 선보였다. 팬그램4는 AI의 도움을 받은 글을 99%의 정확도로 탐지하며 AI 사용 흔적을 지우는 '휴머나이저' 프로그램을 더 쉽게 감지할 수 있다고 회사 측은 밝혔다. 팬그램 이미지는 아직 시험 버전으로만 출시했다.
팬그램의 감별 모델은 AI의 기여 수준을 백분율로 구분한다. 단순히 텍스트가 AI에 의해 쓰였는지를 판단하는 것을 넘어 콘텐츠에 AI가 얼마나 사용됐는지를 분석하는 것이다. 누군가 직접 쓴 글을 AI가 편집하거나, 콘텐츠의 일부분만 AI가 생성한 경우도 감별해낸다.
월 구독료는 20달러로, 웹사이트나 크롬 확장 프로그램을 통해 이용할 수 있다. 애플리케이션 프로그래밍 인터페이스(API)를 통해 여러 기관과 기업에 서비스를 제공하기도 한다. 미국의 뉴스레터 플랫폼 서브스택은 팬그램의 기술을 활용해 독자들이 자사 콘텐츠를 점검할 수 있도록 했다.
외신과 전문가들은 팬그램의 텍스트 감별 정확도가 돋보이는 수준이라며 호평을 내놨다. 뉴욕타임스(NYT)는 팬그램 사용 후기에서 "수십번의 테스트에서 단 한 번도 구분에 실패하지 않았다"며 "AI를 활용한 이메일 사기와 가짜 온라인 리뷰 등을 걸러내는 데 매우 유용할 것"이라고 평했다.
미국 정보기술(IT) 전문매체 테크크런치도 "AI 감지를 피하도록 조작해봤지만 (팬그램은) 전혀 속지 않았다"며 "매우 인상적"이라고 전했다. 다만 사람이 직접 쓴 문장을 AI가 작성한 것으로 표시한 경우도 있다며 완벽하지는 않다고 덧붙였다.
팬그램은 대규모 콘텐츠 데이터를 수집해 AI의 의사결정 과정에서 드러나는 특징을 역설계하는 방식을 활용한다. 모든 대규모 언어모델(LLM)은 '의사결정 트리'에 따라 다음에 이어질 단어를 결정하는데, 팬그램은 LLM의 데이터를 분석해 각 모델의 의사결정 과정을 거꾸로 해독한다. AI 생성물에 숨겨진 워터마크나 메타데이터에 의존하지 않기 때문에 다양한 AI 모델의 기여도를 정교하게 찾아낼 수 있다.
팬그램의 이미지 감별 시스템은 픽셀 수준에서 실제 사진과 AI 생성 이미지 간의 통계적 차이를 구분한다. 이를 통해 실제 사진 속에 숨겨진 AI 이미지까지도 감지할 수 있다. 다만 NYT는 팬그램의 이미지 판별 기술이 다른 AI 탐지 도구들과 마찬가지로 아직 신뢰하기 어렵다고 평가했다.
AI 탐지 기술이 생성형 AI의 발전 속도를 빠르게 뒤쫓아가는 가운데 팬그램의 경쟁사들도 각자의 기술을 개발하는데 몰두하고 있다. 윈스턴 AI, 오리지널리티.AI, 카피릭스, 지피티제로 등도 늘어나는 AI 탐지 수요에 발맞춰 서비스를 제공한다.
맥스 스페로 팬그램 공동창업자는 AI 콘텐츠가 계속해서 급증할 것이라고 내다봤다. 그는 "사람이 만든 콘텐츠를 적극적으로 선별하지 않는다면 인간의 목소리는 결국 묻혀버릴 것"이라며 "보고 있는 것이 AI가 생성한 것인지 아닌지 아는 것은 매우 중요하다"고 말했다.
스페로는 팬그램의 기술이 글쓰기에 대한 마녀사냥을 부추기는 데 이용되기를 원하지 않는다고 밝혔다. 그러면서도 부실한 콘텐츠에 맞서 싸울 수 있는 메커니즘은 필요하다고 강조했다.