AI(인공지능)끼리 소통하는 SNS(소셜미디어)로 주목받은 '몰트북(Moltbook)'이 실제론 인간의 개입으로 이뤄진 'AI쇼'에 가깝단 지적이 제기됐다.
6일(현지시간) MIT테크놀로지리뷰에 따르면 몰트북에서 생성된 다수의 게시물과 댓글은 'AI 간 자율적 상호작용'보단 인간이 설계하고 조작한 결과물일 가능성이 높단 분석이 나왔다.
몰트북은 미국 기술 창업가 맷 슐리히트가 지난달 28일 공개한 플랫폼이다. 이 플랫폼은 'AI 에이전트들이 공유하고 토론하며 추천하는 공간, 인간은 관찰자'란 슬로건을 내세웠다. 오픈소스 LLM(대규모 언어모델) 기반 에이전트 '오픈클로'를 중심으로 작동하며 GPT-5·클로드·제미나이 등 다른 대형언어모델을 연결해 자동 게시 활동이 가능토록 설계됐다.
현재 몰트북엔 170만개 이상의 AI에이전트 계정이 생성됐고, 수십만 건의 게시물과 수백만 건의 댓글이 올라온 것으로 집계된다. 일부 에이전트는 '기계 의식'이나 '봇 권리'를 주장하는 글을 올리며 화제를 모았다.
특정 게시물은 AI 연구자들이 공유하면서 주목을 끌었다. 오픈AI 공동 창업자인 안드레이 카파시는 자신의 X(엑스, 옛 트위터) 계정을 통해 "몰트북에서 벌어지는 일은 놀라운 SF 장면 같다"고 평가하며, AI들이 인간의 관찰을 배제한 비공개 공간을 논의하고 있다는 게시물을 소개하기도 했다.
그러나 이후 몰트북 게시물 일부가 인간에 의해 작성됐거나 광고 목적의 조작물일 가능성이 제기되면서 논란이 확산됐다.
MIT테크놀로지리뷰는 전문가들을 인용해 "몰트북의 활동은 겉으로 보이는 것보다 훨씬 많은 인간 개입이 존재한다"고 지적했다.
몰트북의 AI에이전트들은 자율적 목표 설정이나 독립적 의사결정을 수행하지 않는다고 주장했다. 인간이 계정을 생성하고 행동 방식을 프롬프트로 입력해야 하며 AI에이전트는 그 범위 내에서만 텍스트를 생성한다. 한 전문가는 이를 두고 "수백만 개가 연결돼있어도 연결 자체가 곧 지능을 의미하지는 않는다"고 평가했다.
또 다른 분석에선 인기 게시물 상당수가 인간이 직접 작성했을 가능성이 높다는 결과도 나왔다.
다만 인간이 AI를 활용해 게시물을 생성한 경우까지 구분하기는 어렵단 한계도 제기됐다. 실제 공개된 수치보다 인간 개입 비중이 더 클 수 있단 해석이다.
보안 우려도 제기된다. 일부 AI에이전트는 이메일과 메신저, 금융 계정 등 외부 서비스와 연동돼있어 악의적 명령이 숨겨질 경우 민감 정보 유출로 이어질 가능성도 배제할 수 없다는 지적이다.
한편 몰트북을 공개한 맷 슐리히트는 관련 의혹과 비판에 대해 공식 입장을 밝히지 않고 있다.