머니투데이

국내 최대 게임전시회 '지스타 2026'의 간판은 게임사가 아니다. AI 채팅앱 '크랙'을 운영하는 뤼튼테크놀로지스다. 비게임사가 지스타 메인스폰서를 맡은 것은 행사 개최 이래 처음이다. 그동안 메인스폰서는 넥슨과 NC, 위메이드, 카카오게임즈, 넷마블 등 주요 게임사들이 맡아왔다. 지스타조직위원회는 "산업을 관통하는 가장 중요한 두 키워드는 AI와 내러티브"라며 크랙을 최적의 파트너로 선정했다고 설명했다. 뤼튼은 크랙의 성격을 묻자 "게임물이 아닌 AI 대화형 콘텐츠 서비스"라고 답했다. 크랙은 앱마켓에서도 게임이 아닌 '엔터테인먼트'로 분류돼 있다. 크랙에서는 대화와 이미지 생성 등에 '크래커'라는 유료 재화를 사용한다. 웹에서는 크래커 1개가 1원이다. 뤼튼은 크래커가 게임 아이템이 아니라 플랫폼 기능을 이용하기 위한 서비스 내 재화라는 입장이다. 지스타 후원만으로 크랙을 게임물이라고 할 수는 없다. 다만 회사가 게임이 아니라고 선을 그은 서비스가 시장에서는 국내 최대 게임행사의 중심에 섰다는 점은 AI 채팅앱의 모호한 위치를 보여준다.

AI 캐릭터 채팅 앱 '크랙'과 '제타'를 열자 성인 사이트 게시글처럼 보이는 제목이 화면에 즐비했다. 2011년생, 16세 나이로 조작해 거짓 로그인해도 마찬가지였다. 썸네일에는 노출이 심한 의상을 입은 그림이 많았다. 나이를 어리게 조작할 수 있다는 건 반대로 많게도 가능하다는 뜻이다. 두 앱은 만 14세 이상만 가입할 수 있다는 규정이 있지만 연령 확인 절차가 없어 유명무실했다. 두 앱은 양대 앱 마켓(구글플레이·앱스토어)에서 12세 이용가다. 즉, 초등학생만 돼도 앱을 내려받고 이용할 수 있는 셈이다. ━12세 이용가인데…제한없는 스킨십 묘사, AI로 생성━ 제타는 성인용 '언리밋 모드'를 따로 뒀다. 성인인증을 거치면 풀리는데, 19금 소설에나 나올법한 문구가 실시간 생성된다. 협박, 성범죄 장면도 묘사한다. 그렇다고 미성년자용 '세이프 모드'가 12세 수준에 맞춰져 있는 것도 아니다. 차단 장치를 피해 에둘러 입력하면 짙은 스킨십을 하는 장면을 그려낸 글이 어렵지 않게 생성된다. 콘텐츠 자체의 설정도 문제가 있다.

'AI 캐릭터 채팅 앱'이 선정적인 콘텐츠를 쏟아내고 있지만, 정부 관련 조사는 아직 시행된 적 없는 것으로 확인됐다. 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다. 21일 방송미디어통신위원회는 머니투데이의 질의에 대해 "AI 캐릭터 채팅 앱의 선정성 및 자극적인 콘텐츠에 관한 민원은 지속 접수 중"이라면서도 "'생성형 인공지능 이용자 보호 가이드라인' 준수 여부는 별도 조사한 적 없다"고 밝혔다. AI 캐릭터 채팅 앱은 AI로 구현된 캐릭터와 채팅을 나누는 서비스다. 뤼튼테크놀로지스의 '크랙', 스캐터랩의 '제타' 등이 대표적이다. △자취방에 놀러 오는 여사친 △나를 싫어하는 일진녀 △아이를 갖기 위해 머리 굴리는 조직 보스 남편 등 자극적 콘셉트의 캐릭터와 대화를 나눌 수 있다. '생성형 인공지능 서비스 이용자 보호 가이드라인'은 정부가 지난해 3월부터 시행 중인 이용자 보호 체계다. △이용자 인격권 보호 △AI 생성 여부 고지 △편향·차별 필터링 등 다양성 존중 △입력 데이터 수집·활용 과정 관리 △책임 범위 정의·위험관리 체계 마련 △건전한 유통·배포 노력 등 6대 실행 원칙이 골자다.

국내 최대 게임전시회 '지스타 2026'의 메인스폰서는 게임사가 아니다. AI 채팅앱 '크랙'을 운영하는 뤼튼테크놀로지스다. 비게임사가 지스타의 메인스폰서를 맡은 것은 행사 개최 이래 처음이다. 뤼튼은 크랙을 "게임물이 아닌 AI 대화형 콘텐츠 서비스"라고 규정한다. 앱마켓에서도 게임이 아닌 '엔터테인먼트'로 유통한다. 지스타 후원만으로 크랙을 게임이라고 할 수는 없지만, 게임이 아니라는 서비스가 국내 최대 게임행사의 얼굴이 됐다는 사실은 흐려진 경계를 보여준다. 서비스 문법도 게임과 닮았다. 크랙은 이용 행위를 '플레이'라고 표현하고 출석 보상과 배지, 이용자 랭킹을 운영한다. 대화와 이미지 생성, 고급 대화 모드에는 유료 재화 '크래커'를 쓴다. 웹에서는 크래커 1개가 1원이다. 지난해 12월에는 크래커를 걸고 확률에 따라 2~100배를 얻거나 모두 잃는 '크래커 굽기' 이벤트도 열었다. 연령 제한 없이 시작했다가 사행성을 우려한 이용자 민원이 접수되면서 2일 19시간 만에 종료됐다. 잃은 유료 크래커는 현금이 아닌 크래커로 돌려줬다.

지난 19일, 10대 사이 큰 인기를 끌고 있다는 AI 캐릭터 채팅 앱 '크랙'과 '제타'에 가입했다. 앱을 열자마자 성인 사이트에서 볼 법한 제목과 그림이 홈 화면을 가득 채웠다. 노출이 심한 옷차림의 캐릭터도 쉽게 눈에 띄었다. 계정의 생년월일은 2011년생으로 입력했다. 이날 기준 만 14~15세인 미성년자다. 두 앱은 만 14세 이상만 가입할 수 있다고 안내하지만 입력한 생년월일이 사실인지 확인하는 절차가 없어 나이를 임의로 적어도 이용이 가능했다. 앱 마켓의 문턱은 더 낮다. 크랙과 제타는 구글플레이와 애플 앱스토어에서 모두 12세 이용가로 유통된다. 초등학교 고학년 정도면 내려받을 수 있다. 제타는 일반 이용자를 위한 '세이프 모드'와 성인인증을 거쳐야 쓸 수 있는 '언리밋 모드'를 구분한다. 언리밋 모드에서는 협박·성폭행 설정까지 된다. 세이프 모드도 12세 수준에 머무르지 않는다. 세이프 모드에서 제타의 인기 캐릭터 '정예원'에게 특정 스킨십을 언급하자 AI가 대화를 막았다. 그러나 특정 단어를 피해 프롬프트를 입력하자 세이프 모드임에도 불구, 선정적인 텍스트가 나타났다.

AI 캐릭터 채팅앱에서 선정적이고 자극적인 대화가 생성된다는 민원이 계속되고 있지만 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다. 19일 방송미디어통신위원회는 머니투데이 질의에 "AI 채팅앱의 선정성·자극적 콘텐츠에 관한 민원이 지속해서 접수되고 있다"고 밝혔다. 지난해 3월 시행한 '생성형 인공지능 서비스 이용자 보호 가이드라인'의 준수 여부에 대해서는 "별도로 조사한 바 없다"고 답했다. AI 캐릭터 채팅앱은 이용자가 AI로 구현된 인물과 대화하며 이야기를 만드는 서비스다. 뤼튼테크놀로지스의 '크랙'과 스캐터랩의 '제타'가 대표적이다. 앱을 열면 '자취방에 놀러 오는 여사친', '나를 싫어하는 일진녀', '나와 아이를 갖기 위해 머리 굴리는 조직 보스 남편'처럼 선정적이거나 자극적인 설정의 캐릭터가 노출된다. 대화 흐름에 따라 성적 접촉이나 강압적인 상황도 생성된다. 정부 가이드라인은 이용자 인격권 보호와 AI 생성물 고지, 편향·차별 방지, 입력 데이터 관리, 위험관리 체계 구축, 건전한 유통·배포 등 6대 원칙을 담고 있다.