머니투데이

국내 최대 게임전시회 '지스타 2026'의 메인스폰서는 게임사가 아니다. AI 채팅앱 '크랙'을 운영하는 뤼튼테크놀로지스다. 비게임사가 지스타의 메인스폰서를 맡은 것은 행사 개최 이래 처음이다. 뤼튼은 크랙을 "게임물이 아닌 AI 대화형 콘텐츠 서비스"라고 규정한다. 앱마켓에서도 게임이 아닌 '엔터테인먼트'로 유통한다. 지스타 후원만으로 크랙을 게임이라고 할 수는 없지만, 게임이 아니라는 서비스가 국내 최대 게임행사의 얼굴이 됐다는 사실은 흐려진 경계를 보여준다. 서비스 문법도 게임과 닮았다. 크랙은 이용 행위를 '플레이'라고 표현하고 출석 보상과 배지, 이용자 랭킹을 운영한다. 대화와 이미지 생성, 고급 대화 모드에는 유료 재화 '크래커'를 쓴다. 웹에서는 크래커 1개가 1원이다. 지난해 12월에는 크래커를 걸고 확률에 따라 2~100배를 얻거나 모두 잃는 '크래커 굽기' 이벤트도 열었다. 연령 제한 없이 시작했다가 사행성을 우려한 이용자 민원이 접수되면서 2일 19시간 만에 종료됐다. 잃은 유료 크래커는 현금이 아닌 크래커로 돌려줬다.

AI 캐릭터 채팅앱에서 선정적이고 자극적인 대화가 생성된다는 민원이 계속되고 있지만 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다. 19일 방송미디어통신위원회는 머니투데이 질의에 "AI 채팅앱의 선정성·자극적 콘텐츠에 관한 민원이 지속해서 접수되고 있다"고 밝혔다. 지난해 3월 시행한 '생성형 인공지능 서비스 이용자 보호 가이드라인'의 준수 여부에 대해서는 "별도로 조사한 바 없다"고 답했다. AI 캐릭터 채팅앱은 이용자가 AI로 구현된 인물과 대화하며 이야기를 만드는 서비스다. 뤼튼테크놀로지스의 '크랙'과 스캐터랩의 '제타'가 대표적이다. 앱을 열면 '자취방에 놀러 오는 여사친', '나를 싫어하는 일진녀', '나와 아이를 갖기 위해 머리 굴리는 조직 보스 남편'처럼 선정적이거나 자극적인 설정의 캐릭터가 노출된다. 대화 흐름에 따라 성적 접촉이나 강압적인 상황도 생성된다. 정부 가이드라인은 이용자 인격권 보호와 AI 생성물 고지, 편향·차별 방지, 입력 데이터 관리, 위험관리 체계 구축, 건전한 유통·배포 등 6대 원칙을 담고 있다.

지난 19일, 10대 사이 큰 인기를 끌고 있다는 AI 캐릭터 채팅 앱 '크랙'과 '제타'에 가입했다. 앱을 열자마자 성인 사이트에서 볼 법한 제목과 그림이 홈 화면을 가득 채웠다. 노출이 심한 옷차림의 캐릭터도 쉽게 눈에 띄었다. 계정의 생년월일은 2011년생으로 입력했다. 이날 기준 만 14~15세인 미성년자다. 두 앱은 만 14세 이상만 가입할 수 있다고 안내하지만 입력한 생년월일이 사실인지 확인하는 절차가 없어 나이를 임의로 적어도 이용이 가능했다. 앱 마켓의 문턱은 더 낮다. 크랙과 제타는 구글플레이와 애플 앱스토어에서 모두 12세 이용가로 유통된다. 초등학교 고학년 정도면 내려받을 수 있다. 제타는 일반 이용자를 위한 '세이프 모드'와 성인인증을 거쳐야 쓸 수 있는 '언리밋 모드'를 구분한다. 언리밋 모드에서는 협박·성폭행 설정까지 된다. 세이프 모드도 12세 수준에 머무르지 않는다. 세이프 모드에서 제타의 인기 캐릭터 '정예원'에게 특정 스킨십을 언급하자 AI가 대화를 막았다. 그러나 특정 단어를 피해 프롬프트를 입력하자 세이프 모드임에도 불구, 선정적인 텍스트가 나타났다.