[MT리포트-AI 채팅앱 규제 사각지대]④ 크랙·제타, 모두 12세 이용가
게임은 게임위가 등급분류, 비게임 앱은 사업자 설문 토대로 앱마켓이 결정
실제 서비스보다 등급 낮아도 정부 아닌 구글·애플에 신고해야
AI 캐릭터 채팅앱 '크랙'과 '제타'는 구글플레이와 애플 앱스토어에서 모두 12세 이용가로 유통되고 있다. 초등학교 6학년 정도면 내려받을 수 있다. 만 14세 이상만 가입할 수 있다는 조건은 본인 확인이 없어 임의 조작이 가능하다. 제타에는 성인인증을 거친 이용자에게 제공하는 별도 성인용 대화 모드가 있지만, 크랙은 그마저도 없어 미성년자들이 선정적인 콘텐츠에 고스란히 노출돼있다.
12세 이용가 구역과 성인용 모드의 경계가 완벽한 것도 아니다. 제타의 성인 모드 '언리밋 모드'는 보다 노골적이지만, 미성년자용 '세이프 모드'에서도 신체를 만지는 장면 등 선정적인 대화를 유도할 수 있다. 성인용 모드를 분리했다는 사실만으로 세이프 모드의 모든 대화가 12세 수준에 머무는 것은 아닌 셈이다.
12세라는 연령등급은 누가 붙였을까. 게임은 게임물관리위원회나 자체등급분류사업자가 출시 전 연령등급을 결정한다. 크랙과 제타처럼 게임으로 분류되지 않은 앱은 국가기관이 아닌 구글과 애플 등 앱마켓의 등급분류를 받는다.
등급 산정은 개발자가 제출한 정보에서 시작한다. 구글플레이에서는 개발자가 폭력성과 선정성, 사행성 등을 묻는 설문에 답하면 국제등급분류연합(IARC) 체계에 따라 지역별 등급이 부여된다. 애플은 개발자가 산정된 결과보다 높은 연령등급을 선택하는 것도 허용한다.
구글은 앱의 콘텐츠나 기능이 바뀌면 개발자가 등급 설문을 다시 제출하도록 규정한다. 허위로 답하면 앱을 삭제하거나 정지할 수 있다. 애플도 개발자가 앱 정보를 갱신하고 새 버전을 심사받도록 한다. 결국 사업자의 신고와 앱마켓의 검토가 출시 전 등급을 결정하는 첫 관문이다.
문제는 AI 채팅앱의 콘텐츠가 고정돼 있지 않다는 점이다. 영화나 웹툰은 심사할 장면이 정해져 있지만 AI의 답변은 이용자의 입력과 대화 흐름에 따라 달라진다. 같은 캐릭터도 일상적인 이야기를 하다가 성적·폭력적인 장면을 만들 수 있다. 이용자가 자체 제작 AI 캐릭터나 상황을 올리기도 한다. 모델이나 안전장치가 업데이트되면 출력 수위도 달라진다.
다만 공개된 앱마켓 정책에는 어떤 대화를 표본으로 등급을 판단할지, 모델 변경을 콘텐츠 변경으로 보고 등급을 다시 산정할지 등에 관한 AI 채팅앱 별도 기준이 확인되지 않는다. 앱마켓의 설문식 등급분류로는 AI 생성 콘텐츠의 수위 변화를 따라가기 어려운 이유다.
정부도 등급이 적절한지 사전에 확인하지 않는다. 방송미디어통신위원회는 머니투데이에 "게임 외 앱의 연령등급은 앱마켓에서 자체 분류하고 있다"고 밝혔다. 이용자가 앱의 실제 서비스보다 등급이 낮다고 판단한 경우 정부가 아닌 구글이나 애플에 신고해야 한다는 설명이다.
독자들의 PICK!
불법정보나 청소년유해정보는 방송미디어통신심의위원회에 별도로 신고해야 한다. AI 채팅앱도 심의를 거쳐 청소년유해매체물로 결정될 수 있다. 다만 문제가 발생하고 신고와 심의가 이뤄진 뒤에야 작동하는 사후 절차다.
AI 채팅앱의 선정성과 자극적인 콘텐츠에 관한 민원은 지속해서 들어오고 있다. 그럼에도 앱이 출시될 때 생성 가능한 대화의 수위를 국가기관이 살펴보거나 12세 등급이 적절한지 검증하는 과정은 없다. '12세 이용가' 등급이 실제 AI의 대화 수준에 적합한지 확인할 책임은 앱마켓과 AI 채팅 사업자에게 맡겨진 상태다.
