[MT리포트-AI 채팅앱 규제 사각지대]①정부에 선정성 민원 지속돼…규제 공백 속 '연일 성장 중'
청소년 무방비 노출, 보호 정책은 이제야 '검토 단계'
'AI 캐릭터 채팅 앱'이 선정적인 콘텐츠를 쏟아내고 있지만, 정부 관련 조사는 아직 시행된 적 없는 것으로 확인됐다. 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다.
21일 방송미디어통신위원회는 머니투데이의 질의에 대해 "AI 캐릭터 채팅 앱의 선정성 및 자극적인 콘텐츠에 관한 민원은 지속 접수 중"이라면서도 "'생성형 인공지능 이용자 보호 가이드라인' 준수 여부는 별도 조사한 적 없다"고 밝혔다.
AI 캐릭터 채팅 앱은 AI로 구현된 캐릭터와 채팅을 나누는 서비스다. 뤼튼테크놀로지스의 '크랙', 스캐터랩의 '제타' 등이 대표적이다. △자취방에 놀러 오는 여사친 △나를 싫어하는 일진녀 △아이를 갖기 위해 머리 굴리는 조직 보스 남편 등 자극적 콘셉트의 캐릭터와 대화를 나눌 수 있다.
'생성형 인공지능 서비스 이용자 보호 가이드라인'은 정부가 지난해 3월부터 시행 중인 이용자 보호 체계다. △이용자 인격권 보호 △AI 생성 여부 고지 △편향·차별 필터링 등 다양성 존중 △입력 데이터 수집·활용 과정 관리 △책임 범위 정의·위험관리 체계 마련 △건전한 유통·배포 노력 등 6대 실행 원칙이 골자다.
현재 서비스 중인 대다수 AI 채팅앱은 다양성 존중, 위험관리 체계 마련, 건전한 유통 및 배포 노력 등에서 결점이 있다. 성차별은 물론 성희롱·협박·성폭행 등 성범죄 장면이 쉽게 튀어나온다. 성인 인증이 없거나 최근에야 마련되는 등 연령 확인 절차도 미비하다.
그런데도 정부가 손을 놓고 있는 건 법적 강제력이 없어서다. 방미통위 측은 "가이드라인은 법적 구속력이 없고 자율적 조치를 권고하는 수준에 그치다 보니 준수 여부를 조사하지 않은 것"이라고 설명했다. 전기통신사업법상 부가통신역무, 정보통신망법상 정보통신서비스, 청소년보호법상 매체물, 인공지능기본법상 인공지능 제품·서비스에 모두 해당하지만 정작 어떤 법도 명확히 규제하지 못하는 실정이다.
청소년 보호 체계도 부족하다. 제타와 크랙은 '청소년이 유해 정보에 노출되지 않도록 노력하겠다'는 식의 원론적인 청소년 보호 정책을 운영 중이다. 분량도 두 문단 남짓이다.
과금 시스템도 호주머니를 털기 좋은 구조다. 크랙과 제타의 최대 단건 결제 금액은 각각 12만6000원, 14만원이다. 총액 제한은 없다. 방미통위 측은 "현행 정보통신망법은 청소년 과금 제한을 규정하지 않는다"며 "각사 운영 정책은 미성년자가 과금 시 부모 동의를 받도록 규정한다"고 설명했다.
독자들의 PICK!
방미통위는 AI 채팅앱이 정보통신망법상 '청소년 보호책임자 지정 의무 사업자'에 해당하는지를 검토 중이다. 매출액 10억원 이상 또는 일평균 이용자 수 10만명 이상인 정보통신서비스제공자가 요건이다. 방미통위 관계자는 "의무 사업자에 지정되면 선정적인 대화 가능 여부, 연령 확인 절차 등 청소년 보호 업무 실태를 점검할 계획"이라고 설명했다.
문제는 아직 검토 단계에 불과하다는 점이다. AI 채팅앱은 공백을 틈타 급속도로 몸집을 불리는 중이다.
크랙과 제타는 지난 17일 기준 각각 구글플레이 비게임 앱 매출 순위 17위와 19위에 올랐다. 앱 분석 서비스 와이즈앱·리테일에 따르면 지난달 제타 총실행 횟수는 20억 800만회로 챗GPT(18억 1700만회)를 꺾고 AI 챗봇 앱 1위에 올랐다. 크랙은 1억2200만회로 4위였다.
