[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
AI(인공지능) 서비스 플랫폼 기업 뤼튼테크놀로지스가 AI 엔터테인먼트 콘텐츠 플랫폼 '크랙(Crack)'의 청소년 보호 정책 강화 계획을 발표했다고 8일 밝혔다.
2021년 4월 설립된 뤼튼테크놀로지스는 크랙과 함께 범용 AI 서비스 '뤼튼', 일본 시장을 겨냥한 '캬라푸', 북미에선 'OOC(Out of Character)'라는 이름으로 콘텐츠 플랫폼을 운영하고 있다.
크랙은 AI 캐릭터와 대화하며 콘텐츠를 즐기는 서비스로 이용자의 하루 평균 체류 시간이 2시간을 넘어선 가운데, 엔터테인먼트 앱으로 유통되면서 게임물 여부와 연령등급 심의를 둘러싼 논의가 이어져 왔다.
이번 계획의 핵심은 청소년의 일일 이용 시간과 월 결제액 상한 설정이다. AI 대화와 청소년 보호에 대한 사회적 관심이 높아짐에 따라 마련됐다.
청소년 하루 이용 시간은 국내외 사례 검토와 전문가 자문을 거쳐 최대 3시간으로 설정했다. 청소년이 하루 3시간 이상 서비스를 이용하려면 보호자 인증 및 동의 절차를 필수로 거쳐야 한다.
지난해 과학기술정보통신부의 '인터넷 이용 실태 조사'에 따르면 10대 청소년의 일주일 평균 인터넷 이용시간은 약 27시간으로 조사된 바 있다.
청소년 월 결제액에는 10만원의 상한을 적용했다. 상한을 초과하는 결제도 보호자 인증 및 동의 절차를 거쳐야 한다.
크랙은 현재 시행 중인 △콘텐츠 생성 정책 및 연령 등급 관리 △작품 검수 시스템 △검색·추천 제한 △신고·차단 기능 △위반 계정 제재 등 청소년 보호 정책 전반도 최신 이용 패턴을 분석해 수정·보완한다.
안전한 대화를 유도하기 위한 추가 필터와 안전 시스템 프롬프트 강화 등 세이프티 기술 부문도 계속 고도화해 나갈 방침이다.
독자들의 PICK!
연령 인증 방안도 국내외 기술을 다각도로 검토하고 있다. 크랙은 현재 국가 지정 본인 확인 기관인 통신사가 발급하는 국민 범용 인증서 '패스(PASS)'로 성인과 청소년을 구분하고 있으며, 추가 인증 수단을 포함해 정확성과 안전성 검증이 가능한 방안을 찾고 있다.
뤼튼테크놀로지스는 올 연말까지 정책 시행을 위한 제도적·기술적 검토와 시스템 개편 작업을 마치고 내년 초부터 본격 적용할 계획이다.
이동재 뤼튼테크놀로지스 CPO(최고제품책임자)는 "모두에게 안전하고 건강한 AI 서비스를 제공할 사회적 책임감을 무겁게 인식한다"며 "청소년 이용자의 안전을 최우선 고려하면서 창의력을 함께 펼칠 수 있는 서비스를 만들기 위해 최선의 노력을 기울여 나가겠다"고 했다.
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']
