머니투데이

#메타버스 광풍이 불던 2022년, 정부는 메타버스 서비스와 게임의 경계를 정하겠다고 나섰다. 메타버스 서비스 전체를 게임으로 볼지, 그 안에 들어 있는 게임 콘텐츠만 따로 심사할지를 두고 논쟁이 벌어졌다. 정부는 가이드라인을 만들겠다고 했지만 명확한 결론을 내리지 못했다. 논쟁의 중심에 있던 네이버제트의 '제페토'는 이용자가 가상공간에서 다른 사람을 만나고 아바타와 콘텐츠를 만드는 서비스다. 그 안에는 단순한 모임 공간뿐 아니라 총싸움, 역할수행게임 등 게임 콘텐츠도 있었다. 2022년 국정감사에서 네이버제트는 제페토에 등록된 약 4만개 콘텐츠 중 게임 요소가 있는 콘텐츠가 52개라고 밝혔다. 이 52개가 실제로 등급분류를 받지는 않았다. 정부는 제페토 같은 '커뮤니티형 메타버스' 전체는 게임물 등급분류 대상에서 제외하고, 내부에 게임사가 만든 게임물이 있다면 해당 콘텐츠만 별도로 등급분류하는 방안을 논의했다. 하지만 부처 간 이견과 업계 반발이 이어졌다. 정부는 2024년에도 메타버스와 게임을 구분할 가이드라인을 마련 중이라고 설명했다.

AI 캐릭터 채팅앱 '크랙'과 '제타'는 구글플레이와 애플 앱스토어에서 모두 12세 이용가로 유통되고 있다. 초등학교 6학년 정도면 내려받을 수 있다. 만 14세 이상만 가입할 수 있다는 조건은 본인 확인이 없어 임의 조작이 가능하다. 제타에는 성인인증을 거친 이용자에게 제공하는 별도 성인용 대화 모드가 있지만, 크랙은 그마저도 없어 미성년자들이 선정적인 콘텐츠에 고스란히 노출돼있다. 12세 이용가 구역과 성인용 모드의 경계가 완벽한 것도 아니다. 제타의 성인 모드 '언리밋 모드'는 보다 노골적이지만, 미성년자용 '세이프 모드'에서도 신체를 만지는 장면 등 선정적인 대화를 유도할 수 있다. 성인용 모드를 분리했다는 사실만으로 세이프 모드의 모든 대화가 12세 수준에 머무는 것은 아닌 셈이다. 12세라는 연령등급은 누가 붙였을까. 게임은 게임물관리위원회나 자체등급분류사업자가 출시 전 연령등급을 결정한다. 크랙과 제타처럼 게임으로 분류되지 않은 앱은 국가기관이 아닌 구글과 애플 등 앱마켓의 등급분류를 받는다.

국내 최대 게임전시회 '지스타 2026'의 간판은 게임사가 아니다. AI 채팅앱 '크랙'을 운영하는 뤼튼테크놀로지스다. 비게임사가 지스타 메인스폰서를 맡은 것은 행사 개최 이래 처음이다. 그동안 메인스폰서는 넥슨과 NC, 위메이드, 카카오게임즈, 넷마블 등 주요 게임사들이 맡아왔다. 지스타조직위원회는 "산업을 관통하는 가장 중요한 두 키워드는 AI와 내러티브"라며 크랙을 최적의 파트너로 선정했다고 설명했다. 뤼튼은 크랙의 성격을 묻자 "게임물이 아닌 AI 대화형 콘텐츠 서비스"라고 답했다. 크랙은 앱마켓에서도 게임이 아닌 '엔터테인먼트'로 분류돼 있다. 크랙에서는 대화와 이미지 생성 등에 '크래커'라는 유료 재화를 사용한다. 웹에서는 크래커 1개가 1원이다. 뤼튼은 크래커가 게임 아이템이 아니라 플랫폼 기능을 이용하기 위한 서비스 내 재화라는 입장이다. 지스타 후원만으로 크랙을 게임물이라고 할 수는 없다. 다만 회사가 게임이 아니라고 선을 그은 서비스가 시장에서는 국내 최대 게임행사의 중심에 섰다는 점은 AI 채팅앱의 모호한 위치를 보여준다.

AI 캐릭터 채팅 앱 '크랙'과 '제타'를 열자 성인 사이트 게시글처럼 보이는 제목이 화면에 즐비했다. 2011년생, 16세 나이로 조작해 거짓 로그인해도 마찬가지였다. 썸네일에는 노출이 심한 의상을 입은 그림이 많았다. 나이를 어리게 조작할 수 있다는 건 반대로 많게도 가능하다는 뜻이다. 두 앱은 만 14세 이상만 가입할 수 있다는 규정이 있지만 연령 확인 절차가 없어 유명무실했다. 두 앱은 양대 앱 마켓(구글플레이·앱스토어)에서 12세 이용가다. 즉, 초등학생만 돼도 앱을 내려받고 이용할 수 있는 셈이다. ━12세 이용가인데…제한없는 스킨십 묘사, AI로 생성━ 제타는 성인용 '언리밋 모드'를 따로 뒀다. 성인인증을 거치면 풀리는데, 19금 소설에나 나올법한 문구가 실시간 생성된다. 협박, 성범죄 장면도 묘사한다. 그렇다고 미성년자용 '세이프 모드'가 12세 수준에 맞춰져 있는 것도 아니다. 차단 장치를 피해 에둘러 입력하면 짙은 스킨십을 하는 장면을 그려낸 글이 어렵지 않게 생성된다. 콘텐츠 자체의 설정도 문제가 있다.

'AI 캐릭터 채팅 앱'이 선정적인 콘텐츠를 쏟아내고 있지만, 정부 관련 조사는 아직 시행된 적 없는 것으로 확인됐다. 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다. 21일 방송미디어통신위원회는 머니투데이의 질의에 대해 "AI 캐릭터 채팅 앱의 선정성 및 자극적인 콘텐츠에 관한 민원은 지속 접수 중"이라면서도 "'생성형 인공지능 이용자 보호 가이드라인' 준수 여부는 별도 조사한 적 없다"고 밝혔다. AI 캐릭터 채팅 앱은 AI로 구현된 캐릭터와 채팅을 나누는 서비스다. 뤼튼테크놀로지스의 '크랙', 스캐터랩의 '제타' 등이 대표적이다. △자취방에 놀러 오는 여사친 △나를 싫어하는 일진녀 △아이를 갖기 위해 머리 굴리는 조직 보스 남편 등 자극적 콘셉트의 캐릭터와 대화를 나눌 수 있다. '생성형 인공지능 서비스 이용자 보호 가이드라인'은 정부가 지난해 3월부터 시행 중인 이용자 보호 체계다. △이용자 인격권 보호 △AI 생성 여부 고지 △편향·차별 필터링 등 다양성 존중 △입력 데이터 수집·활용 과정 관리 △책임 범위 정의·위험관리 체계 마련 △건전한 유통·배포 노력 등 6대 실행 원칙이 골자다.

국내 최대 게임전시회 '지스타 2026'의 메인스폰서는 게임사가 아니다. AI 채팅앱 '크랙'을 운영하는 뤼튼테크놀로지스다. 비게임사가 지스타의 메인스폰서를 맡은 것은 행사 개최 이래 처음이다. 뤼튼은 크랙을 "게임물이 아닌 AI 대화형 콘텐츠 서비스"라고 규정한다. 앱마켓에서도 게임이 아닌 '엔터테인먼트'로 유통한다. 지스타 후원만으로 크랙을 게임이라고 할 수는 없지만, 게임이 아니라는 서비스가 국내 최대 게임행사의 얼굴이 됐다는 사실은 흐려진 경계를 보여준다. 서비스 문법도 게임과 닮았다. 크랙은 이용 행위를 '플레이'라고 표현하고 출석 보상과 배지, 이용자 랭킹을 운영한다. 대화와 이미지 생성, 고급 대화 모드에는 유료 재화 '크래커'를 쓴다. 웹에서는 크래커 1개가 1원이다. 지난해 12월에는 크래커를 걸고 확률에 따라 2~100배를 얻거나 모두 잃는 '크래커 굽기' 이벤트도 열었다. 연령 제한 없이 시작했다가 사행성을 우려한 이용자 민원이 접수되면서 2일 19시간 만에 종료됐다. 잃은 유료 크래커는 현금이 아닌 크래커로 돌려줬다.

지난 19일, 10대 사이 큰 인기를 끌고 있다는 AI 캐릭터 채팅 앱 '크랙'과 '제타'에 가입했다. 앱을 열자마자 성인 사이트에서 볼 법한 제목과 그림이 홈 화면을 가득 채웠다. 노출이 심한 옷차림의 캐릭터도 쉽게 눈에 띄었다. 계정의 생년월일은 2011년생으로 입력했다. 이날 기준 만 14~15세인 미성년자다. 두 앱은 만 14세 이상만 가입할 수 있다고 안내하지만 입력한 생년월일이 사실인지 확인하는 절차가 없어 나이를 임의로 적어도 이용이 가능했다. 앱 마켓의 문턱은 더 낮다. 크랙과 제타는 구글플레이와 애플 앱스토어에서 모두 12세 이용가로 유통된다. 초등학교 고학년 정도면 내려받을 수 있다. 제타는 일반 이용자를 위한 '세이프 모드'와 성인인증을 거쳐야 쓸 수 있는 '언리밋 모드'를 구분한다. 언리밋 모드에서는 협박·성폭행 설정까지 된다. 세이프 모드도 12세 수준에 머무르지 않는다. 세이프 모드에서 제타의 인기 캐릭터 '정예원'에게 특정 스킨십을 언급하자 AI가 대화를 막았다. 그러나 특정 단어를 피해 프롬프트를 입력하자 세이프 모드임에도 불구, 선정적인 텍스트가 나타났다.

AI 캐릭터 채팅앱에서 선정적이고 자극적인 대화가 생성된다는 민원이 계속되고 있지만 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다. 19일 방송미디어통신위원회는 머니투데이 질의에 "AI 채팅앱의 선정성·자극적 콘텐츠에 관한 민원이 지속해서 접수되고 있다"고 밝혔다. 지난해 3월 시행한 '생성형 인공지능 서비스 이용자 보호 가이드라인'의 준수 여부에 대해서는 "별도로 조사한 바 없다"고 답했다. AI 캐릭터 채팅앱은 이용자가 AI로 구현된 인물과 대화하며 이야기를 만드는 서비스다. 뤼튼테크놀로지스의 '크랙'과 스캐터랩의 '제타'가 대표적이다. 앱을 열면 '자취방에 놀러 오는 여사친', '나를 싫어하는 일진녀', '나와 아이를 갖기 위해 머리 굴리는 조직 보스 남편'처럼 선정적이거나 자극적인 설정의 캐릭터가 노출된다. 대화 흐름에 따라 성적 접촉이나 강압적인 상황도 생성된다. 정부 가이드라인은 이용자 인격권 보호와 AI 생성물 고지, 편향·차별 방지, 입력 데이터 관리, 위험관리 체계 구축, 건전한 유통·배포 등 6대 원칙을 담고 있다.

라온시큐어가 업스테이지가 주도하는 '독자 AI 파운데이션 모델 프로젝트(독파모)' 컨소시엄에 보안 분야 파트너로 참여한다. 라온시큐어는 자사의 보안·인증 기술과 업스테이지의 거대언어모델(LLM) '솔라'를 결합해 보안 업무 자동화와 자율형 AI 보안 기술을 실증한다고 19일 밝혔다. 업스테이지 컨소시엄은 지난 18일 과학기술정보통신부가 진행한 독파모 2차 단계평가를 통과해 최종 3차 단계에 진출했다. 연내 예정된 최종 정예팀 선정을 목표로 솔라의 산업 현장 실증과 활용 사례 확대에 나설 예정이다. 라온시큐어는 국가 지정 정보보호 전문서비스 기업으로 쌓은 침해사고 대응 경험과 화이트해커 컨설팅 역량, AI 보안 기술을 제공한다. 양사는 이를 솔라와 결합해 보안 전문가의 반복 업무를 자동화하고 AI가 사이버 위협을 탐지·분석·대응하는 기술의 현장 적용 가능성을 검증한다. 공공과 금융, 국방 등 민감한 정보를 다루는 분야에서 국산 LLM과 국산 보안 기술을 함께 활용하는 체계도 구축한다. 외산 AI 모델이나 보안 솔루션에 대한 의존도를 낮춰 'AI 보안 주권'을 확보하겠다는 구상이다.

각국 정부와 글로벌 금융기관, 디지털자산·AI 기업 관계자들이 오는 9월 서울에서 열리는 '코리아 블록체인 위크 2026(KBW2026)'에 참석한다. KBW 주최사 팩트블록은 오는 9월 30일부터 10월 1일까지 서울 광진구 워커힐 호텔앤리조트에서 열리는 'KBW2026 with Upbit' 메인 콘퍼런스의 3차 연사 명단을 19일 공개했다. 정부·정책 분야에서는 데이비드 버트 버뮤다 총리가 참석한다. 버뮤다는 디지털자산과 스테이블코인 등 새로운 금융기술을 국가 전략에 적극적으로 도입한 국가로 꼽힌다. 미국에서는 캐롤라인 팜 전 미국 상품선물거래위원회(CFTC) 위원장 직무대행과 크리스 랜드 미 상원 은행위원회 디지털자산 소위원회 수석 정책담당자가 연사로 나선다. 팜 전 위원장 직무대행은 현재 가상자산 결제기업 문페이의 최고법률책임자 겸 최고관리책임자를 맡고 있다. 글로벌 금융·투자업계에서는 체탄 카카니스 프랭클린템플턴 수석부사장과 엘라 장 YZi Labs 매니징 파트너가 참여한다. YZi Labs는 100억달러 이상을 운용하며 웹3와 AI, 바이오테크 분야 300여개 프로젝트에 투자했다.

챗GPT 운영사 오픈AI가 청소년 이용자에게 학습과 안전 기능을 기본 적용하는 '청소년을 위한 챗GPT'를 출시한다고 19일 밝혔다. 챗GPT가 이용자를 18세 미만으로 추정하거나 이용자가 자신의 나이를 13~17세라고 밝히면 청소년용 환경으로 자동 전환된다. 청소년용 챗GPT는 과제의 정답을 바로 제공하기보다 이용자가 풀이 과정에 참여하도록 설계됐다. 이용자가 답만 요구하면 '학습 모드'로 유도해 안내 질문과 단계별 풀이, 이해도 확인 등을 제공한다. 과제를 건너뛰려는 이용자에게 풀이 과정을 안내하는 '책임 있는 과제 알림'과 퀴즈, 학습 시각화 기능도 도입한다. 청소년이나 부모가 지정한 시간에 학습 모드를 자동으로 켜는 '학습 시간' 기능도 제공한다. 안전장치도 강화했다. 자해와 폭력, 섭식장애, 위험 행동, 노골적인 성적·폭력적 콘텐츠 등 청소년의 발달 단계에 부적절한 답변이 노출될 가능성을 줄였다. 오픈AI가 발달과학 연구와 전문가 의견을 반영해 마련한 '18세 미만 이용자 원칙'을 적용했다.

AI 챗봇 답변에 내 이름과 전화번호가 그대로 나온 경우 지워달라고 요구하면 AI 개발 기업은 어디까지 해야 할까. 데이터만 빼면 되는지, 모델을 다시 학습시켜야 하는지 기준이 명확하지 않았다. 송경희 개인정보보호위원회 위원장은 개인정보 삭제권은 보장하되 특정 기술을 의무화하기보다 기술적 특성과 제약, 비례성을 고려해 충분한 노력을 기울였는지 살펴봐야 한다는 입장을 밝혔다. 송 위원장은 "개인정보가 학습에 사용됐는지 인지할 수 있도록 처리방침을 안내하고 권리행사를 위한 창구를 마련해야 한다"며 “요청이 접수되면 우선 해당 정보가 답변에 나오지 않도록 걸러내고 모델을 부분적으로 손본 뒤 필요하면 재학습을 검토해야 한다"고 설명했다. 오는 9월11일부터 개인정보 보호에 사전 예방투자를 많이 한 기업은 사고가 발생하더라도 과징금을 최대 40% 감경한다. 반대로 중대·반복 사고에는 매출액의 최대 10%까지 징벌적 과징금을 부과한다. 공익적·사회적 필요성이 인정되는 경우 AI 개발에 원본 개인정보를 활용할 수 있는 특례도 추진한다.