머니투데이

경기 남양주시가 AI 행정시스템 고도화에 나서 AI 행정시스템 'NAP'(냅)을 업무 도구 개발과 부서 간 협업까지 지원하는 맞춤형 AI 행정 플랫폼으로 운영하고 있다고 21일 밝혔다. 'NAP'은 문서 작성과 자료 검색 등 기본적인 AI 업무 지원 기능과 함께 행정 현장에서 활용할 수 있는 다양한 도구를 제공한다. 현재 가계도 그리기, 캐릭터 생성기, 법률챗봇, 회의실 좌석배치도 등의 기능이 탑재돼 있다. 시는 현업 부서의 업무 방식과 사용 환경을 분석해 필요한 기능을 직접 발굴하고 개발해 NAP에 추가하고 있다. 직원들이 별도의 프로그램을 찾거나 복잡한 절차를 거치지 않고 행정업무에 필요한 기능을 한 곳에서 활용할 수 있도록 하기 위해서다. 부서 간 협업을 지원하는 기능도 마련했다. 직원들은 NAP에서 협업 프로젝트를 생성하고 참여자를 초대할 수 있으며, 프로젝트 안에서 문서와 자료를 공유하고 채팅을 통해 의견을 주고받을 수 있다. 이를 통해 공동 업무나 부서 간 협의가 필요한 과제의 관련 정보를 한 곳에서 관리할 수 있어 자료가 여러 곳에 분산되는 문제를 줄이고 업무 연속성을 높일 수 있을 것으로 기대한다.

#메타버스 광풍이 불던 2022년, 정부는 메타버스 서비스와 게임의 경계를 정하겠다고 나섰다. 메타버스 서비스 전체를 게임으로 볼지, 그 안에 들어 있는 게임 콘텐츠만 따로 심사할지를 두고 논쟁이 벌어졌다. 정부는 가이드라인을 만들겠다고 했지만 명확한 결론을 내리지 못했다. 논쟁의 중심에 있던 네이버제트의 '제페토'는 이용자가 가상공간에서 다른 사람을 만나고 아바타와 콘텐츠를 만드는 서비스다. 그 안에는 단순한 모임 공간뿐 아니라 총싸움, 역할수행게임 등 게임 콘텐츠도 있었다. 2022년 국정감사에서 네이버제트는 제페토에 등록된 약 4만개 콘텐츠 중 게임 요소가 있는 콘텐츠가 52개라고 밝혔다. 이 52개가 실제로 등급분류를 받지는 않았다. 정부는 제페토 같은 '커뮤니티형 메타버스' 전체는 게임물 등급분류 대상에서 제외하고, 내부에 게임사가 만든 게임물이 있다면 해당 콘텐츠만 별도로 등급분류하는 방안을 논의했다. 하지만 부처 간 이견과 업계 반발이 이어졌다. 정부는 2024년에도 메타버스와 게임을 구분할 가이드라인을 마련 중이라고 설명했다.

AI 캐릭터 채팅앱 '크랙'과 '제타'는 구글플레이와 애플 앱스토어에서 모두 12세 이용가로 유통되고 있다. 초등학교 6학년 정도면 내려받을 수 있다. 만 14세 이상만 가입할 수 있다는 조건은 본인 확인이 없어 임의 조작이 가능하다. 제타에는 성인인증을 거친 이용자에게 제공하는 별도 성인용 대화 모드가 있지만, 크랙은 그마저도 없어 미성년자들이 선정적인 콘텐츠에 고스란히 노출돼있다. 12세 이용가 구역과 성인용 모드의 경계가 완벽한 것도 아니다. 제타의 성인 모드 '언리밋 모드'는 보다 노골적이지만, 미성년자용 '세이프 모드'에서도 신체를 만지는 장면 등 선정적인 대화를 유도할 수 있다. 성인용 모드를 분리했다는 사실만으로 세이프 모드의 모든 대화가 12세 수준에 머무는 것은 아닌 셈이다. 12세라는 연령등급은 누가 붙였을까. 게임은 게임물관리위원회나 자체등급분류사업자가 출시 전 연령등급을 결정한다. 크랙과 제타처럼 게임으로 분류되지 않은 앱은 국가기관이 아닌 구글과 애플 등 앱마켓의 등급분류를 받는다.

국내 최대 게임전시회 '지스타 2026'의 간판은 게임사가 아니다. AI 채팅앱 '크랙'을 운영하는 뤼튼테크놀로지스다. 비게임사가 지스타 메인스폰서를 맡은 것은 행사 개최 이래 처음이다. 그동안 메인스폰서는 넥슨과 NC, 위메이드, 카카오게임즈, 넷마블 등 주요 게임사들이 맡아왔다. 지스타조직위원회는 "산업을 관통하는 가장 중요한 두 키워드는 AI와 내러티브"라며 크랙을 최적의 파트너로 선정했다고 설명했다. 뤼튼은 크랙의 성격을 묻자 "게임물이 아닌 AI 대화형 콘텐츠 서비스"라고 답했다. 크랙은 앱마켓에서도 게임이 아닌 '엔터테인먼트'로 분류돼 있다. 크랙에서는 대화와 이미지 생성 등에 '크래커'라는 유료 재화를 사용한다. 웹에서는 크래커 1개가 1원이다. 뤼튼은 크래커가 게임 아이템이 아니라 플랫폼 기능을 이용하기 위한 서비스 내 재화라는 입장이다. 지스타 후원만으로 크랙을 게임물이라고 할 수는 없다. 다만 회사가 게임이 아니라고 선을 그은 서비스가 시장에서는 국내 최대 게임행사의 중심에 섰다는 점은 AI 채팅앱의 모호한 위치를 보여준다.

AI 캐릭터 채팅 앱 '크랙'과 '제타'를 열자 성인 사이트 게시글처럼 보이는 제목이 화면에 즐비했다. 2011년생, 16세 나이로 조작해 거짓 로그인해도 마찬가지였다. 썸네일에는 노출이 심한 의상을 입은 그림이 많았다. 나이를 어리게 조작할 수 있다는 건 반대로 많게도 가능하다는 뜻이다. 두 앱은 만 14세 이상만 가입할 수 있다는 규정이 있지만 연령 확인 절차가 없어 유명무실했다. 두 앱은 양대 앱 마켓(구글플레이·앱스토어)에서 12세 이용가다. 즉, 초등학생만 돼도 앱을 내려받고 이용할 수 있는 셈이다. ━12세 이용가인데…제한없는 스킨십 묘사, AI로 생성━ 제타는 성인용 '언리밋 모드'를 따로 뒀다. 성인인증을 거치면 풀리는데, 19금 소설에나 나올법한 문구가 실시간 생성된다. 협박, 성범죄 장면도 묘사한다. 그렇다고 미성년자용 '세이프 모드'가 12세 수준에 맞춰져 있는 것도 아니다. 차단 장치를 피해 에둘러 입력하면 짙은 스킨십을 하는 장면을 그려낸 글이 어렵지 않게 생성된다. 콘텐츠 자체의 설정도 문제가 있다.

'AI 캐릭터 채팅 앱'이 선정적인 콘텐츠를 쏟아내고 있지만, 정부 관련 조사는 아직 시행된 적 없는 것으로 확인됐다. 정부가 관련 가이드라인 준수 여부를 조사한 사례는 한 건도 없는 것으로 확인됐다. 청소년 보호책임자 지정 여부도 이제야 검토에 들어갔다. 21일 방송미디어통신위원회는 머니투데이의 질의에 대해 "AI 캐릭터 채팅 앱의 선정성 및 자극적인 콘텐츠에 관한 민원은 지속 접수 중"이라면서도 "'생성형 인공지능 이용자 보호 가이드라인' 준수 여부는 별도 조사한 적 없다"고 밝혔다. AI 캐릭터 채팅 앱은 AI로 구현된 캐릭터와 채팅을 나누는 서비스다. 뤼튼테크놀로지스의 '크랙', 스캐터랩의 '제타' 등이 대표적이다. △자취방에 놀러 오는 여사친 △나를 싫어하는 일진녀 △아이를 갖기 위해 머리 굴리는 조직 보스 남편 등 자극적 콘셉트의 캐릭터와 대화를 나눌 수 있다. '생성형 인공지능 서비스 이용자 보호 가이드라인'은 정부가 지난해 3월부터 시행 중인 이용자 보호 체계다. △이용자 인격권 보호 △AI 생성 여부 고지 △편향·차별 필터링 등 다양성 존중 △입력 데이터 수집·활용 과정 관리 △책임 범위 정의·위험관리 체계 마련 △건전한 유통·배포 노력 등 6대 실행 원칙이 골자다.