생성형 AI(인공지능)가 청소년의 학습과 일상에 빠르게 스며들면서 유해 콘텐츠 노출과 의존성 심화에 대한 우려도 커진다. 하지만 청소년의 AI 이용 자체를 막기보다 연령과 발달 단계에 맞는 안전장치를 마련해야 한다는 목소리가 나온다. 해외 규제를 그대로 도입하기보다 국내 청소년의 이용 실태를 연구한 뒤 유연한 보호 기준을 마련해야 한다는 지적이다.
18일 관련 업계에 따르면 미국과 유럽에서는 청소년의 AI 이용에 따른 위험을 줄이기 위한 보호장치 마련이 본격화하고 있다. 미국 캘리포니아주는 미성년자가 이용하는 AI 동반자 챗봇에 자살·자해 대응 절차를 마련하도록 했다. 상대가 사람이 아닌 AI라는 사실을 알리고 3시간마다 휴식을 권고하는 알림도 제공해야 한다. EU(유럽연합)도 AI법을 통해 아동 등 취약계층의 특정 행동을 유도하고 심각한 피해를 줄 수 있는 AI를 금지한다.
글로벌 AI 기업들도 청소년 보호장치를 강화중이다. 오픈AI는 챗GPT의 모델 행동 기준인 '모델 사양'에 13~17세를 위한 'U18 원칙'을 마련했다. △자해·자살 △성적·로맨틱 역할극 △위험한 활동 등 고위험 영역에는 강화된 보호조치를 적용한다. 이용자가 만 18세 미만일 가능성을 판단해 청소년용 환경을 적용하는 연령 예측 기능도 도입한다.
메타는 청소년이 메타 AI와 자살·자해 관련 대화를 하면 감독 중인 부모에게 알리는 기능을 도입했다. 구글도 '패밀리 링크'를 통해 부모가 자녀의 제미나이 이용을 관리하도록 하고 미성년자에게 별도의 콘텐츠 보호장치를 적용한다.
국내에서는 카카오가 자체 AI 안전 모델 '카나나 세이프가드'를 통해 성적 콘텐츠와 아동 성착취, 자살·자해 등 유해 발화를 탐지한다. 미성년자 제한 콘텐츠 등 법적·정책적으로 주의가 필요한 요청을 탐지하는 별도 안전 모델도 운영한다.
국내 AI기본법은 고영향 AI 사업자에게 위험관리와 이용자 보호 등의 의무를 두고 있지만 청소년의 생성형 AI 이용에 대한 구체적인 연령별 보호방식을 규정하지는 않는다. 전문가들은 그렇다고 해외 규제를 그대로 가져오거나 청소년의 AI 이용을 일률적으로 제한하는 데는 신중해야 한다고 지적한다. AI가 학습과 업무의 주요 도구로 자리 잡은 만큼 지나친 제한은 청소년의 AI 활용 역량을 떨어뜨릴 수 있어서다.
이희정 고려대 법학전문대학원 교수는 "청소년의 AI 이용에 연령별 보호장치가 필요하지만 해외의 방식을 그대로 적용하기보다 국내 환경과 청소년에게 적합한지에 대한 연구가 선행돼야 한다"며 "구체적인 보호조치는 법률에 일률적으로 담기보다 시행령이나 가이드라인, 자율규제 등을 통해 유연하게 접근하는 것이 바람직하다"고 말했다.