청소년의 사회관계망서비스(SNS)와 생성형 인공지능(AI) 이용이 빠르게 증가하면서 이로 인한 피해도 확산되고 있다. 2024년 미국에서는 14세 소년 수웰 세처 3세가 AI 챗봇과 지속적으로 대화를 나눈 뒤 스스로 목숨을 끊는 사건이 발생했고, 올해 3월에는 캘리포니아 배심원단이 메타와 구글이 청소년의 중독을 유발하는 플랫폼 설계를 유지해 정신적 피해를 초래했다며 손해배상 책임을 인정했다. 국내 초록우산어린이재단의 올해 4월 조사에 따르면, 청소년의 41%가 AI 챗봇의 답변을 행동으로 옮긴 경험이 있으며, 77.7%는 챗봇의 답변을 신뢰한다고 답했다. 이 사건들은 청소년 보호를 위한 SNS와 AI 챗봇 사용 금지 등의 규제 논의를 촉발하는 계기가 되었다.
문제는 SNS상 유해 콘텐츠뿐 아니라 플랫폼의 설계 방식에도 있다. 무한 스크롤, 자동 재생, 야간 알림, 개인 맞춤형 알고리즘은 이용자의 체류시간과 참여를 늘리도록 설계되어 있는데, 충동 조절 능력이 충분하지 않은 청소년에게는 더 큰 영향을 미칠 수 있다. 과도한 SNS 이용은 사회적 비교를 심화시키고 수면 부족, 주의력 저하 및 우울·불안 증상을 야기할 수 있다.
AI 챗봇과의 지속적인 대화는 실제 상호성이 없는 의사 친밀감(pseudo-intimacy)을 형성할 수 있으며, 공감적 반응을 중심으로 설계된 일부 AI 챗봇은 취약한 이용자의 정서적 의존을 심화시킬 가능성이 있다. AI와의 준사회적 관계가 외로움을 일시적으로 완화할 수 있지만, 실제 인간관계의 위축이나 사회적 고립으로 이어질 우려도 있다. 더욱 우려되는 것은 SNS와 AI 챗봇의 결합이다. SNS가 부정적 감정을 증폭시키고, AI 챗봇이 이를 공감적으로 수용하면서 이용자의 정서적 의존과 플랫폼 체류시간을 동시에 높이는 자기강화적 피드백 구조가 형성될 가능성이 있기 때문이다.
이에 각국은 규제 대응을 시작했다. 호주는 16세 미만의 SNS 이용 제한 제도를 시행했다. 프랑스는 15세 미만 SNS 신규 계정 개설 금지법을 통과시켰고, 영국은 16세 미만 금지 규정을 추진 중이다. 중국은 올해 4월 '의인화 AI 상호작용 서비스 관리 잠정방법' 제정해 7월 15일부터 시행하고 있다. 이 규정은 미성년자에게 가상 연인·가상 친족형 AI 서비스를 금지하고, 정서적 의존과 과몰입 설계를 규제하고 있다.
물론 규제를 둘러싼 반론도 적지 않다. 피해 증거가 축적되지 않았다거나 SNS 이용과 정신건강 악화의 인과관계가 불명확하다거나, 가상사설망(VPN)을 통한 우회 이용, 나이 인증 과정에서의 개인정보 침해, 취약계층 청소년의 정보 접근권 제한 등의 문제가 있다는 것이다. 그러나 최근 피해사례가 늘고 있고 시장에서의 자율적 해결이 어렵다는 점이 확인된 이상 규제 논의는 불가피하다.
다만, 규제의 핵심은 일정 연령 이하의 사용을 제한하는 것뿐 아니라 '안전 설계(Safe by Design)'를 의무화하고 서비스의 기능과 위험도에 따른 차등 규율체계를 마련하는 데 있다. 즉, SNS 중독과 과몰입을 촉진할 수 있는 기능을 설계 단계에서 제한하도록 하고, AI 챗봇은 감정 동반자형과 교육·정보 제공형을 구분해 위험도에 따라 다른 의무를 부과할 필요가 있다.
또한 AI 챗봇에는 AI와 대화하고 있음을 고지하고, 자해 신호가 감지되면 위기 정보를 제공하고 보호자나 전문 기관과 연계하는 절차를 갖추어야 한다. 또한 성적으로 노골적인 대화나 콘텐츠, 성적 행위의 권유, 정서적 의존, 과몰입을 촉진하는 기능을 제공하지 못하도록 하는 최소의 기준이 필요하다.
중요한 것은 청소년을 디지털 공간에서 배제하는 것이 아니라 디지털 공간 자체를 안전하게 만드는 것이다. 한국도 연령 제한 논의와 함께 플랫폼의 안전 설계 의무와 AI 챗봇의 최소 안전기준을 법제화하고, 디지털 리터러시 교육과 정신건강 지원을 강화하는 종합적 정책을 마련해야 할 것이다.
