생성형 AI(인공지능)가 고민을 털어놓는 '대화 상대'로 자리 잡으면서 과도한 정서적 의존이 정신건강에 미칠 부작용을 우려하는 목소리가 커지고 있다. 전문가들은 특히 청소년의 경우 정서 교감형 AI의 안전장치와 연령별 이용 기준 등을 마련해야 한다고 제언했다.
국회 AI 포럼 주최로 10일 서울 영등포구 국회에서 열린 '생성 AI 시대 시민의 정신건강과 AI 리터러시 정책 과제' 토론회에서는 각계 전문가들이 참석해 AI가 정신건강에 미치는 영향과 관련 정책 방향을 논의했다.
발제를 맡은 박형빈 서울교육대 교수는 최근 해외에서 AI에 대한 과도한 정서적 의존이 정신건강 문제로 이어질 수 있다는 우려가 잇따라 제기되고 있다고 설명했다.
그러면서 지난해 미국에서 16세 소년이 AI와 자해·자살과 관련한 대화를 나눈 뒤 스스로 목숨을 끊은 사건을 소개했다. 또 지난 6월 캐나다에서에서는 평소 AI 챗봇에 자살 충동 등을 털어놓던 20대 여성이 숨진 뒤 유족이 AI 사업자를 상대로 소송을 낸 사건도 있었다.
박 교수는 AI의 △상시 응답성 △동조적 미러링 △감정 조작 다크패턴 △마찰 없는 관계 등이 이용자의 과도한 의존을 키울 수 있다고 설명했다. 아직 뇌 발달이 진행 중인 청소년은 AI가 인간관계나 스스로 사고하는 과정을 대신하지 않도록 주의가 필요하다고 강조했다.
박 교수는 "한 고등학교에서 교사가 학생들에게 '생성형 AI를 사용하면 어떤 기분이 드는지' 물었더니 학생들이 스마트폰을 켜 AI에 그 질문을 하고 있었다"며 "AI가 사람과의 교류를 대체하는 경우가 많고 이는 스스로 판단하는 능력을 발달시키지 못하게 할 수 있다"고 말했다.
정서적 교감을 목적으로 한 AI에 별도의 안전장치를 마련해야 한다고도 주장했다. 정서 교감형 AI에 별도의 안전성과 투명성 기준을 적용하고 정보통신망법과 청소년보호법 등을 통해 연령 확인과 연령에 적합한 서비스 설계 체계를 구축하는 방안이다.
박 교수는 "영국에서는 18세 미만 이용자를 대상으로 성적으로 친밀한 대화를 제공하는 챗봇 기능을 제한하는 방안이 추진되고 있고 중국은 이미 관련 규제를 시행하고 있다"며 "학부모를 포함한 전 연령층을 대상으로 정신건강을 고려한 AI 리터러시 교육도 필요하다"고 말했다.
정부 관계자들은 '연령 적합 설계 체계'를 마련하기 위해서는 성인과 청소년을 구분하는 기술적 문제가 우선 해결돼야 한다고 설명했다.
김혜숙 방송미디어통신위원회 인공지능이용자보호과 과장은 "아동·청소년의 연령 확인을 기술적으로 풀어나가고 있지만 기술적 한계와 우회 문제가 있다"며 "개인정보 수집을 최소화하면서 연령을 확인할 수 있는 방안에 대한 논의가 필요하다"고 말했다.
교육 현장에서 AI 활용에 대한 가이드라인 마련도 추진되고 있다. 김주영 교육부 인공지능교육진흥과 과장은 "현재 국가는 포괄적인 원칙만 제시하고 있고 시도 교육청도 AI 서비스별 약관에 따른 연령 제한을 안내하는 수준"이라며 "AI 교육을 확대하는 것과 별도로 이번 2학기부터는 교육 분야 AI 활용 가이드라인 배포를 준비 중"이라고 말했다.
정준욱 과학기술정보통신부 디지털포용정책 과장은 "정부는 지난달 7대 AI 윤리 원칙을 발표했다"며 "윤리 규칙을 담은 연령별 교육 정책을 확대해 나갈 예정"이라고 했다.