[2026 국정감사]국회 과학기술정보방송통신위원회
이주희 더불어민주당 의원이 AI(인공지능)와 대화할 수 있는 AI 챗봇 사각지대에 대해 "사업자가 사용자 연령을 구체적으로 확인하도록 의무를 도입하고 위험 대화에 개입하는 제도를 도입해야 한다"고 밝혔다.
이주희 의원은 12일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 국정감사에 참석해 김종철 방송미디어통신위원회 위원장을 상대로 이같이 주문했다.
이 의원은 "국민들이 가장 오래 쓰는 AI 챗봇이 '제타'라는 프로그램으로 한달 이용 시간이 무려 1억1000만시간"이라며 "챗GPT의 2배가 넘고 이용자 10명 중 9명 가까이가 10대와 20대라는 통계가 나왔다"고 설명했다.
이어 "문제는 아이들이 이런 AI에게 위험한 질문을 했을 때"라며 "초록우산 조사결과 자해·자살·폭력·선정적인 내용을 (AI에게) 물은 청소년 중 과반이넘는 52%가 구체적인 답변을 받았다"고 밝혔다. 이 의원은 "이런 형태의 대화는 아이와 AI가 단둘이 대화하는 과정에서 일어나고 부모도, 교사도 전혀 통제할 수 없는 상황"이라며 "유해한 답변만이 아니라 과몰입도 문제"라고 말했다.
이 의원은 "청소년의 AI 과몰입을 막을 대책 필요하다"며 "해외에는 AI 챗봇 설계 자체를 위험으로 보고서 규제를 시행하고 있다"고 했다. 이 의원은 해외의 AI 챗봇 대응 사례로 △미성년자에 대한 전면 금지 △자살·자해 같은 위험신호가 감지될 때 상담 기관에 연결하는 위기개입 △AI가 의사나 상담사 같은 전문가가 아니라는 사실을 공지하는 방식 등을 설명했다.
이 의원은 "당장 우리가 청소년 AI 자체를 전면적으로 금지할 수는 없을 것 같다"면서도 "청소년이 심각하게 과몰입하는 문제는 반드시 막아야 된다"고 했다. 이 의원은 AI 대응 입법으로 △사업자의 사용자 연령 확인 의무 규정 △보호자 동의 개입 조항 △중독적 설계 제한 △위험 대화 시 대응 근거 마련 등을 제안했다.
이에 김종철 위원장은 "(관련 업무) 주무기관의 장으로서 입법이 더디게 진행되는 점에 대해 매우 안타깝다"며 "다양한 의견이 모여서 새로운 정보통신망법 개정안이든 AI 기본법에 대한 보완이든 충실히 이행될 수 있도록 최선을 다하도록 하겠다"고 답했다.
