챗GPT 운영사 오픈AI가 청소년 이용자에게 학습과 안전 기능을 기본 적용하는 '청소년을 위한 챗GPT'를 출시한다고 19일 밝혔다.
챗GPT가 이용자를 18세 미만으로 추정하거나 이용자가 자신의 나이를 13~17세라고 밝히면 청소년용 환경으로 자동 전환된다.
청소년용 챗GPT는 과제의 정답을 바로 제공하기보다 이용자가 풀이 과정에 참여하도록 설계됐다. 이용자가 답만 요구하면 '학습 모드'로 유도해 안내 질문과 단계별 풀이, 이해도 확인 등을 제공한다.
과제를 건너뛰려는 이용자에게 풀이 과정을 안내하는 '책임 있는 과제 알림'과 퀴즈, 학습 시각화 기능도 도입한다. 청소년이나 부모가 지정한 시간에 학습 모드를 자동으로 켜는 '학습 시간' 기능도 제공한다.
안전장치도 강화했다. 자해와 폭력, 섭식장애, 위험 행동, 노골적인 성적·폭력적 콘텐츠 등 청소년의 발달 단계에 부적절한 답변이 노출될 가능성을 줄였다. 오픈AI가 발달과학 연구와 전문가 의견을 반영해 마련한 '18세 미만 이용자 원칙'을 적용했다.
챗GPT가 청소년에게 연애 감정을 표현하거나 정서적 의존을 유도하는 답변도 제한한다. 챗GPT가 사람처럼 감정이나 의식을 지닌 것으로 오인하지 않도록 AI라는 사실을 지속적으로 알리고, 일정 시간 이상 사용하면 휴식을 권한다.
부모와 연결된 청소년 계정에서는 부모가 이용 제한 시간을 설정하고 일부 기능을 관리할 수 있다. 제한적인 고위험 상황이 감지되면 부모에게 알림을 보내는 기능도 적용한다. 개인정보가 담긴 사진을 올리기 전에는 주의 문구를 표시한다.
오픈AI는 "AI가 교실 밖에서 학습을 보조하되 교육 현장에서 AI를 어떻게 활용할지는 교사가 주도해야 한다는 원칙을 제품 설계에 반영했다"고 설명했다.
