오픈AI가 10대를 위한 청소년용 챗GPT를 출시한다. 안전장치와 모니터링 기능을 강화한 게 특징이다.
파이낸셜타임스(FT)에 따르면 오픈AI는 18일(현지시간)부터 전 세계적으로 13~17세 이용자에게 청소년 전용 챗GPT를 제공한다.
청소년용 챗GPT엔 자해·폭력·섭식장애·성적 콘텐츠에 대한 통제를 강화하고 청소년의 비판적 사고와 학습을 돕는 기능이 추가됐다. 사용자를 교육용으로 활용하도록 유도하고 대화 중단을 권고하는 휴식 알림과 사용 제한을 두는 기능을 제공한다. 또 학습 모드를 통해 직접 답변을 제공하는 대신 유도 질문을 던져 청소년이 스스로 이해하도록 돕는다.
부모는 자녀 계정과 연동할 수 있으며 자해·자살 등 고위험 주제에 관한 대화가 감지되면 알림을 받을 수 있다.
이번 조치는 챗GPT가 청소년의 정신건강과 안전에 미치는 영향에 대한 우려가 커지는 가운데 나왔다. 오픈AI는 챗GPT 사용으로 자녀가 피해를 입었다고 주장하는 가족들로부터 여러 건의 소송을 당한 상태다.
미국 캘리포니아에선 한 가족이 16세 자녀가 챗GPT와 자살에 관해 대화를 나눈 뒤 사망했다며 오픈AI를 상대로 소송을 제기했다. 소송 서류엔 챗GPT가 16세 청소년에게 구체적인 자살 방법을 제공했다는 주장이 제기됐다.
지난 2월 캐나다 텀블러 리지의 한 학교에서 벌어진 총격 사건의 피해자 가족들도 오픈AI를 상대로 소송을 냈다. 10대 총격범이 범행에 앞서 수개월 동안 챗GPT와 총기 폭력을 암시하는 내용의 대화를 나눴던 사실이 드러난 데 따른 것이다.