오는 12월부터 챗GPT에서 성적 대화 등 성인용 콘텐츠가 허용되면서 전문가들은 청소년 이용자들이 성인 인증 과정을 우회할 수 있으며 그릇된 성적 관념을 형성할 수 있다고 우려했다.
15일 정보통신기술 업계에 따르면 오픈AI는 올해 말 성인 이용자를 대상으로 성적 대화 등 성인용 콘텐츠를 허용할 방침이다. 지난달 샘 올트먼 오픈AI 대표는 X(옛 트위터)를 통해 "오는 12월부터 연령 제한 기능을 더 완전히 도입하면서 '성인 이용자는 성인답게 대하자'는 원칙에 따라 연령이 인증된 성인에게 성애물 같은 (콘텐츠를) 훨씬 더 많은 것을 허용할 것"이라고 밝혔다.
업계 전문가들은 오픈AI의 결정 원인을 수익에서 찾았다. 이재성 중앙대학교 AI학과 교수는 "사이버 공간에서 돈을 만드는 방법이 몇 개 되지 않는다"며 "대표적인 게 광고이고 다음은 성인 콘텐츠다. 구글이나 마이크로소프트 등은 수익 창출할 곳이 있으나 오픈 AI는 얘기가 다르다"라고 설명했다. 일론 머스크가 창립한 xAI는 지난 7월 그록에 성적 대화가 가능한 기능을 탑재했다.
일부 청소년들이 성인 인증 과정을 우회할 수 있다는 우려가 나온다. 홍주화 성균관대 글로벌융합학부 교수는 "포르노는 웹사이트를 차단해 접근하지 못하도록 막을 수 있으나 챗GPT는 사이트 자체를 차단하기 어렵다"며 청소년들의 성인 콘텐츠 이용을 우려했다. 이 교수도 "AI 기업의 문제보다는 교육의 문제"라면서도 청소년들이 부모 등 가까운 성인의 계정을 이용할 가능성을 언급했다.
실제 온라인에서는 성인 인증을 대행해준다거나 위조 신분증을 제작해준다는 광고를 쉽게 찾아볼 수 있다. 한 온라인 커뮤니티에서는 국내 10~20대가 주로 이용하는 제타AI의 검열을 우회해 성적 대화를 할 수 있는 키워드와 후기 등도 공유된다.
청소년들이 그릇된 성적 관념을 형성할 수 있다는 지적이 나온다. 홍민하 강동경희대병원 교수는 "청소년은 정신적으로도 그렇고 윤리적·사회적 판단력이 미숙하다"며 "철저한 관리나 감독이 되지 않는 상황에서 아이들은 잘못된 정보를 받아들이게 될 것"이라고 했다.
충분한 대비책 없이는 범죄 등 일상 문제로 이어질 수 있다는 우려도 있다. 홍 교수는 "최근 디지털 성폭력 등이 문제가 되고 있으나 청소년들은 심각성과 파급력을 완전히 이해하지는 못한다"며 "사회적으로 기업이나 공공 영역에서 최대한 보수적으로 제한해야 한다"라고 했다.
홍현주 한림대학교성심병원 교수는 "성적인 자극을 혼자서 탐닉하는 건 상관없을 수 있으나 AI와 가상으로 나누던 대화 등을 실제 친구들로 확대되면 범죄로도 이어진다"며 "너무 강한 자극에 몰두하면 평소에도 성인 콘텐츠가 떠오를 수 있다"고 경고했다.