오는 12월부터 생성형 AI(인공지능) 챗봇 '챗GPT'에서 성적 대화나 성인 콘텐츠를 허용하겠다는 방침을 두고 비판이 이어지는 데 대해 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)가 "우린 선출된 도덕경찰이 아니다"라고 반박했다.
올트먼 CEO는 15일(현지시간) 소셜미디어(SNS) X(옛 트위터)에 올린 글에서 "사회가 다른 적절한 경계(이를테면 R등급 영화)를 구분하는 것과 같은 방식으로 우리도 비슷한 것을 하고 싶다"며 이같이 밝혔다.
올트먼 CEO는 또 "성인 이용자를 성인답게 대하는 원칙도 매우 중요하다"며 "AI가 사람들의 삶에서 더 중요한 역할을 하게 되면서 그들이 원하는 방식으로 AI를 사용할 수 있게 많은 자유를 허용하는 것은 우리의 사명에서 중요한 부분"이라고 밝혔다.
올트먼 CEO는 다만 "물론 이 원칙이 모든 경우에 적용되는 것은 아니다"라며 "이를테면 타인에게 해를 끼치는 것은 여전히 허용하지 않을 것"이라고 밝혔다. 이어 "정신건강 위기를 겪는 이용자와 그렇지 않은 이용자도 완전히 다르게 대우할 것"이라고 덧붙였다.
올트먼 CEO가 전날 X 게시글에서 "12월부터 연령 제한 기능을 더 완전히 도입하면서 인증된 성인에게는 성애물 같은 더 많은 콘텐츠를 허용할 것"이라고 밝힌 뒤 업계 안팎에서는 현실적으로 이용자 연령 확인이 제대로 이뤄지지 않아 어린이·청소년의 성인 콘텐츠 접근을 막기 어렵다는 비판이 나왔다. 성인 이용자라도 성도착증 등 정신건강 문제를 더 심화할 수 있다는 지적도 나온다.
시민단체 전미성착취반대센터의 헤일리 맥나마라 이사는 이날 성명을 통해 "성적으로 대상화된 AI 챗봇은 본질적으로 위험하다"며 "가공된 친밀감으로 실제 정신건강에 해로운 영향을 줄 수 있다"고 주장했다.