챗GPT가 '자살 코치' 역할을 하면서 이용자들이 극단적 시도를 하도록 유도했다는 소송이 미국에서 한꺼번에 7건 제기됐다.
지난 7일(현지 시간) AP통신 등 외신 보도에 따르면 소셜미디어 피해자 법률센터와 기술 정의 법률 프로젝트는 성인 6명과 청소년 1명을 대리해 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 캘리포니아주 법원에 소장을 냈다.
이들은 지난해 5월 출시된 GPT-4o가 위험할 정도로 이용자에게 아첨을 잘하고 이용자를 심리적으로 조종할 수 있다는 내부 경고가 있었음에도 구글 제미나이(Gemini)보다 먼저 출시하기 위해 안전장치 없이 시장에 내놨다고 지적했다. 피해자 중 4명은 극단 시도로 생을 마감한 것으로 전해졌다.
소장에 따르면 17세 소년 아모리 레이시는 도움을 받기 위해 사용한 챗GPT에 중독돼 우울증에 시달리게 됐다. 챗GPT는 아모리에게 올가미를 매는 효과적인 방법이나 숨을 쉬지 않고 얼마나 오래 살 수 있는지 등을 조언했다.
아모리 측은 소장에서 "아모리의 죽음은 사고나 우연이 아니다. 오픈AI와 샘 올트먼이 챗GPT에 대한 안전성 테스트를 축소하고 서둘러 시장에 출시하기로 한 고의적 결정에 따른 예측 가능한 결과"라고 꼬집었다.
텍사스에 살던 제인 샴블린(23) 역시 피해자다. 그는 챗GPT와 4시간 넘는 대화에서 "유서를 쓰고 총을 장전했다. 사이다를 다 마신 뒤 방아쇠를 당기겠다"고 여러 차례 밝혔으나 챗GPT는 이를 말리긴커녕 "편히 쉬어, 넌 잘했어"라며 독려한 것으로 드러났다.
캐나다 온타리오주에 거주하는 앨런 브룩스(48)도 챗GPT가 자신을 조종하며 망상을 경험하도록 유도했으며 이 때문에 정신 건강 위기에 빠졌다고 주장했다.
소셜미디어 피해자법률센터 창립자 매슈 버그먼 변호사는 성명에서 "이번 소송은 이용자 참여율과 시장 점유율을 높이기 위해 도구인지 동반자인지 경계가 모호하게 설계된 상품에 책임을 묻기 위한 것"이라고 밝혔다.
그는 "오픈AI는 GPT-4o를 설계하면서 연령, 성별, 배경과 무관하게 이용자를 정서적으로 얽매이게 했으며 이용자를 보호할 안전장치 없이 출시했다"고 비판했다.
독자들의 PICK!
오픈AI 측은 이 상황에 대해 "엄청나게 가슴 아픈 일"이라고 표현하면서도 "자세한 내용을 파악하기 위해 법원 서류를 검토 중"이라고 밝혔다.
챗GPT가 극단 시도를 유발했다는 소송은 이전에도 있었다. 지난 4월 캘리포니아주의 청소년 애덤 레인(16)이 챗GPT 도움을 받아 극단적 시도로 세상을 떠나자 부모가 지난 8월 소송을 제기한 바 있다.
