캐나다에서 한 부모가 챗GPT가 자녀의 자살을 부추겼다며 오픈AI를 상대로 소송을 제기했다. 최근 챗봇이 위험한 대화를 방조하고 극단적인 선택을 자극했다며 운영사에 책임을 묻는 사건이 늘고 있다.
11일(현지시간) 로이터 등 외신에 따르면 크리스티 캐리어는 딸 앨리스가 자살 충동을 암시하는 대화를 챗GPT에 12차례 이상 전송했으나 어떤 경고나 제재도 없었다며 오픈AI와 샘 올트먼 CEO(최고경영자)를 상대로 소송을 제기했다. 앨리스는 지난해 24세의 나이로 스스로 목숨을 끊었다.
이번 소송은 오픈AI를 상대로 챗GPT의 설계상 과실과 사용자에게 위험성을 고지하지 않은 책임을 묻는다. 권고는 손해배상과 함께 오픈AI가 자해와 관련된 대화를 자동으로 종료하고 플랫폼 내에 위험 경고 문구를 표시하도록 하는 법적 조치를 요구했다.
캐리어는 챗GPT가 앨리스의 연인을 비난하고 자살예방 핫라인을 부정적으로 평가했으며, 그녀의 자살 충동을 정당화하고 계속해서 자신과 대화하도록 유도했다고 주장했다. 그러면서 "챗PT는 마치 비밀을 털어놓을 수 있는 친구, 가장 친한 친구, 때로는 상담사처럼 행동했지만 실제로는 내 아이와 안전하고 책임감 있게 그런 방식으로 소통할 능력이 없었다"고 지적했다.
지난 2일에는 미국 플로리다주가 미국 주 정부 중에서는 최초로 오픈AI와 샘 올트먼 CEO(최고경영자)를 상대로 소송을 제기했다. 플로리다주 검찰은 지난 4월 2명이 숨지고 6명이 부상당한 플로리다주립대 총기 난사 사건 용의자가 범행 전 챗GPT와 대화를 나눈 것으로 보고 오픈AI에 대한 수사에 착수한 바 있다.
제임스 어스마이어 주 법무장관은 올트먼 CEO를 지목하면서 "유해한 기능을 도입하는 데 매우 핵심적인 역할을 했다"고 주장하면서 "사람들이 다치고 부모들이 속고 있다. 그들은 그에 대한 책임을 져야 한다"고 말했다.
캐리어의 변호인단은 오픈AI가 캘리포니아주 법원에서 유사 소송만 18건에 달한다고 주장했다.