캘리포니아주가 미국 최초로 AI(인공지능) 챗봇을 규제하는 법안을 시행한다.
13일(현지시간) 테크크런치 등 외신에 따르면 개빈 뉴섬 캘리포니아 주지사는 이날 AI 챗봇 운영사에 안전 조치를 마련하도록 요구하는 법안(SB 243)에 서명했다.
지난 1월 발의된 SB 243 법안은 최근 오픈AI의 챗GPT와 대화를 나눈 후 스스로 목숨을 끊은 10대 청소년 애덤 레인 사건 이후 급속도로 주목받기 시작했다. 또 콜로라도주에서는 한 소녀가 AI 챗봇과 성적 대화를 나눈 후 자살하자 해당 AI 챗봇 운영 기업을 상대로 소송이 제기됐다.
SB 243 법안은 내년 1월1일부터 시행된다. 법안에 따르면 AI 챗봇 운영사는 이용자 연령 확인 기능 및 AI 챗봇에 대한 경고 표시 등을 적용해야 한다. 또 불법 딥페이크로 이익을 얻은 경우 건당 최대 25만달러(약 3억5700만원)의 벌금형에 처한다. 아울러 자살 및 자해 문제 대응 프로토콜도 수립해야 하며 이용자 통계를 정부와 공유해야 한다.
법안에 따르면 AI 챗봇 운영사는 이용자가 나눈 상호작용이 인위적으로 생성된 것임을 명확히 표시해야 한다. AI 챗봇은 의료 전문가처럼 보여선 안 된다. 또 AI 챗봇 운영사는 미성년자 이용자에게 휴식 알림을 제공하고 AI 챗봇이 생성한 성적 노출 이미지를 보지 못하도록 차단해야 한다.
캘리포니아주는 지난 9월 SB 53 법안을 통해 AI 기업에 대한 투명성 요건을 법제화했다. 이 법안에 따르면 오픈AI, 메타, 구글 등 대형 AI 연구소는 안전 프로토콜을 투명하게 공개해야 한다. 또 해당 기업 직원들의 내부 고발자 보호를 보장한다.
뉴섬 주지사는 "규제받지 않는 기술로 인해 젊은이들이 피해를 본 비극적인 사례를 목격했다"며 "AI와 기술 분야를 계속 선도해 나갈 것이지만 책임감 있게 해야 한다"고 말했다.
