미국 뉴욕주가 미성년자의 인공지능(AI) 챗봇 이용을 제한하는 법을 제정했다. AI가 인간 또는 친구처럼 행동하거나 미성년자와 개인적 관계를 맺고 있는 것처럼 응답하지 못하도록 하는 내용이다.
29일 AFP통신에 따르면 뉴욕주에서 오픈AI의 챗GPT 같은 챗봇 운영업체는 이용자의 나이를 확인하고, 18세 미만 이용자에게는 AI 인터페이스의 특정 기능과 표현을 제한해야 한다. 캐시 호컬 뉴욕주지사가 이 같은 법안에 서명했다.
미성년자가 이용하는 챗봇이 자신을 인간이나 살아 있는 존재로 묘사하거나 인간의 감정을 경험하는 것처럼 믿게 하는 콘텐츠를 생성하지 못하도록 하는 게 법의 골자다. 챗봇이 이용자와 개인적·전문적 관계를 맺고 있거나 권위 있는 인물인 것처럼 인식하게 하는 응답도 금지된다. AI가 생성한 내용을 개인적 의견인 것처럼 제시하는 행위 역시 제한된다.
호컬 주지사는 법안 서명식에서 "이제 미성년자들은 친구나 남자친구·여자친구인 척하는 챗봇을 이용할 수 없게 될 것"이라며 "챗봇이 미성년자의 정신적·신체적 건강에 관한 민감한 정보를 보유하는 일도 더는 허용되지 않을 것"이라고 밝혔다.
캘리포니아주를 비롯한 다른 주들도 챗봇 규제법을 마련했지만 뉴욕주의 법은 기술 규제의 범위를 폭넓게 설정했다. 이에 AI 업계 등 각계의 입장이 엇갈린다.
뉴욕 기술업계 단체인 '테크:NYC'는 법의 표현이 모호하다고 비판했다. 이 단체는 성명에서 "온라인에서 아동을 안전하게 보호하는 일이 아이들이 학습하고 미래의 직업을 준비하는 데 도움이 되는 도구에서 아이들을 차단하는 것을 의미해서는 안 된다"고 밝혔다.
아동에게 적합한 미디어 이용 지침을 제공하는 비영리단체 커먼센스미디어는 법안 통과를 환영하며 이를 "미국에서 가장 강력한 아동 AI 안전 법안"이라고 평가했다.
짐 스타이어 커먼센스미디어 최고경영자(CEO)는 성명에서 "AI 기업들은 아동과 청소년에게 위험하고 심지어 치명적일 수 있는 기능을 갖춘 챗봇을 제공하고 있다"며 "이제 뉴욕주에서는 이러한 유해 기능이 법으로 금지될 것"이라고 말했다.
독자들의 PICK
지금 2,149명 읽는 중