유네스코, "여성 목소리의 AI 음성비서는 사람들에게 여성을 '순종하는 도우미'로 여기게 하는 편견 주입"
왜 인공지능(AI) 음성비서는 여자 목소리일까. AI 음성비서의 여성 목소리가 성에 대한 부정적 관념을 야기한다는 유엔(UN) 보고서가 나왔다.
23일(현지시간) CNN 등에 따르면 최근 유네스코(UNESCO)는 이와 같은 내용을 담은 '할 수 있다면 얼굴을 붉히겠다(I'd blush if I could)’라는 제목의 보고서를 내놨다. 논문 제목은 애플의 AI음성비서 시리(Siri)가 성적 농담을 들었을 때 내놓은 답에서 착안했다.
AI 음성비서는 어떠한 무례한 명령과 차별적 발언에도 화를 내지 않도록 설계돼 있다. 보고서는 "AI 음성비서는 사람들에게 여성을 '기꺼이 맹목적으로 순종하는 도우미'로 생각하게 하는 편견을 주입시키고 있다"고 지적했다. 이어 "많은 사회에서 이것은 여성들이 낮은 대우에 복종하고 관대하다는 일반적인 성적 편견을 강화한다"고 꼬집었다.
실제로 AI 음성비서의 이름 역시 여자 이름으로 지어졌다. 애플의 시리는 노르웨이어로 '당신을 승리로 이끌 아름다운 여성'을 뜻한다. 마이크로소프트의 코타나(Cortana)는 비디오게임 헤일로(Halo)의 여성 캐릭터 이름에서 따왔다. 아마존의 알렉사 역시 영어에서 여성 이름이다.
보고서는 AI 음성비서가 사용자의 목소리에 따라서도 다르게 반응한다는 점을 지적했다. 딥러닝을 통해 스스로 학습하는 인공지능은 여성이 시리에 성적 발언을 했을 때보다 남성이 했을 때 더 호의적으로 반응했다. 보고서에 따르면 시리는 남성의 성적 농담에는 추임새를 넣거나 "얼굴이 빨개질거야"라고 답했지만 여성의 성적농담에는 "그건 좋지 못해요" "나는 그런 종류의 개인 비서가 아니랍니다"라고 답했다. 단순히 목소리뿐 아니라 애플이 시리의 성 정체성을 여성으로 부여했다는 점을 강조한 것이다.
유네스코는 이에 대해 IT기업의 남성 중심적 문화를 원인으로 들었다. 보고서는 "남성 엔지니어가 압도적으로 많은 애플, 아마존과 같은 대기업들은 여성화한 AI 음성비서가 언어적 학대에 반응하도록 구축했다"고 설명했다.
보고서는 이 같은 문제의 해결책은 AI 음성비서의 목소리를 최대한 성 중립적으로 만들고 성적 모욕을 방지하는 시스템을 구축하는 것이라고 밝혔다. 이어 IT 회사들이 "인간과 다른 기계적 목소리로 AI를 재설계하는 것도 방법"이라고 전했다.
독자들의 PICK
지금 728명 읽는 중
사니예 코랏 유네스코 양성평등국장은 "AI 기술이 어떻게, 언제 사용되고 개발되는지 어떻게 젠더화된 양상을 보이는지 지금보다 훨씬 더 많은 관심을 기울여야 한다"고 말했다.