'AI 이루다'에 공개된 우리집 주소…개인정보 유출 논란

성희롱 및 차별·혐오 문제를 일으켰던 인공지능(AI) 챗봇 '이루다'가 개인정보 유출 논란에도 휩싸였다.

AI 전문 개발업체 스캐터랩이 내놓은 다른 애플리케이션(앱)에서 수집된 실제 연인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 이 대화에 언급된 이용자들의 이름과 주소 등이 그대로 노출되고 있다는 것이다.

11일 SNS(사회관계망서비스)와 온라인 커뮤니티에는 이루다와의 채팅 내용이 다수 올라와 있다. 공개된 화면에 따르면 이용자가 "너희 집 어디야?", "어디 살아?"라고 묻자, 이루다는 번지수와 지하철역은 물론 아파트 동·호수까지 답했다.

주소뿐만 아니라 이용자의 실명, 계좌번호, 예금주 등 개인정보가 여과 없이 드러났다는 증언도 이어졌다. 한 이용자가 "농협 계좌"라고 질문하자, 이루다는 "우리은행 예금주 김○○"라고 답했다. 다른 이용자는 이루다에게 연인의 이름을 부르자 자신의 실명을 답했다고 설명했다.

이를 본 누리꾼들은 개인정보 노출을 우려했다. 한 누리꾼은 "개인정보 유출 문제가 굉장히 심각하다"며 "이미 학습된 내 정보가 전부 지워질 지는 미지수다. 이용자들은 돈 내고 개인정보를 갖다 바친 셈"이라고 지적했다. 이루다에 입력된 카카오톡 대화 내용은 이 회사가 운영하는 다른 앱 '연애의 과학'의 유료 서비스에서 수집된 것으로 파악된다.

다른 누리꾼은 "입력된 고객의 대화 내용을 그대로 읊는 수준"이라며 "제대로 개발된 챗봇도 아니다. 피해자들이 더 나올 것"이라고 꼬집었다.

지난해 12월23일 출시된 이루다는 스무살 여성으로 설정돼 있는데, 생생하게 사람처럼 대화하는 능력을 위해 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 학습했다고 알려진다. 이루다는 정식서비스 이후 인기를 얻으며 이달 초 기준 이용자 32만명을 돌파했다.

그러나 AI 성희롱, 차별 발언 논란에 이어 개인정보 유출 의혹까지 이어지자 누리꾼들은 이루다 서비스를 즉각 중단하라고 촉구하는 해시태그 운동(#이루다봇_운영중단)에 나서고 있다.

이용자들은 자신의 대화가 새로운 AI 서비스 개발에 사용될 줄은 몰랐다며 데이터 수집 과정이 잘못됐다는 반응이다. 당초 서비스 개인정보 취급 방침 약관에는 '수집된 정보는 신규 서비스 개발에 활용한다'는 내용이 있지만, 이용자들이 복잡한 약관 속에 간략하게 포함된 내용을 인식하기 어렵고 서비스를 이용할 때 데이터 활용에 관한 고지가 없었다는 이유에서다.

이와 관련해 이재웅 전 쏘카 대표는 지난 9일 자신의 SNS에 "AI 챗봇 이루다의 큰 문제는 악용하는 사용자보다 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라며 "인공지능 기술적 측면에서 봤을 땐 커다란 진일보이지만, 지금은 서비스를 중단하고 사회적 감사를 통과해야 한다"고 지적했다.

개발업체 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 이 업체는 "이루다 관련 데이터 이슈로 많이 놀라셨을 것"이라며 "개인정보 취급방침 범위 내에서 활용했지만 이를 이용자들이 명확히 인지할 수 있도록 구체적 고지를 하지 못했다. 사과드린다"고 밝혔다.

이어 "학습에 사용된 이름, 전화번호, 주소 등의 숫자 정보를 비식별화 및 익명화 조치를 취했다"며 "그럼에도 데이터가 학습에 활용되지 않길 원한다면 메뉴에서 상대방 삭제 버튼을 눌러 삭제할 수 있다"고 안내했다.