AI시대, 소비자 피해 인식조차 어려워…"기존법 한계 명확"
올해 5월 AI소비자인식조사 결과, 82.5% 책임회피 우려
AI(인공지능)가 상품 추천·상담·민원 처리 등 일상 전반에 빠르게 도입되고 있지만 관련 피해에 대한 책임 체계가 미비하다는 시민사회 지적이 나왔다. 시민단체들은 AI가 생성한 허위정보나 딥페이브 범죄 등 여러 피해가 잇따르는 만큼 피해 구제를 위한 제도 정비가 시급하다고 촉구했다.
'인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동'은 참여연대·녹색소비자연대·한국소비자연맹 등과 23일 서울 종로구 참여연대 아름드리홀에서 토론회를 열고 'AI 시대 소비자 보호 방안'을 논의했다.
참석자들은 AI 기술이 빠르게 보급되는 반면 관련 법 정비가 뒤따르지 못하고 있다고 진단했다. 특히 알고리즘 결정과 허위 정보 자동 생성 등에 따른 피해 상황이 이어지고 상황에서 책임 소재를 가리기 어렵다는 점을 문제로 꼽았다.
정지연 한국소비자연맹 사무총장은 "과거 소비자문제는 불량 제품이나 계약 해지 거부처럼 비교적 명확한 형태였다"며 "AI 시대에는 알고리즘과 데이터, 자동화 의사결정이 결합하면서 소비자가 피해 사실조차 인식하기 어려운 형태로 변했다"고 말했다.
이어 "시·청각 정보 자체를 위조하는 딥페이크 사기가 대표적"이라며 "기존의 소비자보호법은 '언어를 통한 기망'을 전제로 설계돼있어 AI 생성 영상·음성을 활용한 사기에는 적용이 어렵다는 한계가 있다"고 지적했다.
한국소비자연맹이 지난 5월 AI 이용 경험자 1000명을 대상으로 실시한 인식조사에서도 이같은 우려가 나타난다. 응답자들이 가장 우려하는 AI 문제로는 △허위정보·가짜뉴스 △딥페이크 범죄 악용 △개인정보 수집 및 유출 △AI 사고 시 책임 불명확 등이 꼽혔다.
또 응답자의 82.5%는 AI 관련 사고·피해 발생 시 기업이나 기관이 AI 자동 판단을 이유로 책임을 회피하거나 책임 소재가 불명확해질 가능성이 있다고 답했다.
이날 토론회에서는 AI 책임성을 강화하기 위한 제도 개선 방안도 제시됐다.
서종희 연세대 법학전문대학원 교수는 "AI가 관여하는 영역이 급속도로 확대되면서 책임의 법적 공백이 발생하고 있다"며 "AI 기본법 자체가 진흥에만 초점을 두고 있어 형사처벌 규정이 없고, AI 활용 시 의무 위반에 대한 제재도 과태료 수준에 머물러 있다"고 말했다.
또 "제조물책임법 내 '제조되거나 가공된 동산'의 정의를 AI시스템까지 확대하고 고영향·고성능 AI에 대한 위험책임 도입과 책임보험 가입 의무를 법률로 규정해야 한다"고 덧붙였다.
독자들의 PICK!
한경수 참여연대 민생희망본부 변호사는 "AI 기본법이 시행됐지만 소비자 피해는 여러 개별 법률이 단편적으로 담당하고 있어 공백이 크다"며 "소비자기본법 개정을 통해 AI 책임 기준을 신설해야 한다"고 말했다.
