사용자의 질문이나 명령에 따라 결과물을 만들어내는 '생성형 AI(인공지능)'가 등장한 이후 AI를 악용한 범죄가 급증하고 수법도 진화 중이다. 반면 치안체계는 AI 신종범죄에 대한 별도통계조차 마련하지 못했다는 지적이 나온다. 정부가 본격적으로 AI 신종범죄 대응 과학치안체계 수립에 착수한 것 역시 AI를 악용한 범죄의 확산·발전 속도를 따라잡기 위한 노력으로 풀이된다.
26일 경찰청 등에 따르면 지난달 국가과학기술자문회의가 발주한 'AI 시대 신종범죄 대응 과학치안체계 구축 및 국가전략 수립 연구' 용역은 국가인공지능전략위원회(이하 국가AI전략위)가 올해 2월에 발표한 '대한민국 AI 행동계획'에 따른 후속조치다.
국가AI전략위는 대한민국 AI 행동계획에서 "AI 확산은 국가신뢰와 사회안전을 위협하는 새로운 전장을 만들고 있다"며 "△딥페이크(이미지·음성합성기술) △보이스피싱 △스푸핑(다른 신분으로 속이는 것) △사기봇 △신원도용 △허위정보 자동생산 등 AI 기반 범죄는 속도·규모·정교함 면에서 기존 법제와 수사체계를 압도한다. 이러한 오남용은 단지 기술적 범죄일 뿐 아니라 국가안보, 사회질서, 시민권 보호의 문제"라고 지적했다.
실제로 수사당국이 지난해 적발한 딥페이크 성착취물은 전체 사이버성폭력 범죄의 35%인 1500여건으로 사이버성폭력 범죄유형 중 가장 큰 비중을 차지한 것으로 나타났다. 그럼에도 치안당국에서는 AI를 활용한 별도의 범죄통계는 아직 마련하지 못하고 일반 사이버성범죄 유형의 하나로 처리한다.
과거와 달리 특별한 기술 없이도 AI를 활용하면 쉽게 범죄를 저지를 수 있고 피해 역시 빠른 속도로 확산하는 만큼 그에 따른 별도의 범죄분류가 필요하다는 게 치안당국 안팎의 의견이다. 보이스피싱 범죄가 등장한 당시 신종수법에 익숙하지 않은 고령층에 피해가 쏠린 것처럼 신기술을 활용한 범죄 특성상 아동·청소년, 여성, 노약자 등 취약계층에 피해가 집중될 우려도 있다.
국가AI전략위가 AI 행동계획에서 범부처 차원의 대책 마련 지침을 권고함에 따라 방송미디어통신위원회는 올해 6월 'AI 범죄대응 범부처협의체'를 출범하고 'AI 범죄근절 종합대응계획' 마련에 착수했다. 국가AI전략위는 △금융범죄 △딥페이크 등 AI 활용 성범죄 △개인정보 침해 범죄 △불법자금 유통 등 각 분야에 맞게 관련부처들이 범죄대응 방안을 마련하도록 권고했다.
국가과학기술자문회의가 착수한 'AI 신종범죄 대응 과학치안체계 구축 및 국가전략 수립 연구' 역시 국가AI전략위의 정책수립 권고와 맥락을 같이한다. 연구용역을 통해 범죄유형별 발생현황 및 취약계층 피해실태를 파악하고 AI기술 악용원리, 범죄 시나리오 분석 등을 통해 범죄예방-수사-피해자 보호·지원으로 이어지는 전주기 대응체계를 만들겠다는 구상이다.
독자들의 PICK
지금 3,299명 읽는 중
경찰과 국가과학기술자문회의는 2027년 2월까지 연구용역을 마치고 그 결과를 바탕으로 국가 차원의 AI 범죄대응 전략을 마련할 방침이다. 또 경찰청과 성평등가족부, 법무부, 금융위원회, 방미통위, 과기정통부 등 사안별로 경계가 모호한 범죄대응 부처 기준을 명확히 하고 책임의 공백을 최소화하는 작업도 연구범위에 포함했다. 대규모 개인정보 침해사고나 금융권 해킹 등 중대한 범죄에 대해선 범정부 차원의 대응근거를 마련하겠다는 계획이다.
경찰청 관계자는 "국가AI전락위가 발표한 대한민국 AI 행동계획에 따라 방미통위와 경찰청을 비롯한 10여개 부처가 AI 범죄대응 과제를 수행하고 있다"며 "AI 범죄에 대한 정의부터 시작해 범죄유형 파악, 예방대책 수립, 피해자 보호까지 어떤 준비를 해야 할지 체계적으로 연구하려는 것"이라고 설명했다.
이정헌 더불어민주당 의원은 "AI기술이 범죄에 악용되는 속도를 제도와 수사역량이 따라가지 못하면 국민 피해가 더욱 커질 수 있다"며 "연구용역에 그치지 않고 실효성 있는 후속대책과 연구·개발 투자로 이어질 수 있도록 관계부처의 적극적인 대응이 필요하다"고 강조했다.
