조정혜 경찰대학 치안정책연구소 경위가 인공지능(AI)을 활용한 테러 예방 활동의 효과와 인권침해 위험을 분석한 연구논문이 국제학술지 'Security and Human Rights'(안보와 인권)에 게재됐다고 15일 경찰청이 밝혔다.
해당 학술지는 국제학술논문 데이터베이스인 스코퍼스(SCOPUS)에 등재된 학술지로 1990년 창간돼 안보 정책과 인권 보호에 관한 연구를 다루고 있다.
'AI 시대의 예방적 대테러: 전략적 효과성과 인권침해 위험'이라는 제목의 이번 논문은 온라인 공간을 중심으로 변화하는 테러 위협에 대응하기 위한 AI 기반 대테러 전략의 효과와 인권침해 가능성을 분석했다.
조 경위는 유엔 인권최고대표사무소(OHCHR)의 원칙을 기준으로 유럽연합(EU) 인공지능법과 유럽안보협력기구(OSCE)의 관련 규범을 검토했다. 이를 통해 △대규모 정보 수집과 감시에 따른 사생활 침해 △알고리즘 편향으로 인한 특정 집단 차별 △AI 판단 과정의 불투명성에 따른 적법절차 훼손 등을 주요 위험 요인으로 제시했다.
특히 과도한 감시와 불명확한 판단 기준은 시민의 신뢰를 떨어뜨리고 AI의 예측 오류는 치안 자원의 비효율적인 배분으로 이어질 수 있다고 분석했다. 특정 집단에 대한 과도한 권리 제한 역시 사회적 소외와 반발을 심화시켜 장기적으로 극단주의에 빠질 위험을 높일 수 있다고 지적했다.
조 경위는 인권 보호가 대테러 활동의 효율성을 저해하는 요소가 아니라 정책의 실효성과 지속가능성을 높이기 위한 핵심 조건이라고 강조했다.
이를 위해 △AI 활용에 관한 명확한 법적 근거 마련 △정보 수집·분석 범위 최소화 △기본권 제한의 필요성·비례성에 대한 지속적인 평가 △알고리즘의 투명성 확보 △독립적 감시체계 구축 등을 제안했다.
한편 조 경위는 2024년 국가공무원인재개발원이 주관한 제42회 공공인적자원개발 경연 연구개발 분야에서 1위를 차지한 바 있다.
