AI가 취약점 탐색과 공격코드 작성 등 해킹 과정 전방위에 활용되고 있지만 국내에는 AI를 활용한 사이버공격이 얼마나 발생했는지 확인할 별도 정부 통계가 없는 것으로 확인됐다. 침해사고와 사이버범죄를 집계하면서 AI 활용 여부는 별도로 기록하지 않기 때문이다.
5일 AI업계와 정부에 따르면 과학기술정보통신부는 침해사고 신고가 접수되면 악성코드의 유입 경로와 공격에 이용된 취약점, 침투 경로 등을 조사한다. 하지만 침해사고 조사보고서에는 AI 활용 여부를 기록하는 항목이 없다. 공격자가 생성형 AI나 AI 코딩도구를 사용했는지 별도로 확인하지 않기 때문에 통계도 집계되지 않는 것이다.
과기정통부 관계자는 "침해사고 조사에서는 악성코드 유입 경로와 공격에 이용된 취약점 등 사고 원인을 분석하지만 공격자가 AI 도구를 활용했는지까지 확인하기는 현실적으로 어렵다"고 밝혔다.
피해 시스템에는 접속기록이나 악성코드, 악용된 취약점 등 공격 결과는 남지만 공격자가 외부에서 AI를 이용해 취약점을 찾거나 공격코드를 작성한 과정까지 흔적이 남는 것은 아니기 때문이다. 과기정통부 관계자는 "AI를 활용하면 취약점 탐색 등을 정교하게 만들고 기존에 10분 걸리던 작업을 1분 안에 끝내는 식으로 공격 속도를 높일 수 있다"면서도 "조사기관이 확인하는 것은 공격 결과와 침투 경로이기 때문에 실제 공격 과정에서 어떤 도구를 사용했는지 파악하기 어렵다"고 했다.
경찰 역시 별도 통계가 없다. 수사 과정에서 생성형 AI나 AI 코딩도구 활용 여부가 확인될 수 있지만 이를 'AI 활용 해킹'으로 따로 집계하지 않는다.
경찰청 관계자는 "생성형 AI 도구를 이용하는 것은 범죄수단"이라며 "경찰은 해킹이나 사기 등 죄종을 기준으로 통계를 집계한다"고 말했다. 이어 "기존 사건을 개별적으로 확인하면 AI 활용 여부를 확인할 수 있지만 그것만을 위한 별도 통계는 없다"고 했다.
AI 서비스 이용기록 등이 필요하면 해외 사업자를 상대로 국제공조도 가능하지만 이 역시 AI 관련 요청만 따로 집계하지 않는다. 국가정보원은 국제·국가배후 해킹조직의 AI 악용 자체는 확인한다. 국정원은 머니투데이에 "국제 및 국가배후 해킹조직의 AI 악용 사이버위협을 포함한 다양한 해킹 사례 및 수법에 대해 해외 정보·보안기관과 협력하에 다각도로 대응하고 있다"고 밝혔다. 다만 구체 사례와 건수는 대응역량 노출 등을 이유로 공개하지 않았다.
보안업계에서는 이미 AI가 취약점 탐색과 공격코드 작성, 악성코드 분석·변형 등에 광범위하게 활용되고 있다고 본다. 업계 관계자는 "요즘 해킹 공격 가운데 AI를 전혀 활용하지 않는 공격이 얼마나 되겠냐"고 반문했다.
독자들의 PICK!
전문가들은 AI 활용 여부를 완벽히 입증하기 어렵더라도 관련 정보를 쌓아둬야 한다고 지적한다. 이성엽 고려대 기술경영전문대학원 교수는 "AI를 활용한 해킹은 그만큼 공격자의 능력이 강해졌다는 의미"라며 "해커가 AI를 쓰면 방어 역시 AI를 활용할 수 있도록 준비해야 한다"고 말했다. 이어 "해킹으로부터 안전한 시스템을 만들려면 원인을 분석하고 그에 맞는 처방이 필요하다"며 "AI가 보조수단으로 쓰인 것인지 실질적으로 공격을 수행한 것인지 구분해 데이터를 축적하고 그에 맞는 대응책을 마련할 필요가 있다"고 강조했다.
