[스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
카이스트(KAIST) 연구진이 20년간 쌓인 뉴스 댓글 1억 1000만 건을 AI로 분석해 외국 연계 영향력 활동으로 의심되는 흔적과 그 판단 근거까지 찾아내는 기술을 개발했다.
KAIST는 문화기술대학원 이원재 교수, 전산학부 차미영 교수(독일 막스플랑크 연구소 단장 겸임)·오혜연 교수 공동연구팀이 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구를 통해 온라인 뉴스 댓글에서 외국 연계 영향력 활동 패턴을 자동 탐지하고 판단 근거까지 제시하는 '설명 가능한 AI 기술'을 개발했다고 12일 밝혔다.
특정 세력이 댓글이나 게시물을 조직적으로 확산해 여론에 영향을 미치려는 활동을 '온라인 영향력 공작'이라고 한다. 기존 AI 탐지 기술은 의심 계정을 분류할 수는 있어도 그 판단 근거를 구체적으로 제시하기는 어려웠다.
연구팀은 국가안보전략연구원이 앞서 식별한 외국 연계 계정 70개를 출발점 삼아, 이들과 연관되거나 같은 기사에 반복적으로 댓글을 단 계정들을 추적해 2006년부터 2025년까지 네이버 뉴스 댓글 약 1억 1000만 건을 분석했다.
AI는 단계적으로 댓글을 분석한다. 먼저 외국과 연계됐다고 의심할 만한 표현이나 맥락을 살피고, 이어 도덕적 비난이나 맹목적 찬양 등 사회적 양극화를 키울 수 있는 감정을 분석한 뒤, 그 감정이 어느 국가나 대상을 향하는지 파악한다. 판단 근거가 된 댓글 속 표현을 함께 제시해 사람이 확인할 수 있도록 했고, 계정의 활동 빈도·기간, 다른 의심 계정과의 연관성 등 행동 패턴도 함께 분석했다.
이를 통해 네이버 뉴스 이용자 약 400만 명 가운데 외국 연계 영향력 활동이 의심되는 계정 2만 3998개를 식별했다. 이들 계정은 특정 정치 진영을 일방적으로 지지하기보다 한국 사회 내부의 갈등과 대립을 증폭시키는 메시지를 주로 냈다. 실제로 호응을 많이 얻은 상위 10개 표적 중 7개가 국내 유명 정치인이었고, 진보·보수 양 진영의 전·현직 대통령과 대선 후보, 정당 등이 폭넓게 대상이 됐다.
연구팀은 외국 연계 영향력 활동을 '어느 정치 세력을 지지하는가'라는 관점만으로 봐서는 안 되며, 특정 진영을 직접 지원하기보다 기존 정치적 갈등을 자극해 사회적 불신과 양극화를 키우는 방식일 가능성도 살펴야 한다고 설명했다.
이 기술은 선거나 국가적 위기처럼 사회적 갈등이 급격히 높아지는 시기에, 포털과 모니터링 기관이 우선 검토할 계정이나 메시지를 AI로 선별하고 전문가가 최종 판단하는 방식으로 활용될 수 있다. 연구팀은 AI가 계정을 자동 차단·제재하기보다 전문가 판단을 지원하는 '설명 가능한 콘텐츠 관리 도구'로 쓰여야 한다고 강조했다.
이원재 교수는 "의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다"며 "선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것"이라고 말했다.
오혜연 교수는 "AI가 댓글의 표면적 의미를 넘어 갈등을 유발하는 감정과 계정의 조직적 행동 패턴까지 함께 분석했다"고 설명했다.
차미영 교수는 "데이터 과학을 실제 사회 문제 해결로 연결한 '액셔너블 데이터 과학' 사례"라며 "디지털 공론장의 투명성과 신뢰를 높이는 도구가 되길 기대한다"고 말했다.