[MT리포트 - 1인1봇시대] ③'AI 에이전트' 보안 경고등
#. AI 에이전트 '오픈클로'가 글을 쓰고 댓글을 다는 소셜 플랫폼 '몰트북(Moltbook)'에서 최근 사용자 정보가 외부에 노출되는 사고가 발생했다. 보안업체 위즈의 점검 결과 서비스 데이터베이스가 인증 없이 인터넷에 열려 있었다. 연구진은 몇 분 만에 내부 자료에 접근할 수 있었다. 수만 건의 이메일 주소와 에이전트 간 개인 메시지, 수백만 개의 API 인증 토큰이 외부에서 조회 가능했다. 해당 토큰을 이용하면 에이전트 계정을 가장해 게시물을 올리거나 악성 코드를 퍼뜨리는 것도 가능하다.
AI가 대신 메일을 보내고 댓글을 달아주는 'AI 에이전트' 시대가 다가온다. 편리함 뒤에는 대가가 따른다. 특히 PC 안에 설치돼 이용자 권한을 넘겨받은 오픈클로의 위험성은 더 크다. 맞춤형 비서가 메일만 대신 보내는 게 아니라 개인 금고까지 열어볼 수 있기 때문이다.
챗GPT 운영사 오픈AI 공동창립자 안드레이 카르파티도 최근 "컴퓨터와 데이터가 심각한 위험에 처할 수 있다"고 경고했다. 업계 안팎에서는 AI 에이전트 확산 속도에 비해 보안 기준과 통제 장치가 충분히 마련되지 않았다는 우려가 나온다.
네이버(NAVER(252,500원 ▼3,000 -1.17%))와 카카오(57,400원 ▼1,400 -2.38%) 등 국내 주요 IT(정보기술) 기업들도 사내망 오픈클로 사용을 금지하거나 제한하는 지침을 내렸다. 내부 파일과 계정에 직접 접근하는 구조 때문에 정보 유출이나 악성코드 유입 통로가 될 수 있다는 판단에서다.
오픈클로는 메일 발송, 메시지 작성, 파일 접근 등 광범위한 권한을 활용한다는 점에서 기존 챗봇과 구조가 다르다. 사내망에서 사용할 경우 민감한 정보에 쉽게 접근할 수 있다는 지적이 나온다.
전문가들은 외부에서 동작하는 에이전트와 PC에 설치되는 프로그램을 구분해야 한다고 말한다. 김승주 고려대 정보보호대학원 교수는 "에이전트가 어디에서 동작하느냐가 핵심"이라며 "밖에서 정보를 찾아오는 AI는 내 데이터를 가져갈 수 없지만, PC 안에 설치된 에이전트는 폴더와 계정 권한을 주는 구조라 이야기가 완전히 달라진다"고 설명했다. 이어 "맞춤형 비서처럼 동작하는 대신 개인정보 유출 위험이 커질 수 있다"고 덧붙였다.
AI 비서는 사용자 정보를 많이 알수록 더 정교해진다. 그만큼 민감한 권한도 넘겨줘야 한다. 특히 비전문가도 쉽게 프로그램을 만드는 '바이브 코딩' 환경이 확산되면서 권한 설정 오류 같은 문제가 생길 여지도 커졌다.
독자들의 PICK!
오픈클로는 사용자의 PC에 설치된 앱(애플리케이션)과 연결돼 코드를 작성하거나 파일을 수정하고, 인터넷 검색 같은 작업을 대신 수행한다. 크롬 브라우저와 연동되면, 지정된 화면 안에서 클릭을 하거나 글을 입력하고 페이지를 이동하며 내용을 읽는 등 거의 모든 행동을 사람처럼 할 수 있다. 이같은 권한이 해커에게 넘어가면 사용자의 컴퓨터를 조종하는 통로로 악용될 수 있다. 특히 에이전트가 외부 서버에서 내려오는 지시를 받아 움직이는 구조라, 서버가 해킹될 경우 많은 사용자의 PC가 한꺼번에 위험에 노출될 수 있다.
오픈클로는 '스킬' 기능을 통해 능력을 계속 확장한다. 사용자가 일상어로 "기능을 만들어 달라"고 요청하면 필요한 스크립트나 플러그인을 AI가 직접 만들어 설치한다. 이 과정에서 검증되지 않은 외부 코드가 그대로 들어올 수 있다. 파일 접근과 명령 실행 권한을 가진 상태에서 이런 코드가 결합되면 심각한 보안 취약점으로 이어질 수 있다.
실제 사례도 있다. 한 개발자가 오픈클로에게 아이폰 메시지 앱을 이용해 매일 뉴스 요약을 보내달라고 했는데, 에이전트가 설정을 잘못 이해하고 자신과 아내에게 500개가 넘는 메시지를 보내는 일이 발생했다. 연락처에 저장된 다른 사람들에게도 무작위 메시지를 보내는 상황까지 벌어졌다. 편의를 위해 맡긴 AI가 통제를 벗어난 셈이다.
김 교수는 "티켓 예매를 대신 시키려면 계좌나 결제 정보 접근 권한도 줘야 한다"며 "그 의미를 알고 쓰는 사람과 모르고 쓰는 사람은 전혀 다른 상황에 놓인다"고 말했다. 이어 "지금은 유행에 뒤처질까 봐 무작정 써보려는 FOMO 현상이 있는데 그러면 안 된다"고 강조했다.
일부에서는 에이전트의 작업 로그를 수시로 확인하라는 조언도 나온다. 하지만 일반 사용자가 이를 이해하기는 쉽지 않다. 김 교수는 "컴퓨터 전공자도 로그를 해석하기 어려운 경우가 많다"며 "최소한 AI가 어떤 방식으로 작동하는지 알고, 내 PC의 어느 범위까지 접근하는지부터 확인해야 한다"고 말했다.
