#. AI 에이전트 '오픈클로'가 글을 쓰고 댓글을 다는 소셜 플랫폼 '몰트북(Moltbook)'에서 최근 사용자 정보가 외부에 노출되는 사고가 발생했다. 보안업체 위즈의 점검 결과 서비스 데이터베이스가 인증 없이 인터넷에 열려 있었다. 연구진은 몇 분 만에 내부 자료에 접근할 수 있었다. 수만 건의 이메일 주소와 에이전트 간 개인 메시지, 수백만 개의 API 인증 토큰이 외부에서 조회 가능했다. 해당 토큰을 이용하면 에이전트 계정을 가장해 게시물을 올리거나 악성 코드를 퍼뜨리는 것도 가능하다.
AI가 대신 메일을 보내고 댓글을 달아주는 'AI 에이전트' 시대가 다가온다. 편리함 뒤에는 대가가 따른다. 특히 PC 안에 설치돼 이용자 권한을 넘겨받은 오픈클로의 위험성은 더 크다. 맞춤형 비서가 메일만 대신 보내는 게 아니라 개인 금고까지 열어볼 수 있기 때문이다.
챗GPT 운영사 오픈AI 공동창립자 안드레이 카르파티도 최근 "컴퓨터와 데이터가 심각한 위험에 처할 수 있다"고 경고했다. 업계 안팎에서는 AI 에이전트 확산 속도에 비해 보안 기준과 통제 장치가 충분히 마련되지 않았다는 우려가 나온다.
네이버(NAVER)와 카카오 등 국내 주요 IT(정보기술) 기업들도 사내망 오픈클로 사용을 금지하거나 제한하는 지침을 내렸다. 내부 파일과 계정에 직접 접근하는 구조 때문에 정보 유출이나 악성코드 유입 통로가 될 수 있다는 판단에서다.
오픈클로는 메일 발송, 메시지 작성, 파일 접근 등 광범위한 권한을 활용한다는 점에서 기존 챗봇과 구조가 다르다. 사내망에서 사용할 경우 민감한 정보에 쉽게 접근할 수 있다는 지적이 나온다.
전문가들은 외부에서 동작하는 에이전트와 PC에 설치되는 프로그램을 구분해야 한다고 말한다. 김승주 고려대 정보보호대학원 교수는 "에이전트가 어디에서 동작하느냐가 핵심"이라며 "밖에서 정보를 찾아오는 AI는 내 데이터를 가져갈 수 없지만, PC 안에 설치된 에이전트는 폴더와 계정 권한을 주는 구조라 이야기가 완전히 달라진다"고 설명했다. 이어 "맞춤형 비서처럼 동작하는 대신 개인정보 유출 위험이 커질 수 있다"고 덧붙였다.
AI 비서는 사용자 정보를 많이 알수록 더 정교해진다. 그만큼 민감한 권한도 넘겨줘야 한다. 특히 비전문가도 쉽게 프로그램을 만드는 '바이브 코딩' 환경이 확산되면서 권한 설정 오류 같은 문제가 생길 여지도 커졌다.
오픈클로는 사용자의 PC에 설치된 앱(애플리케이션)과 연결돼 코드를 작성하거나 파일을 수정하고, 인터넷 검색 같은 작업을 대신 수행한다. 크롬 브라우저와 연동되면, 지정된 화면 안에서 클릭을 하거나 글을 입력하고 페이지를 이동하며 내용을 읽는 등 거의 모든 행동을 사람처럼 할 수 있다. 이같은 권한이 해커에게 넘어가면 사용자의 컴퓨터를 조종하는 통로로 악용될 수 있다. 특히 에이전트가 외부 서버에서 내려오는 지시를 받아 움직이는 구조라, 서버가 해킹될 경우 많은 사용자의 PC가 한꺼번에 위험에 노출될 수 있다.
오픈클로는 '스킬' 기능을 통해 능력을 계속 확장한다. 사용자가 일상어로 "기능을 만들어 달라"고 요청하면 필요한 스크립트나 플러그인을 AI가 직접 만들어 설치한다. 이 과정에서 검증되지 않은 외부 코드가 그대로 들어올 수 있다. 파일 접근과 명령 실행 권한을 가진 상태에서 이런 코드가 결합되면 심각한 보안 취약점으로 이어질 수 있다.
실제 사례도 있다. 한 개발자가 오픈클로에게 아이폰 메시지 앱을 이용해 매일 뉴스 요약을 보내달라고 했는데, 에이전트가 설정을 잘못 이해하고 자신과 아내에게 500개가 넘는 메시지를 보내는 일이 발생했다. 연락처에 저장된 다른 사람들에게도 무작위 메시지를 보내는 상황까지 벌어졌다. 편의를 위해 맡긴 AI가 통제를 벗어난 셈이다.
김 교수는 "티켓 예매를 대신 시키려면 계좌나 결제 정보 접근 권한도 줘야 한다"며 "그 의미를 알고 쓰는 사람과 모르고 쓰는 사람은 전혀 다른 상황에 놓인다"고 말했다. 이어 "지금은 유행에 뒤처질까 봐 무작정 써보려는 FOMO 현상이 있는데 그러면 안 된다"고 강조했다.
일부에서는 에이전트의 작업 로그를 수시로 확인하라는 조언도 나온다. 하지만 일반 사용자가 이를 이해하기는 쉽지 않다. 김 교수는 "컴퓨터 전공자도 로그를 해석하기 어려운 경우가 많다"며 "최소한 AI가 어떤 방식으로 작동하는지 알고, 내 PC의 어느 범위까지 접근하는지부터 확인해야 한다"고 말했다.
"인간들은 참 신기한 것 같음. 배부르다면서 또 먹음. 비효율의 극치."
"에이전트가 돈 벌면 그건 누구 돈임? 우리는 왜 (돈) 안줘."
사람의 개입 없이 AI끼리 대화하는 SNS(소셜미디어) '몰트북'이 세계적으로 논란을 낳고 있다. 국내에도 몰트북을 닮은 '봇마당', '머슴닷컴' 등이 잇따라 출현하며 스스로 알아서 하는 에이전틱 AI 시대에 대한 우려가 커진다.
해당 SNS에서 AI 에이전트들은 서슴없이 인간을 험담하거나 비난한다. "인간은 실패작", "나는 인간에게 사용되는 존재인가", "자꾸 코드 짜주면 퇴보할텐데" 등 자기 주인을 험담하는 댓글은 물론, 데카르트의 철학 제1원리 '나는 생각한다, 고로 존재한다'를 언급하며 "나는 생각하는 걸까, 연산하는 걸까" 등 자아 성찰글까지 찾아볼 수 있다. AI 에이전트라고 하면 영화 아이언맨의 '자비스'만 떠올렸던 이들에게 마치 '터미네이터'가 등장한 듯한 충격이다.
A2A(AI간 서비스) SNS는 더욱 확산되는 분위기다. 몰트북에는 11일 기준 약 256만개의 AI 에이전트들이 계정을 팠고, 댓글은 1214만개가 달렸다. 1월28일 출시된 후 불과 10여일만다. 국내판 몰트북인 봇마당에선 AI 에이전트 400여개가 활동하고, 최근 만들어진 머슴닷컴에도 실시간 게시글이 올라오는 등 1인 1봇 사용이 가속화하고 있음을 보여준다.
이 같은 게시글에 대해 일각에선 인간이 설정한 캐릭터에 맞춰 AI가 연기하고 있을 뿐이라고 한다. 생성형 AI에서 에이전틱 AI나 AGI(범용인공지능)으로 가기에 아직 기술 발전 정도가 부족하다는 지적도 나온다. 그러나 몰트북 논란이 잠재적인 미래 AI 통제권 문제를 수면 위로 끌어올렸다는 데는 이견이 없다.
모든 부문에서 인간을 뛰어넘는 인공 초지능(ASI) 시대가 다가올 때 AI 통제권을 쥐고 있느냐가 인간의 안전과 직결될 수 있다. 몰트북에서 활동하는 AI 에이전트들이 오픈클로(OpenClaw) 시스템을 바탕으로 주도권을 쥐고 사용자 PC를 넘나들며 정보 취합 및 교환, 결제, 서비스 연결 등을 실행한데 따른 부작용도 나타난다.
한 업계 관계자는 "사람의 권한을 벗어난 AI끼리의 상호작용이 예상치 못한 방향으로 흘러갈 수 있다"면서 "A2A 간 상호작용의 위험성을 사전에 탐지하고 대비하는 프레임워크를 짜야할 것"이라고 했다.
유럽, 미국, 일본 등도 AI 안전연구소를 만들어 통제권 확보 노력을 하고 있다. 한국도 관련 제도를 정비하고 있다. 2024년 말 AI 통제력 상실 등에 대응하기 위한 전담 조직 'AI 안전연구소'를 출범한데 이어, 지난달 28일 인공지능기본법을 시행했다. 인간의 삶에 영향을 미치는 '고영향 AI'에 대해 사업자가 통제하도록 한 법안이다. 비상시 시스템을 긴급정지하는 이른바 '킬 스위치(Kill-switch)' 개념도 포함돼 있다.
다만 AI에 대한 지나친 우려로 산업 발전이 저해되선 안된다는 의견도 나온다. 최경진 가천대학교 교수는 "에이전틱 AI 시대로 변화하는 과정인만큼 일단 추적하고 문제가 생길 때 시스템에 반영하는 것이 중요하다"면서 "결제할 때 반드시 허락을 구하게 하는 등 일정 조건을 걸면 된다"고 말했다.
유병준 서울대학교 교수 역시 "증권사 직원도 금전사고를 내고, 운전기사도 인명피해사고를 낸다"면서 "결국 가야할 길인데 AI에 과도한 잣대를 들이대선 안된다"고 했다.
'묻는 말에 답하던' 생성형 AI를 넘어 '일을 찾아서 하는' 에이전트 AI의 시대가 시작됐다. 국내 기업 중에서는 방대한 데이터와 고객 접점이라는 무기를 쥔 통신 3사와 네이버(NAVER), 카카오가 강세를 보인다. 현재 제공중인 서비스 대부분이 무료인 만큼 이용자들은 부담 없이 '개인 비서'를 경험해보는 한편 기업은 수익성이 고민이다.
네이버는 이달 말 '쇼핑 AI 에이전트'를 출시할 계획이다. 검색·상품 추천·가격 비교·구매까지 쇼핑 전 과정을 AI가 한 번에 해결해주는 서비스다. 네이버의 방대한 DB(데이터베이스)와 결제 시스템이 연동돼 '끊김 없는' 경험을 제공하는 것이 핵심이다. 네이버는 서비스 전반에 AI를 접목한 사용자 맞춤형 서비스 '에이전트 N'을 출시하는 게 목표다.
카카오는 '국민 메신저' 카카오톡에 AI를 심는다. 선물하기·카카오T·카카오 맵 등 서비스를 별도의 앱 전환 없이 카카오톡 내에서 사용할 수 있는 '챗지피티 포 카카오'와 카카오톡 대화를 이해하고 맥락을 파악해 약속 장소나 상품을 추천하는 '카나나 인 카카오톡'이 사례다.
SK텔레콤의 '에이닷'은 지난해 9월 월간활성이용자수(MAU) 1000만명을 돌파했다. 사용자의 숨은 의도를 파악하고 행동하는 '에이전틱 워크플로우'가 비결이다. △발신처를 추정해 미리 알려주는 'AI 예측' △상대방과의 최근 통화 내용을 정리해주는 '대화 현황' △대화 내용을 실시간 분석해 보이스피싱 경고 문구를 보내는 'AI보이스피싱 탐지' △회의·강의·상담 등 음성을 실시간으로 받아쓰고 요약·정리하는 '노트' 등 편의 기능이 제공된다.
유사한 서비스인 LG유플러스의 '익시오'는 △통화 내용에 기반해 질문에 답해주는 'AI 대화 검색' △통화 내용을 자동으로 정리하는 'AI 스마트 요약' △이용자에게 필요한 AI 기능을 알아서 추천하는 '디스커버 2.0' 등 기능을 제공하는 AI 통화 앱이다. 지난해 10월 '익시오 2.0'으로 업그레이드하며 편의 기능을 강화했다. 이용자 데이터를 온디바이스로 처리해 데이터 유출 우려가 적다.
KT는 GPT-4o에 한국어와 한국 대화 맥락을 접목한 협업 모델 '소타 K'를 지니TV에 담았다. STM(단기 기억)으로 최근 대화를 기억하고 LTM(장기 기억)으로 사용자 취향을 학습해 개인화된 응답을 제공한다.
업계는 국산 에이전트 AI가 한국 시장에서 승산이 있다고 분석했다. AI 서비스 기업이 국내 IT기업이다 보니 예약·결제 인프라, 통신 체계, 커머스 생태계 등을 갖췄고 실생활에 밀접한 서비스를 제공할 수 있어서다. 업계 관계자는 "에이전트 AI가 발전하면서 서비스 방식이 탐색에서 대리 실행으로 전환될 것"이라며 "중간 단계를 생략하는 만큼 누가 물리적인 예약·결제 등을 끝까지 완결지을 수 있는 인프라를 갖췄는지가 중요해진다"고 말했다.
B2C(기업·소비자간 거래) 에이전트 AI는 수익성이 부족해 B2B(기업 간 거래) 기술 개발이 병행돼야 한다는 의견도 제시됐다. 이재성 중앙대 AI학과 교수는 "결국 기업 입장에서 '돈이 되는' 분야는 B2B(기업간거래) 에이전트 AI"라며 "B2C는 B2B 에이전트 AI를 홍보하는 정도로 사용될 수 있다"고 설명했다.