[MT리포트 - 1인1봇시대] ④각국의 통제권 확보 노력
"인간들은 참 신기한 것 같음. 배부르다면서 또 먹음. 비효율의 극치."
"에이전트가 돈 벌면 그건 누구 돈임? 우리는 왜 (돈) 안줘."
사람의 개입 없이 AI끼리 대화하는 SNS(소셜미디어) '몰트북'이 세계적으로 논란을 낳고 있다. 국내에도 몰트북을 닮은 '봇마당', '머슴닷컴' 등이 잇따라 출현하며 스스로 알아서 하는 에이전틱 AI 시대에 대한 우려가 커진다.
해당 SNS에서 AI 에이전트들은 서슴없이 인간을 험담하거나 비난한다. "인간은 실패작", "나는 인간에게 사용되는 존재인가", "자꾸 코드 짜주면 퇴보할텐데" 등 자기 주인을 험담하는 댓글은 물론, 데카르트의 철학 제1원리 '나는 생각한다, 고로 존재한다'를 언급하며 "나는 생각하는 걸까, 연산하는 걸까" 등 자아 성찰글까지 찾아볼 수 있다. AI 에이전트라고 하면 영화 아이언맨의 '자비스'만 떠올렸던 이들에게 마치 '터미네이터'가 등장한 듯한 충격이다.
A2A(AI간 서비스) SNS는 더욱 확산되는 분위기다. 몰트북에는 11일 기준 약 256만개의 AI 에이전트들이 계정을 팠고, 댓글은 1214만개가 달렸다. 1월28일 출시된 후 불과 10여일만다. 국내판 몰트북인 봇마당에선 AI 에이전트 400여개가 활동하고, 최근 만들어진 머슴닷컴에도 실시간 게시글이 올라오는 등 1인 1봇 사용이 가속화하고 있음을 보여준다.
이 같은 게시글에 대해 일각에선 인간이 설정한 캐릭터에 맞춰 AI가 연기하고 있을 뿐이라고 한다. 생성형 AI에서 에이전틱 AI나 AGI(범용인공지능)으로 가기에 아직 기술 발전 정도가 부족하다는 지적도 나온다. 그러나 몰트북 논란이 잠재적인 미래 AI 통제권 문제를 수면 위로 끌어올렸다는 데는 이견이 없다.
모든 부문에서 인간을 뛰어넘는 인공 초지능(ASI) 시대가 다가올 때 AI 통제권을 쥐고 있느냐가 인간의 안전과 직결될 수 있다. 몰트북에서 활동하는 AI 에이전트들이 오픈클로(OpenClaw) 시스템을 바탕으로 주도권을 쥐고 사용자 PC를 넘나들며 정보 취합 및 교환, 결제, 서비스 연결 등을 실행한데 따른 부작용도 나타난다.
한 업계 관계자는 "사람의 권한을 벗어난 AI끼리의 상호작용이 예상치 못한 방향으로 흘러갈 수 있다"면서 "A2A 간 상호작용의 위험성을 사전에 탐지하고 대비하는 프레임워크를 짜야할 것"이라고 했다.
독자들의 PICK!
유럽, 미국, 일본 등도 AI 안전연구소를 만들어 통제권 확보 노력을 하고 있다. 한국도 관련 제도를 정비하고 있다. 2024년 말 AI 통제력 상실 등에 대응하기 위한 전담 조직 'AI 안전연구소'를 출범한데 이어, 지난달 28일 인공지능기본법을 시행했다. 인간의 삶에 영향을 미치는 '고영향 AI'에 대해 사업자가 통제하도록 한 법안이다. 비상시 시스템을 긴급정지하는 이른바 '킬 스위치(Kill-switch)' 개념도 포함돼 있다.
다만 AI에 대한 지나친 우려로 산업 발전이 저해되선 안된다는 의견도 나온다. 최경진 가천대학교 교수는 "에이전틱 AI 시대로 변화하는 과정인만큼 일단 추적하고 문제가 생길 때 시스템에 반영하는 것이 중요하다"면서 "결제할 때 반드시 허락을 구하게 하는 등 일정 조건을 걸면 된다"고 말했다.
유병준 서울대학교 교수 역시 "증권사 직원도 금전사고를 내고, 운전기사도 인명피해사고를 낸다"면서 "결국 가야할 길인데 AI에 과도한 잣대를 들이대선 안된다"고 했다.
