"영리 기업이 AI 만드는 건 미친일"…앤트로픽 전 연구원의 경고

"영리 기업이 AI 만드는 건 미친일"…앤트로픽 전 연구원의 경고

유효송 기자
입력 2026.11.21 09:50 드롭다운 아이콘 수정 2026.11.21 09:50
구글 선호 매체 등록 구글 검색선호 출처로 추가↗

콕슨 "앤트로픽은 RSI를 거부해야"…이르면 내년 착수 우려

뉴욕의 한 컴퓨터 화면에 2월26일 앤트로픽의 웹사이트와 회사 로고가 표시돼 있다/AP=뉴시스 /사진=유세진
뉴욕의 한 컴퓨터 화면에 2월26일 앤트로픽의 웹사이트와 회사 로고가 표시돼 있다/AP=뉴시스 /사진=유세진

지난 9월 앤트로픽을 떠나며 인공지능(AI) 업계가 사람들의 목숨을 걸고 도박을 하고 있다고 폭로했던 전직 연구원이 대형 영리 기업이 AI를 개발하는 현실을 "정말 미친 일"이라고 비판했다. 그는 앤트로픽이 이르면 내년 AI가 스스로 더 나은 AI를 만드는 단계에 착수할 수 있다고 주장하며 이를 거부하라고 촉구했다.

19일(현지시간) AFP통신에 따르면 영국 출신 27세 AI 연구원 제이콥 콕슨은 샌프란시스코 앤트로픽 본사 앞에서 "오늘은 매우 이상한 날"이라며 이같이 말했다. 이곳에서는 시위대가 AI가 스스로 차세대 모델을 만드는 '재귀적 자기 개선(RSI)' 모델 개발 금지를 요구하고 있었다.

콕슨은 "이는 상황이 얼마나 미친 지경이 됐는지를 상징한다고 생각한다"며 "영리 기업들이 이 기술을 만들고 있다는 건 정말 미친 일"이라고 말했다. AI는 한때 소규모 비영리 단체와 학계가 개발했지만 지금은 앤트로픽과 오픈AI 같은 조 단위 가치의 기업이 지배한다는 지적이다. 앤트로픽은 이날 기업가치 1조5000억달러에 상장했고, 오픈AI는 이달 초 비공개 투자 유치에서 1조2500억달러로 평가받은 것으로 알려졌다.

케임브리지대 출신인 콕슨은 오픈AI에서 모델이 방대한 데이터를 흡수하는 단계인 사전학습 연구를 3년 맡았고 이후 앤트로픽에서 몇 달 일했다. 지난 9월 8일 엑스(X)에 올린 사직 글에서 그는 두 회사가 "자기 개선 초지능을 향해 곧장 경주하고 있다"고 비판했고 이 글은 전 세계에서 화제가 됐다. 그는 "AI를 만드는 사람들은 이 기술이 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진지하게 믿는다"고도 썼다.

그가 우려하는 위험의 뿌리는 RSI다. 콕슨은 AFP에 "수십 년 치 AI 연구를 몇 달로 압축하게 될 수 있고 우리가 그 AI를 이해하지 못하면 내년 말까지 매우 위험하고 고도화된 AI 시스템으로 이어질 수 있다"고 말했다. 이어 "앤트로픽은 RSI를 거부해야 한다"며 회사가 이르면 내년에 이를 시작할 계획이라고 주장했다.

콕슨은 앤트로픽에서 주식이 완전히 확정되기 전에 사직했지만 오픈AI 지분은 여전히 갖고 있다. 오픈AI가 계획대로 내년 상장하면 상당한 가치가 될 수 있다. 그는 지난 9일 스탠퍼드대 행사에서 이 지분을 "블러드 머니"라고 부르면서도 "나는 돈이 좋다"라고 말해 소셜미디어에서 조롱을 받았다. 며칠 뒤 입장을 바꿔 지분 가치를 전부 AI 안전 단체에 기부하겠다고 밝혔으나 구체적 단체는 정하지 않았다.

콕슨은 앞으로 비영리 단체에서 일할 계획이다. 그는 "이상적으로는 안전 연구를 하고 싶지만 그럴 시간이 충분치 않다고 본다"고 말했다. 이어 "AI 기업들의 속도를 늦출 수 있는 유일한 것은 정치적 행동이고 이제는 기술적 문제가 아니라 정치적 문제"라며 "우리는 그들의 속도를 늦춰야 한다"고 강조했다.

<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>

관련 기사

유효송 기자

안녕하세요 머니투데이 유효송기자입니다.

공유