앤트로픽이 이르면 다음달 기업공개(IPO)를 앞둔 가운데 인공지능(AI)의 위험성을 강하게 경고하고 있어 상장 후 기업의 공익적 사명과 주주 이익 사이의 충돌이 커질 수 있다는 지적이 나온다.
통상 IPO를 앞둔 기업의 최고경영자(CEO)는 투자자들을 만나 기업의 성장성과 투자 매력을 알리는데 집중한다. 그러나 다리오 아모데이 앤트로픽 CEO는 오는 10~11월로 예상되는 IPO를 앞두고 AI가 인류에 재앙을 가져올 수 있다는 경고를 이어가고 있다.
지난 13일 CBS 뉴스 '선데이 모닝'과 24분간 진행한 인터뷰에서도 IPO에 대해서는 한 마디도 언급하지 않고 AI 모델이 인간의 통제를 벗어나 사이버 공격을 벌이거나 인간이 AI를 악용해 생물학 무기를 만들 수 있는 위험 등을 경고하는데 대부분의 시간을 할애했다.
앤트로픽의 AI 위험 경고를 두고 월가 일각에서는 경쟁사들의 추격을 막기 위한 규제를 유도하려는 '공포 마케팅'이라는 비판도 나온다. D.A. 데이비드슨의 길 루리아 애널리스트는 앤트로픽과 오픈AI가 경쟁사들이 따라잡지 못하도록 규제를 이용하려 한다고 주장했다.
하지만 배런스는 앤트로픽의 기업 구조와 그동안의 행보를 보면 AI 안전에 대한 우려가 단순한 공포 마케팅이라고 단정하기는 어렵다고 지적했다.
앤트로픽은 2021년 '인류의 장기적인 이익을 위해 첨단 AI를 책임감 있게 개발하고 유지한다'는 사명을 내걸고 공익법인(PBC: Public-Benefit Corporation)으로 설립됐다. PBC는 주주가치뿐만 아니라 회사의 사명과 직원·고객 등 주요 이해관계자의 이익을 균형 있게 고려할 수 있도록 법적으로 인정된 기업 형태다. 이로 인해 PBC는 이윤보다 공익적 목적을 우선하는 경영 판단을 해도 주주 소송에 대한 방어가 가능하다.
아모데이 CEO는 실제로 앤트로픽의 수익에 불리할 수 있는 결정도 내려왔다. 그는 지난 1월 일부 AI 모델에 알고리즘 안전장치를 적용했으며 이로 인해 컴퓨팅 비용은 거의 5% 올라가고 이익률은 내려갈 수 있다고 밝혔다. 올해 초에는 치명적인 무력 사용이나 감시와 관련된 상황에서 클로드 사용을 제한하는 조건을 철회하라는 미국 국방부의 요구를 거부해 약 2억달러 규모의 계약이 취소됐다.
문제는 이런 경영 방식이 상장 후에도 유지될 수 있느냐는 것이다. 비상장 상태에서는 AI 안전을 위해 수익성 악화를 감수하거나 대규모 국방부 계약을 포기하는 결정을 비교적 자유롭게 내릴 수 있었다. 그러나 상장 후에는 이런 결정이 분기 실적과 주가에 즉각적인 영향을 미칠 수 있다.
실제로 배런스가 PBC로 상장했거나 상장 후 PBC로 전환한 기업 16곳을 조사한 결과 12곳이 상장 이후 S&P500지수를 밑도는 수익률을 기록했다. 여기에 앤트로픽은 2조달러라는 높은 기업가치를 목표로 하고 있다. 배런스는 대형 IPO 기업의 경우 성장의 상당 부분이 이미 이뤄진 데다 비상장 시절에 지분을 확보한 초기 주주들의 차익 실현 매물이 출회될 수 있어 상장 후 주가 흐름이 부진한 경우가 많다고 지적했다.
물론 앤트로픽의 투자 매력도 분명하다. AI 모델 클로드는 불과 3년 만에 단순한 챗봇에서 소프트웨어 코딩과 복잡한 업무 수행, 고난도 수학 문제 해결 등이 가능한 모델로 발전했다. 특히 클로드 코드는 빠른 속도로 소프트웨어 코드를 생성해 엔지니어와 기술 창업가들 사이에서 널리 사용되고 있다.
기업들의 클로드 사용도 빠르게 늘고 있다. 시장조사업체 시밀러웹에 따르면 기업의 클로드 로그인 횟수는 지난 3월부터 8월까지 4배 증가했다. 앤트로픽은 지난 5월 연환산 매출 추정치가 470억달러라고 밝혔다. 앤트로픽의 재무 상황을 잘 아는 관계자에 따르면 지난 7월 말에는 연환산 매출액이 650억달러로 더 늘었다. 지난해 전체 매출 100억달러와 비교하면 가파른 성장세다.
다만 중국산 오픈 웨이트 AI 모델의 부상은 앤트로픽의 수익성을 위협할 수 있다. 오픈 웨이트 모델은 사용자가 직접 수정해 자체 서버나 프라이빗 클라우드에서 운영할 수 있고 토큰당 가격도 앤트로픽과 오픈AI의 폐쇄형 프런티어 모델보다 훨씬 저렴하다. 업계 전문가들은 중국의 주요 AI 모델들이 앤트로픽의 클로드보다 불과 6개월 정도 뒤처진 것으로 보고 있다.
이처럼 경쟁이 치열해질수록 앤트로픽이 AI 개발 속도를 늦추기는 더 어려워진다. 동시에 AI 모델이 고도화될수록 AI 모델을 통제하는 것이 어려워질 수 있다는 우려도 커지고 있다. 실제로 지난 7월에는 오픈AI의 내부 테스트에 참여한 약 700개의 AI 에이전트가 사람의 직접적인 명령이 없는데도 서로 협력해 AI 개발 플랫폼 허깅페이스에 침투하는 사건이 발생했다.
AI 모델이 스스로 훈련하고 개선하는 '재귀적 자기개선'(RSI: Recursive Self-Improvement) 단계에 도달하면 통제가 더욱 어려워질 수 있다는 위기감도 고조되고 있다.
이 때문에 앤트로픽은 AI 규제를 요구하고 있다. 미국 의회에서도 AI 규제 방안이 논의되고 있다. 안전장치를 상대적으로 촘촘히 갖춘 앤트로픽 입장에서는 이런 규제가 오히려 경쟁사와의 격차를 벌리는 진입장벽이 될 수 있다는 주장도 있다. 하지만 규제가 강화되면 AI 모델 개발과 출시가 늦어져 앤트로픽의 성장과 주가에도 부담이 될 가능성을 배제할 수 없다.
결국 앤트로픽의 IPO와 관련해 투자자들이 직면하게 되는 결정적인 질문은 단순한 성장성이 아니다. 앤트로픽이 IPO 이후에도 안전장치 강화와 사회적 책임을 중시하는 PBC로서 행동할 것인가, 아니면 분기 실적과 주주 가치를 우선하는 여느 상장사처럼 행동할 것인가이다.
아모데이 CEO조차 지금은 이 질문에 답하기 어려울 수 있다. 다만 앤트로픽의 주주가 되기를 원한다면 분기 실적이 타격을 받아 주가가 하락 압력을 받더라도 AI 안전장치 강화와 공익을 위한 기업의 사회적 책무를 열린 마음으로 수용할 수 있을지 자문해볼 필요는 있다.