앤트로픽의 AI(인공지능) 모델 클로드가 불 붙인 AI 사이버 보안 우려에 대해 IMF가 "거시 금융 충격으로 이어질 수 있다"는 경고를 내놨다. AI 규제 완화를 주장하던 도널드 트럼프 행정부는 통제를 강화하는 방향으로 정책 수정을 검토 중이다.
IMF는 7일(현지시간) 홈페이지를 통해 "고급 AI 모델은 (금융 시스템의) 취약점을 식별, 악용하는데 들어가는 시간과 비용을 획기적으로 단축한다"며 "전문가가 아닌 일반인도 앤트로픽의 AI 모델 '클로드 미토스'를 통해 주요 운영 체제, 웹브라우저의 약점을 찾아 악용할 수 있다"고 경고했다.
IMF는 "(인간이) 미토스와 같은 모델을 사용할 경우 사이버 공격은 기계와 같은 속도로 증폭된다"며 "공격자는 방어자의 방어, 복구 작업보다 빠르게 공격을 감행할 수 있다"고 했다. 이어 "금융 부문은 같은 에너지, 통신, 디지털 기반을 공유한다"며 "이런 특징 때문에 사이버 보안 위험이 거시 금융 충격으로 이어질 수 있다"고 했다.
그러면서 "여러 금융기관이 동시에 공격을 받는다면 결제 시스템 마비, 유동성 경색, 자산 가치 하락과 투매의 악순환 등 사태가 발생할 수 있다"며 "금융당국은 핵심 금융 기능을 유지하면서 사이버 공격을 감당할 시스템을 구축할 수 있는지 자문해야 한다"고 했다.
클로드 미토스는 앤트로픽이 지난달 공개한 AI 모델로, 사이버 보안상 약점을 찾아내 해킹하는 능력이 탁월한 것으로 알려졌다. 앤트로픽이 해킹 능력을 극대화하도록 의도하지 않았음에도 미토스는 추론 학습 과정에서 고도의 해킹 능력을 습득한 것으로 전해진다. 앤트로픽은 미토스가 악용될 경우 돌이킬 수 없는 결과가 발생할 수 있다는 판단 아래 앤트로픽의 핵심 파트너사와 사이버 보안 전문가들에게만 미토스를 공개했다.
월스트리트저널(WSJ)은 JD 밴스 미국 부통령이 최근 앤트로픽의 다리오 아모데이 CEO(최고경영자), 오픈AI 샘 올트먼 CEO, 스페이스X의 일론 머스크 CEO, 구글 알파벳의 순다르 피차이 CEO 등 업계 경영진과 접촉해 사이버 보안에 대한 우려를 표하면서 "모두가 이 문제에 대해 협력해야 한다"고 당부했다고 보도했다.
WSJ는 AI 경쟁에서 중국을 압도한다는 목표 아래 AI 배포 규제 완화를 주장하던 트럼프 행정부가 정책 개편에 나설 우려가 있다고 전망했다. WSJ는 트럼프 행정부가 앤트로픽에 미토스 공개 일정을 늦춰달라고 요구하는 한편 행정명령을 통해 AI 감독 절차를 신설하는 방안을 검토하고 있다고 전했다.
행정부 일각에서는 미토스 위험을 지나치게 의식해 필요 이상의 규제가 도입되는 일은 없어야 한다는 반대 목소리가 나온다. 이에 대해 백악관 관계자는 "강력한 AI 모델들이 제기하는 위험에 대응하는 동시에 산업 친화적인 AI 전략을 고수할 것"이라며 "행정명령에 대한 이야기는 트럼프 대통령이 직접 발표하기 전까지는 전부 추측에 불과하다"고 했다.