미국 인공지능(AI) 스타트업 앤트로픽이 최상위 인공지능(AI) 모델인 '미토스'급 성능을 갖춘 신형 모델 '클로드 페이블 5'를 일반에 출시했다.
9일(현지시간) 월스트리트저널(WSJ) 등 주요 외신에 따르면 이번에 공개된 페이블 5는 악용 우려로 일반 공개가 제한됐던 미토스의 강력한 연산 및 추론 능력을 안전하게 활용할 수 있도록 설계된 게 특징이다. 생물·화학 무기 개발이나 소프트웨어 취약점 악용과 같은 고위험 영역의 프롬프트가 입력될 경우 안전 시스템이 이를 감지해 이전 모델인 '클로드 오퍼스4.8'이 대신 응답하도록 전환된다.
다이앤 펜 앤트로픽 제품·연구 총괄은 "일반 사용자들에게도 높은 수준의 지능을 안전한 방식으로 제공하고 싶었다"고 말했다.
앤트로픽에 따르면 페이블5는 오퍼스4.8보다 더 높은 기억력과 맥락 유지 능력을 갖췄다. 이에 따라 사용자가 적은 지시를 내려도 복잡하고 규모가 큰 작업을 수행할 수 있으며 장문의 업무 처리에서도 효율성이 향상됐다.
가격은 토큰 기준으로 오퍼스4.8보다 2배 비싸다. 그러나 특정 유형의 복잡한 작업이나 소프트웨어 엔지니어링 등에선 페이블5가 훨씬 적은 수의 토큰으로도 답을 도출하기 때문에 업무 유형에 따라 운영 비용 효율은 오히려 더 높을 수 있다는 게 회사 측 설명이다.
앤트로픽은 해커들이 이른바 '탈옥' 기법을 이용해 안전장치를 우회하려 시도할 수 있다는 점을 인정하면서도 이를 방지하기 위한 광범위한 테스트를 진행했다고 설명했다.
지난 4월 처음 공개된 미토스는 기존 AI를 크게 뛰어넘는 소프트웨어 취약점 발견 및 해킹 관련 능력을 보여주며 미국 정부와 보안 업계에 충격을 안겼다. 때문에 미토스는 현재 버라이즌, 마이크로소프트(MS) 등 약 200개 기관에만 제한적으로 제공되고 있다.
앤트로픽은 이들 미토스 이용 기관을 대상으로 업그레이드 버전인 '미토스 5'도 제공할 계획이다. 앤트로픽은 향후 신뢰할 수 있는 기관을 중심으로 접근 권한을 확대하는 프로그램을 운영하며 이용 범위를 단계적으로 넓혀갈 방침이라고 밝혔다.
