[AI 속도조절론]
인공지능(AI) 개발 속도 조절과 외부 평가 확대 논쟁에 불을 지핀 앤트로픽이 사내 상주 독립 안정 평가기관을 지정했다.
18일(현지시간) CNBC 등에 따르면 앤트로픽은 이날 회사 내 상주해 자사 AI 모델의 안전성을 평가할 외부 기관으로 자문업체 액센추어를 선정하고, 향후 5년간 AI 안전성 평가 분야의 역량 구축을 위해 각각 최소 10억달러(약 1조3880억원) 투자에 합의했다고 밝혔다.
앤트로픽은 이번 협력에 따라 액센추어의 AI 전문 사업부 '패큘티'(Faculty) 소속 평가단은 앤트로픽 내부에 배치돼 앤트로픽 임직원과 유사한 수준의 시스템 접근권을 부여받는다. 이를 통해 현재 개발 중인 AI 모델에 대한 적대적 공격 등 레드팀 테스트를 수행한다. 또 AI 모델이 인간의 가치에 부합하는 방식으로 행동하는지 등을 평가한다.
앤트로픽은 "이번 협력은 액센추어와의 독점적 제휴는 아니"라며 연구 비영리단체인 METR를 비롯해 다른 제3자 기관들과의 협의로 진행하고 있다고 전했다. 이어 "자사 AI 모델의 안전에 대한 최종 책임은 여전히 회사에 있다"며 "상주형 평가기관과의 협력이 회사의 책임을 축소하지는 않을 것"이라고 강조했다. 그러면서 "사람들과 다른 AI 개발자들이 우리의 과정을 볼 수 있도록 이런 초기 단계의 노력을 지금 공유하고 있다"며 "AI 분야가 성숙함에 따라 우리의 접근 방식도 발전할 것으로 예상된다. (AI 모델 평가) 작업을 시작하고, 추가 평가기관 영입하면서 더 많은 내용을 공유할 것"이라고 덧붙였다.
앤트로픽은 "장기적으로는 6월에 발표한 '첨단 AI 프레임워크에서 제안한 것처럼 공동 기금이나 정부 재원에서 자금이 나와야 한다고 생각한다'면서도 "현재 어느 쪽도 존재하지 않기 때문에 다양한 자금 조달 방식으로 여러 평가기관과 협력할 계획"이라고 전했다. 다만 사안의 중요성과 시급성을 고려해 액센추어의 업무에 필요한 비용을 직접 지원할 것이라고 설명했다.
이번 지정은 지난 12일 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 개발 속도 조절과 외부 독립 기관의 평가 및 감시 확대를 주장하며 AI 안전 위험성을 둘러싼 논쟁이 심화하는 상황에서 이뤄졌다. 이와 관련 앞서 파이낸셜타임스(FT)는 아모데이 CEO의 이런 주장이 앤트로픽의 내부 갈등을 촉발하고 있다고 보도했다. FT에 따르면 앤트로픽 직원들은 AI 위험성에 따른 개발 속도 조절 필요성에는 공감하면서도 외부 평가 확대로 인한 회사 핵심 기술 및 기밀 유출 등을 우려하고 있다. 특히 외부 독립 평가자들의 사내 상주에 대한 불만이 상당한 것으로 전해졌다.
