오픈AI가 출시를 앞두고 있던 AI(인공지능) 모델인 GPT-6.1 아스트라를 공개하지 않기로 결정했다. 아스트라가 AI 안전성 기준을 충분히 충족하지 못한다고 판단했기 때문이다.
CNBC 등에 따르면 오픈AI의 안전 시스템 책임자인 사치 자인은 28일(현지시간) 성명을 통해 "우리는 회사 내부에서든, 사용자에게 출시할 때든 모델 개발이 안전하다는 점을 확실히 하고 싶다"고 밝혔다. 이어 "우리가 (AI 모델을) 사용자에게 출시할 때는 안전성과 정렬(alignment) 측면에서 매우 높은 기준을 적용한다"고 강조했다.
오픈AI의 아스트라 출시 포기는 AI 업계에 최첨단 AI 모델의 안전성을 둘러싼 우려가 갈수록 커지고 있는 상황에서 이뤄진 결정이다.
다리오 아모데이 앤트로픽 최고경영자(CEO)가 이달 초 에세이를 통해 AI 모델이 인간의 통제를 벗어날 위험이 있다고 경고한 이후 AI 안전성에 대한 경각심이 높아지고 있다.
