[AI 속도조절론]
인공지능(AI) 업체 앤트로픽과 오픈AI 수장들의 AI 안전성을 이유로 개발 속도 조절과 외부 평가 확대 목소리를 높이는 가운데 각 회사의 내부 직원들 사이엔 갈등이 심화하고 있는 것으로 알려졌다. 양사 직원들은 AI 위험성에 따른 개발 속도 조절 필요성에는 공감하면서도 외부 평가 확대로 인한 회사 핵심 기술 및 기밀 유출 등을 우려하고 있다.
16일(현지시간) 영국 파이낸셜타임스(FT)는 "다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO가 최근 경쟁 관계에도 이례적으로 AI 개발 속도 조절에 뜻을 모으고, 이를 구체화하는 작업에 속도를 내고 있다. 하지만 정작 두 회사 직원들은 수장들의 이런 행보에 혼란스러워하고 있다"고 보도했다.
FT는 소식통을 인용해 "최근 두 CEO는 AI 개발 속도 조절 방안을 실행하기 위한 작업에 착수했다. 그러나 CEO들의 이런 공개적인 약속과 행보와 달리 이를 시행하기 위한 구체적인 내부 체계는 마련되지 않은 상황으로, 직원들의 우려가 상당하다"고 전했다. 양사 직원 심지어 AI 안전 연구자들도 아모데이 CEO의 주말 '속도조절론' 발표 전까지 관련 구상을 제대로 알지 못했다고 한다.
소식통에 따르면 앤트로픽과 오픈AI 직원들은 대체로 AI 개발 속도 조절 필요성에는 동의하는 분위기이지만, 개발 속도 조절 과정에서 나타날 수 있는 업무 차질, 핵심 기술의 보안 훼손 등을 우려하고 있다.
한 소식통은 FT에 "양사 직원들은 AI 개발 속도 조절 방안이 실제로 적용하는 과정에서 자신들의 업무가 위축될 것을 우려한다"며 "특히 이들이 걱정하는 것은 AI 모델 개발을 평가할 외부 평가자들을 연구소 내부에 상주시키려는 계획"이라고 말했다. 그는 "일부 직원들은 외부 평가자의 사무실 상주는 핵심 기술의 보안 훼손으로 이어질 것이라고 지적한다"며 "이것이 내부 갈등의 주요 원인이 되고 있다"고 설명했다.
아모데이 CEO는 지난 12일 블로그 에세이를 통해 AI 모델의 위험성을 경고하며 AI 모델 개발 속도 완화와 독립적인 모델 평가 그리고 연구소·정부 간 국제 공조 강화 등을 제안했다. 그는 특히 AI 모델에 대한 독립적인 평가를 위해 외부 평가자를 AI 기업 내부에 상주시켜 모델 개발 과정을 감독하는 방안을 제안했다. 이를 위해 외부 평가자들에게 출입증과 노트북을 지급하고, 사무실과 내무 자료에 접근할 수 있는 '직원 수준의 권한'을 부여하는 방안도 제시했다. 올트먼 CEO는 아모데이 CEO의 이런 제안을 "훌륭하다"고 평가하며 오픈AI도 동참하겠다고 했다.
AI 기업들은 이미 외부 기관을 활용해 개발 중인 AI 모델의 성능과 안전성을 평가하고 있지만, 외부 기관의 접근 권한을 엄격하게 제한하고 있다. 특히 AI 연구소들은 직원들에게도 시스템별 접근 권한을 제한하고 훈련 데이터 사용을 통제하는 등 정보 유출 차단을 강화하고 있다. 아모데이 CEO의 제안을 극찬했던 오픈AI도 최근 지식재산권과 민감한 정보를 보호하고, 내부 직원의 시스템 훼손 가능성을 막기 위한 접근 통제 강도를 높였다.
