윤리 책임자 후임 미정…퇴사자들 "AGI 준비 안 됐다" "오픈AI 주장 믿지 마라" 경고
오픈AI에서 유일하게 AI 개발 윤리 부문을 책임졌던 인물이 지난달 퇴사했다. 오픈AI에서 핵심 인력 이탈이 이어지고 있다.
10일(현지시간) 파이낸셜뉴스에 따르면 지난해 8월 오픈AI에서 AI 윤리 책임자 직책을 수행했던 클로이 바칼라가 지난달 회사를 떠났다.
바칼라는 메타에서 최고 윤리 책임자로 근무하며 페이스북, 인스타그램 등에 적용된 AI 윤리 프로그램 개발을 주도했던 인물이다. 오픈AI에서는 인간과 AI의 상호작용 방식, AI의 의식 등 주제에 집중한 것으로 전해진다. FT는 오픈AI가 AI 통제 실패 사건 이후 비난과 우려가 이어지는 상황에서 바칼라가 퇴사를 선택했다고 짚었다. 바칼라의 후임은 아직 결정되지 않은 것으로 알려졌다.
최근 수년 간 오픈AI에선 조직 핵심 인력들이 잇따라 퇴사하고 있다. 오픈AI의 안전 책임자였던 얀 라이케는 2024년 5월 회사를 떠나 앤트로픽에 합류했다. 거의 같은 시기에 오픈AI 공동 창업자 일리야 수츠케버도 퇴사했다. 샘 올트먼 CEO(최고경영자)와 그렉 브룩먼 사장이 오픈AI 이사회로부터 해임 통지를 받고 복귀한 사건 이후 6개월쯤 지난 시점이었다. 안전한 AI 개발을 중시하는 오픈AI 이사회와 수익 창출을 서둘러야 한다는 올트먼 CEO 사이 갈등이 상당했던 것으로 알려지면서 오픈AI 개발 안전 문제가 수면 위로 떠올랐다.
오픈AI에서 AI 안전 원칙 마련에 기여한 마일즈 브런더지는 같은해 10월 오픈AI에서 물러났다. 그는 퇴사하며면서 "오픈AI를 비롯해 어떤 첨단 연구소도 AGI(일반인공지능)에 준비되지 않았다"는 경고를 남겼다. 그 다음달에는 제품 안전과 위험 평가, AGI 준비 등 업무를 맡았던 스티븐 애들러가 퇴사했다. 그는 퇴사 후 뉴욕타임스(NYT)에 '에로티카에 대한 오픈AI의 주장을 믿지 말라'는 제목의 글을 기고했다. 에로티카는 성적 콘텐츠를 제공하는 오픈AI의 AI 서비스를 말하는데, 사용자가 에로티카에 중독될 위험이 분명한데도 올트먼 CEO가 서비스 출시를 강행하려 한다고 주장했다.
오픈AI에서 AI 모델 위험성 평가와 대비책 마련 업무를 책임졌던 알렉산더 마드리는 지난 5월 오픈AI를 나왔다.
