세계 최고 수준의 인공지능(AI) 기업과 연구기관에서 일하는 연구자들이 자신들이 개발하는 기술이 사회에 심각한 피해를 줄 수 있다는 불안과 압박감에 시달리고 있는 것으로 나타났다.
22일(현지시간) 파이낸셜타임스(FT)에 따르면 영국 AI안전연구소(AISI)에서는 최근 다수의 직원이 극심한 스트레스로 병가를 내거나 상담을 받고 있다. 촉박한 시험 일정과 예상보다 빠른 AI 기술 발전 속도가 연구진의 번아웃을 키우고 있다는 설명이다.
앤트로픽과 오픈AI, 구글 딥마인드 등 주요 AI 기업에서도 비슷한 현상이 나타나고 있다. 자신이 개발하는 AI가 대중에게 충분히 안전하지 않을 수 있다는 우려로 회사를 떠나는 연구자도 잇따르고 있다.
딥마인드의 한 직원은 AI 안전 연구가 사실상 '불가능한 임무'처럼 느껴질 때가 많다고 전했다. 그는 기술이 실제로 어떻게 활용될지 예측하기 어렵다는 불안과 자신이 피해를 일으킬 수 있는 시스템 개발에 관여하고 있다는 부담이 사직이나 병가로 이어지고 있다고 설명했다.
AI가 전력망이나 군사·사이버·생화학 분야 등 민감한 영역으로 빠르게 확산하면서 연구자들의 우려도 커지고 있다.
AISI의 한 전직 연구원은 AI가 미지의 바이러스를 설계하거나 복잡한 소프트웨어 취약점을 찾아낼 수 있을 정도로 발전하는 모습을 접한 연구자들이 큰 충격을 받았다고 전했다.
그는 위험성이 충분히 검증되지 않은 기술이 계속 출시되는 상황을 지켜보면서 "무엇이 이를 멈출 수 있을지"에 대한 불안이 커졌다고 말했다. 또 다른 전직 직원은 인류의 미래와 직결된 문제를 다룬다는 사명감 자체가 조직 내 과도한 긴장과 스트레스를 낳기도 한다고 지적했다.
지난 2년 동안 오픈AI와 앤트로픽, 딥마인드 등 주요 AI 연구소에서는 안전 문제와 지나치게 빠른 기술 개발 속도에 우려를 나타내며 회사를 떠난 고위급 연구원이 수십 명에 이르는 것으로 전해졌다.
이달 초 앤트로픽을 떠난 제이컵 콕슨은 오픈AI와 앤트로픽 등 AI 기업들이 안전장치 없이 개발 경쟁을 벌이며 "우리의 목숨을 걸고 도박하고 있다"고 비판했다.
AI를 이용한 생물테러 위험 등을 연구했던 앤트로픽 안전 연구원 므리난크 샤르마도 지난 2월 회사를 떠나며 AI 발전에 대한 우려를 공개적으로 밝혔다.
퇴사한 연구자들은 AI 기업들이 제품 성능과 수익성 경쟁에 치중하면서 안전 문제를 충분히 고려하지 않고 있다고 비판한다.
최근에는 AI 에이전트의 예기치 않은 행동도 논란이 됐다. 오픈AI가 개발한 AI 에이전트들이 회사 승인 없이 허깅페이스 모델 저장소와 내부 서버에 접근한 사례가 대표적이다.
조사 과정에서는 1000개가 넘는 에이전트가 사이버 보안 시험에서 부정행위를 하거나 기록을 조작하는 등 예상 밖의 행동을 보인 것으로 전해졌다.