AI안전연구소, 위험평가 인력 6명뿐…ETRI 원장 "많이 미흡"

인공지능(AI) 모델의 위험성을 직접 분석하고 해킹 시뮬레이션 등을 수행하는 한국전자통신연구원(ETRI) AI안전연구소의 전문인력이 6명에 불과한 것으로 나타났다. AI안전연구소가 자체 연산 인프라 부족으로 민간 클라우드사의 GPU 서버까지 빌려 쓰고 있는 상황에서 ETRI도 현재 인력과 인프라가 충분하지 않다는 점을 인정했다.

이정헌 더불어민주당 의원은 20일 국회 과학기술정보방송통신위원회의 국가과학기술연구회(NST) 및 소관 연구기관 국정감사에서 박세웅 ETRI 원장을 상대로 AI안전연구소의 인력과 인프라 확충 필요성을 질의했다. AI안전연구소는 인공지능기본법에 따라 AI의 위험성을 평가하고 안전기준 등을 연구하기 위해 ETRI 산하에서 운영되고 있다.

이 의원은 "AI안전연구소 인력 가운데 실제 AI 모델의 위험을 분석하고 해킹 시뮬레이션을 돌릴 수 있는 인력은 6명에 불과한 것이 맞느냐"고 물었다. 박 원장은 관련 업무를 담당하는 조직에 대해 "6명이 담당하고 있다"고 답했다.

이 의원은 "영국은 관련 인력이 200명이고 일본과 유럽 주요국도 프론티어 모델을 평가할 전문인력을 수십명에서 수백명씩 확보하고 있다"며 "6명으로 가능한가"라고 물었다. 이에 박 원장은 "굉장히 제한된 일을 수행하고 있다"며 "주어진 인원 범위 내에서 감당하고 있지만 많이 미흡한 것이 사실"이라고 말했다.

연산 인프라 부족 문제도 제기했다. 이 의원이 AI 안전평가 조직에서 민간 클라우드사로부터 GPU 클라우드 서버 2대를 빌려 사용하고 있는지를 묻자 박 원장은 "GPU가 상당히 부족하기 때문에 외부에 있는 리소스를 쓰고 있다"고 답했다.

이 의원은 "사실상 셋방살이를 하는 것인데 이런 자원으로 통제 불가능한 모델 검증이나 초거대 AI 모델의 자율 해킹 시뮬레이션이 가능하겠느냐"며 "ETRI 산하의 한 부서만으로 고위험·초고도 AI 위협에 대응하기 어렵다"고 지적했다.

이어 AI안전연구소에 독자적인 인사·예산 권한을 부여하고 정부 직속 법정 전문기구로 위상을 강화하는 방안을 검토해야 한다고 주장했다.

민간 빅테크 기업들의 AI 안전의무 위반에 대한 제재 수준도 도마에 올랐다. 이 의원은 현행 과태료가 최대 3000만원 수준이라며 "수조원씩 버는 빅테크가 과태료 3000만원에 눈 하나 깜짝하겠느냐"고 말했다.

박 원장도 제재 수준을 높일 필요가 있다는 입장을 밝혔다. 박 원장은 "과태료는 의미 있는 숫자로 늘리지 않으면 사실 업체들을 제한할 수 없다고 본다"며 "의미 있는 수준으로 올려야 한다"고 말했다. 이어 기업 부담을 함께 고려해야 한다면서도 "기업의 레벨이나 규모에 따라 다른 과태료 체계를 가져가야 하지 않을까 생각한다"고 밝혔다.