한국에는 AI모델 출시 전 검증하는 제도·절차가 없는 것으로 확인됐다. 미국에서 주요 AI 기업들이 미공개 모델을 출시하려면 사전에 정부가 시험하는 'AI 충돌시험' 체계를 거쳐야 하는 것과 대조된다.
6일 과학기술정보통신부에 따르면 AI안전연구소가 지금까지 국내외 출시된 AI모델 42종을 평가했지만 출시 전에 평가한 사례는 전무했다. AI안전연구소는 공격형 사이버 분야를 포함해 국내외 모델을 평가한다. 하지만 기업이 공개 전에 모델 접근권을 제공해 정부가 해킹 능력을 검증하는 사전평가는 아직까지 이뤄진 적이 없다.
미국은 출시 전 평가체계를 구체화하고 있다. 백악관은 지난 4일(현지시간) 오픈AI·구글·앤트로픽·메타 등 주요 AI 기업 실무진과 회의를 열고 고성능 AI 모델의 자율 사이버보안 평가 방안을 논의했다. 회의에서는 국가안보 위험이 큰 폐쇄형 최첨단 모델을 중심으로 기업이 외부에 공개하기 전 정부 평가팀에 최대 30일간 접근권을 제공해 사이버 공격 능력 등을 시험하는 방안이 제시됐다. 메타의 라마(Llama)처럼 가중치를 공개하는 오픈웨이트 모델은 평가 대상에서 제외하는 방향도 논의됐다. 오픈AI·앤트로픽·구글 딥마인드·마이크로소프트·xAI 등 5개사가 미 상무부 산하 AI표준혁신센터(CAISI)의 출시 전 평가에 참여하고 있다.
영국 AI보안연구소는 오픈AI 최신 모델을 공개 전에 넘겨받아 32단계 모의 기업망에서 시험했고, 사이버보안 전문가에게 약 20시간이 걸릴 것으로 추정되는 공격을 AI가 10번 중 2번 완주했다는 결과를 보고서로도 냈다.
출시 후 AI에 대한 평가결과 공개에서는 한국이 앞서 있다. 과기정통부는 "정부·공공기관이 상용모델을 평가해 공개한 경우는 매우 적고 예외적"이라며 "영국도 미국과 공동 수행한 2건뿐이었고 일본·싱가포르·EU·캐나다·프랑스·호주는 모두 없었다"고 했다. 유일하게 한국 AI안전연구소만 카카오 카나나에 대한 평가 결과를 공개했다는 설명이다.
다만 미국식 사전평가 도입 여부에는 답하지 않았다. 한국에는 AI모델을 미리 받아 검사할 법적·제도적 통로가 없는 상태다.