'미토스(Mythos) 쇼크'를 계기로 현실화된 AI 보안 위협에 대비하기 위해 정부가 오픈AI의 보안 협의체 GTAC(정부·기관용 신뢰기반 접근 프로그램)에 참여한다. 앤트로픽의 초고성능 AI 모델 '미토스'는 수십년간 발견하지 못한 소프트웨어 취약점을 찾아내고 자동으로 해킹하는 모습으로 보안업계에 충격을 안겼다.
27일 과학기술정보통신부(과기정통부)는 전날 오픈AI와 간담회를 열고 오픈AI가 이끄는 정부 보안협의체 'GTAC'에 참여하기로 했다고 공식 발표했다. 해당 간담회에 한국 측은 과기정통부 류제명 제2차관 등이 참석했고 오픈AI 측에선 제이슨 권(Jason Kwon) CSO(Chief Strategy Officer) 등이 참여했다.
양측은 이 자리에서 AI 보안위협 대응, AI 안전·신뢰 확보 등 협력 방안을 모색하고, GTAC 참여를 공식화했다. 아시아에서 GTAC 참여는 한국과 일본이 나란히 첫 사례가 된다.
GTAC 프로그램에 참여하는 기관은 오픈 AI의 최신 고성능 AI 모델에 대한 접근권한을 획득한다. 실무적으로 한국인터넷진흥원(KISA)이 프로그램을 수행할 예정이다. 앞으로 과기정통부와 오픈AI는 AI 모델의 사이버보안 분야 활용, AI 안전성 확보를 위한 협력 방안에 대해서도 논의할 예정이다.
과기정통부는 AI안전연구소(AISI)와 오픈AI 간 협력관계 구축도 요청했다. 최근 AI의 성능 향상, 활용범위 확대로 AI 위험이 다양해졌다고 판단했다.
오픈AI는 이날 기자간담회를 열고 '한국 사이버 액션 플랜'을 구체적으로 소개했다. 한국 정부와 공공기관, 기업들이 오픈AI의 최신 고성능 AI 모델에 접근할 수 있도록 하는 내용이 골자로 △최신 사이버 AI 역량에 대한 브리핑 및 시연 제공 △TAC 프로그램 참여를 통한 한국 정부와 관련 공공기관의 첨단 사이버 모델 접근 확대 △국가 핵심 산업을 담당하는 국내 주요 기업들의 TAC 확대 등이 포함됐다.
이번 협력은 그간 정부의 사이버 보안 강화 노력이 성과로 이어졌다는 점에서 의미있다. 과기정통부는 최근 '미토스 쇼크'를 계기로 글로벌 AI 기업들과 연이어 접촉해 AI로부터의 사이버 위협 대응 방안을 강구해왔다. 오픈AI의 TAC 참여와 앤트로픽의 보안협의체 '프로젝트 글래스윙' 참여를 동시에 타진해왔다.
앤트로픽도 조만간 본사 고위 임원진이 방한해 한국 지사를 공식 설립하고 주요 고객사를 만날 예정이다. 이에 앤트로픽과의 협력 여부에도 관심이 쏠린다. 앤트로픽은 이날 스노우플레이크 한국 총괄을 맡았던 최기영 대표를 한국사무소 대표로 선임했다.
류제명 과기정통부 제2차관은 "이번 오픈 AI와의 협력성과로 한국이 AI 보안위협을 사전에 대비할 수 있는 토대가 마련됐다"면서 "과기정통부는 앞으로도 글로벌 AI 기업과 적극적인 협력, 실무 논의를 통해 국내 AI 보안 역량을 제고하겠다"고 밝혔다.