국가인공지능전략위원회 'AI 개발 속도조절론 세미나' 진행
"영화 속 터미네이터를 막는 건 누군가요? 아놀드 슈워제네거(구형 터미네이터)입니다. 그가 없으면 인간은 바로 말살됩니다."
김성훈 업스테이지 대표는 1일 국가인공지능(AI)전략위원회 주관으로 서울스퀘어 16층 회의실에서 진행된 'AI 개발 속도조절론' 관련 세미나에서 "우리 편이 아닌 SI(슈퍼인공지능)을 이겨내려면 우리의 SI가 있어야 한다"면서 AI 개발을 지속해야 한다고 주장했다.
이날 세미나는 미국 빅테크를 중심으로 AI 속도조절론이 대두되는 가운데, 한국의 대응 방향을 고민하기 위해 마련됐다. 참석한 많은 산학연 관계자들도 AI 보안을 강화하기 위해 우리나라의 AI 기술을 안전하고 빠르게 개발해야 한다고 한 목소리를 냈다.
하정우 AI전략위원회 상근부위원장은 영상 축사를 통해 "AI 위험성 증가는 맞지만 어떤 장치를 만들고 안전하게 개발할지 평가 체계와 역량을 강화하는 것이 중요하다"며 "안전성 규율에 주도적인 목소리를 내려면 AI를 잘 만들어야 하고 영향력이 있어야 하며 힘을 가지고 있어야 한다"고 강조했다. 기술력을 먼저 확보해야 글로벌 AI 안전 규범 논의에서 영향력을 가질 수 있다는 의미다.
이원택 AI전략위 보안특위 위원장은 배경훈 부총리 겸 과학기술정보통신부 장관이 제시한 '속도책임론'을 한국이 취할 방향으로 평가했다. 이 위원장은 "앤트로픽 CEO가 말한 것은 AI 개발을 중단하자가 아니라 통제할 시간을 확보하자는 뜻"이라면서 "한국의 답은 프론티어 모델과 산업적 활용은 늦추지 말고 위험이 커지는 속도보다 사고 복원력과 책임 속도를 늘리는 '속도책임'"이라고 했다.
이어 "사고시 AI 권한을 끊고 통제가 될 수 있도록 하는 것이 진정한 AI 주권을 찾는 길"이라며 "미중 양강 구도 틈새에서 여러 나라가 다자 협력하는 과정에 함께 기능적인 연대와 AI 외교 전략을 짜는 것이 필요하다"고 했다.
AI로 인해 당면한 위험에 대해 대비해야 한다는 경고도 나왔다. 최대선 숭실대 AI안전성연구센터장은 공개된 AI 모델에 에이전트를 결합하는 것만으로 프론티어 모델을 넘어서는 사이버 공격 역량을 갖출 수 있다며 "우리는 프론티어가 아니니 우리 일이 아니라고 할 수 없다"고 말했다.
산업계에서는 속도조절이 기술 종속을 심화시킬 수 있다는 우려가 나왔다. 김성훈 대표는 미중 정상회담에서 양국이 AI 대신 SI(Super Intelligence·초지능)라는 표현을 쓰자고 합의한 것을 거론하며 "속도를 멈추자는 것은 미국과 중국처럼 SI를 만들 수 있는 곳은 전속력으로 달리면서 그 아래에 있는 나라들에 하는 얘기일 수 있다"며 "우리도 같이 멈추면 바닥을 기게 되고, 우리도 SI까지 가야 한다"고 했다.
독자들의 PICK!
AI로 인한 보안 위험을 막기 위해서는 다양한 사고 사례나 경험을 공유하는 것 역시 중요하다는 의견도 나왔다. 이한을 AIM인텔리전스 부사장은 "먼저 최상위 모델을 만들고, AI보안 연구를 위한 안전한 활용 경험과 사고정보 공유가 중요하다"면서 "우리 모두 취약점을 가지고 있으니 어떻게 극복했는지 자랑하고 공유가 돼야 한다"고 덧붙였다.
