[AI 속도조절론]
사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 최근 불거진 AI 속도조절론에 동의하면서도 소수의 주체가 AI 감시·통제를 맡아선 안 된다고 밝혔다.
나델라 CEO는 13일(현지시간) 자신의 소셜미디어(SNS) 엑스(X)에서 "초지능(Superintelligence)을 향한 어떠한 여정도 '우리가 구축하는 AI가 인류에 도움이 되지 않고 인간의 통제 아래 있지 않다면 추구할 가치가 없다'는 핵심 원칙에 뿌리를 둬야 한다"고 밝혔다. 그러면서 초지능 개발의 대전제로 '인간의 통제'와 '이익 공유'를 제시했다.
그는 AI의 혜택이 특정 국가나 기업에 편중되지 않아야 한다고 강조했다. 나델라 CEO는 "AI의 혜택을 국가, 지역 사회, 기업 전반에 널리 확산하고 가속화해야 한다"며 "이를 위해서는 폐쇄형 모델과 오픈소스 모델이 함께 공존하며 번영할 수 있는 프론티어 생태계가 필수적"이라고 강조했다.
기업의 자체 지식 통제권에 대해서도 언급했다. 그는 "기업들이 자신들만의 고유하고 암묵적인 지식에 대한 완전한 통제권을 유지하는 것이 매우 중요하다"며 "모든 조직은 특정 단일 모델 제공업체에 종속되지 않고 자체적인 지속적 학습 루프를 구축할 수 있어야 하며 직접 통제하는 모델과 가중치(weights)에 자체 지식을 내재화할 수 있는 역량을 갖춰야 한다"고 말했다.
그러면서 "이러한 맥락에서 우리는 설계 단계의 핵심 목표로서 AI 정렬(Alignment)을 제대로 구현하기 위해 필요한 연구, 집중, 신중한 속도 조절을 지지한다"며 " 아울러 독립 평가자(embedded evaluator)같은 아이디어와 이를 단순한 말에 그치지 않게 할 메커니즘을 개발하려는 노력도 환영한다"고 밝혔다.
독립평가자는 AI 기업 내부에 외부 독립 평가기관이 상시 접근할 수 있도록 해 모델뿐 아니라 학습 과정과 개발 환경까지 점검하도록 하자는 의견이다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 블로그를 통해 AI 기술 속도조절의 필요성을 언급하며 AI 모델 개발을 감독하는 외부 '독립 평가자' 도입과 민주주의 진영의 AI 기업 간 공통 안전 기준 제정 등을 대안으로 제시했다. 샘 올트먼 오픈AI CEO도 독립 평가자 의견에 대해 동의했다.
나델라 CEO는 이와 관련 "핵심은 이것이 소수의 주체에 의해 통제돼서는 안 되며, 학계를 포함해 생태계와 국가, 분야 전반에 걸쳐 폭넓은 대표성을 가져야 한다는 것"이라고 덧붙였다.
독자들의 PICK!
AI 통제 문제가 논란이 되자 글로벌 빅테크 기업들이 속도조절에 초점을 두고 AI 기술 공동 시험·감사 체계를 마련하기 위한 공동 표준기구 설립을 논의중인 것으로 전해졌다. 13일(현지시간) IT전문매체 디인포메이션 보도에 따르면 지난 7월 이후 앤트로픽·오픈AI·구글의 최고경영자(CEO) 아래 직급으로 구성된 실무그룹이 표준기구 구상을 논의하기 위해 정기적으로 회동해 왔다.
