미국 빅테크 수장들이 잇따라 인공지능(AI) 개발 속도를 늦춰야 한다는 이른바 'AI 속도조절론' 주장을 펼치는 가운데 마이크로소프트(MS)가 'AI 행동 강령'을 발표했다.
MS는 14일(현지시간) 홈페이지를 통해 자사 AI 모델 'MAI'의 행동 원칙을 담은 임시 강령 '인본주의적 AI(Humanist AI) 행동 강령'을 발표했다. MAI 모델은 MS의 프런티어(최첨단) AI 연구소인 MS AI가 자체 개발한 모델 군으로, 지난 6월 7종을 공개한 바 있다.
MS의 행동 강령은 "인간이 AI보다 중요하다"는 전제로 인간이 AI에 대한 실질적인 통제력을 유지해 AI가 인간의 건강하고 행복하며 생산적인 삶을 살아가는 데 도움을 주는 것을 목표로 한다. 강령에 따르면 MS의 AI 모델은 무기 개발, 폭력 및 성적 콘텐츠 제작, 건강에 해로운 식습관 조장, 위험물질 조달 지원 등이 금지된다. 또 인간이 설정한 목표에 따라 승인한 범위에서만 작동해야 하며 자체적인 목표를 만들 수 없다. 아울러 자신의 추론 과정·코드 등을 조작하거나 은폐하는 행위, 인간의 이해 범위를 넘어선 신경망 언어나 기타 언어를 사용한 AI 간 소통도 제한된다.
MS는 강령에서 "AI는 인간처럼 설계돼선 안 된다. AI는 의식을 가져서도 모방해서도 안 된다"며 "우리는 AI가 법적 인격을 가져야 한다고 보지만, AI 모델이 복지 보장을 받을 자격이 있다거나 권리를 가져야 한다고는 생각하지 않는다"고 강조했다. 이어 "인간과 AI는 서로 다른 역할을 가지며, AI의 역할을 인간관계를 보완하는 것"이라며 "즉 AI는 그 자체로 권리나 지위를 가진 주체가 아니라 유능하고 신뢰할 수 있는 도구여야 한다"고 강조했다.
MS는 "이 문서는 우리가 '인본주의적 AI'라고 부르는 일련의 설계 원칙에 따라 AI 모델을 학습시키고, 운영하는 방식에 대한 접근법이 담겼다. 이 접근법은 아직 개발 단계로, 현재 (AI) 모델 학습에는 적용하지 않지만, 대중 의견 수렴을 위해 공유한다"며 문서 공개 배경을 설명했다. 이어 "이날부터 6주간의 공개 의견 수렴 절차를 통해 바탕으로 올해 말 개선된 최종본을 발표할 예정이고, 이를 기반으로 2027년 이후 모델 개발을 진행할 것"이라고 덧붙였다.
무스타파 술레이만 MS AI 최고경영자(CEO)는 CNBC 인터뷰에서 행동 강령을 마련한 배경에 대해 "AI가 인간을 대체하려 하지 않고, 항상 인간을 위해 일한다는 명확한 약속이 있었으면 좋겠다는 의견이 있었다"며 "AI가 의존성을 창출하거나 아첨하지 않고, 항상 인간의 판단과 자율성을 촉진하도록 해야 한다는 의견도 다수였다"고 말했다. 이어 행동 강령을 약 5개월 전부터 준비해 왔다며 최근 AI 개발 속도 조절 논의 상황을 고려해 현시점에 이를 공개하기로 했다고 전했다.
MS의 행동 강령 공개는 최근 다리오 아모데이 앤트로픽 CEO를 중심으로 거론되는 'AI 개발 속도 조절' 주장을 지지하는 맥락으로 풀이된다.
아모데이 CEO는 지난 12일 개인 블로그를 통해 제3자가 AI를 검증하는 3단계 계획을 제시하며 AI 개발 속도 조절 필요성을 주장했다. 이후 경쟁사인 샘 올트먼 오픈AI CEO, 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 딥마인드 CEO 등 경쟁업체 수장들로 지지 입장을 드러내면서 AI 속도조절론에 힘이 실리고 있다.
사티아 나델라 MS CEO 역시 전날 소셜미디어(SNS) X를 통해 초지능 개발의 대전제로 '인간의 통제'와 '이익 공유'를 제시하며 AI 속도 조절론에 동의했다. 다만 소수의 주체가 AI를 감시하거나 통제해서는 안 된다며 AI 기업 내부에 외부 독립 평가기관이 상시 접근할 수 있도록 해야 한다고 주장했다.