중국이 알고리즘 편향과 딥페이크 남용을 규제하는 전용 제도를 첫 도입했다. 이른바 'AI(인공지능) 거버넌스'를 강화해 AI 기술이 여론 형성 및 사회 인식에 미치는 악영향을 차단하려는 시도다.
9일 디이차이징 등 중국 주요 매체에 따르면 공업정보화부 등 10개 부처는 '인공지능 과학기술 윤리 심사 및 서비스 방법(이하 방법)'을 공동 발표해 AI 윤리 심사 및 서비스 체계에 대한 명확한 지침을 제시했다. 공업정보화부는 "AI 기술 윤리 거버넌스를 강화하는 것은 기술의 선한 활용을 지키고, 산업의 고품질 발전을 보장하기 위한 필수 조건"이라며 "이번 '방법'은 윤리 규제 요구를 구체화하는 동시에 AI 산업의 혁신 발전을 촉진하기 위한 것"이라고 설명했다.
심사를 통해 알고리즘 편향, 딥페이크, 개인정보 남용 등을 차단하는 것이 핵심이다. AI 기술 특성에 맞춰 적용 범위, 신청 자료, 심사 시스템 등을 구체화했다. 적용 대상은 △인간 존엄성, 공공질서, 생명·건강 등에 영향을 미칠 수 있는 연구·개발 △관련 법령에 따라 윤리 심사가 필요한 기타 활동으로 규정했다.
특히 여론 형성 및 사회 인식에 영향을 줄 수 있는 알고리즘 및 시스템을 재검토가 필요한 핵심 대상으로 명시했다. △인간의 행동과 감정에 큰 영향을 미치는 융합 시스템△안전 및 건강 위험이 있는 환경에서의 자동 의사결정 시스템 등도 전문가 재검토가 필요한 주요 대상 목록에 올랐다.
중국의 대표적 민간 싱크탱크 판구의 우치 선임연구원은 "이번 '방법'은 중국 최초의 AI 윤리 심사 전용 규정"이라며 "AI 기술과 산업의 특성을 반영해 적용 범위, 시행 주체, 절차, 서비스 및 감독 체계를 체계적으로 규정했다"고 평가했다.
딥페이크 남용과 알고리즘 편향에 따른 사회적 문제가 발생하기 시작하자 규제 제도를 내놓은 것으로 보인다. 최근엔 한 여배우가 서로 다른 의상을 입고 세 개의 라이브 방송에서 동시에 다른 상품을 홍보하는 영상이 온라인에서 화제가 되기도 했다. 해당 영상은 모두 AI로 생성된 딥페이크로 밝혀졌다. AI 추천 알고리즘이 특정 지역과 성별에 따른 콘텐츠 노출을 차별화해 디지털 계층을 고착화한다는 지적도 나왔다. 특히 생성형 AI 확산으로 '뉴스 형식 딥페이크'까지 등장하면서 여론 교란 리스크가 커졌단 점이 규제 도입으로 연결된 것으로 보인다.
다만, 중국은 한편으론 이 같은 규제가 차칫 AI 산업 성장을 막을까 우려하는 분위기다. 이 같은 우려는 '방법'에도 반영됐다. '방법'은 별도의 '서비스 및 촉진' 장을 두고 표준 구축, 서비스 지원, 혁신 장려, 교육, 인재 양성 등 방안을 제시했다. 이를 통해 기술 수단 부족, 표준 미비, 규제 도구 부족 등 현재 AI 기업들이 겪는 문제를 해결하고 특히 중소기업의 윤리 심사 부담을 줄인다는 복안이다.
독자들의 PICK!
량정 칭화대 공공관리학원 교수는 "발전과 안전의 균형을 유지하면서 분류·등급을 기반으로 한 규제와 포용적이고 신중한 혁신 정책을 병행해야 한다"며 "혁신을 장려하고 실패를 용인하는 환경 속에서 AI 산업이 미래 핵심 산업으로 성장하도록 해야 한다"고 말했다.
