과학기술정보통신부와 정보통신정책연구원(KISDI)은 '인공지능 윤리원칙' 초안을 마련하고, 오는 7월8일까지 공개 의견수렴을 진행한다.
2020년 발표된 '인공지능 윤리기준' 취지를 계승하면서 달라진 AI 기술·사회 환경과 AI기본법 시행 등 제도 변화를 반영했다. 과기정통부 관계자는 "다양한 AI 쟁점 발생시 공통의 판단 기준을 제공하는 데 의미가 있다"라며 "특정 기술이나 분야의 개별 쟁점에 대한 세부 해법은 후속 지침과 분야별 기준 등을 통해 구체화할 수 있다"고 말했다.
과기정통부와 KISDI는 지난해 12월부터 올해 4월까지 국내외 사례를 조사·분석하고, AI 기술, 법·제도, 교육, 철학 등 분야별 전문가로 구성된 자문단을 운영해 윤리원칙 초안을 마련했다. 자문단은 △윤리원칙 제정 방향과 주요 쟁점에 관한 자문을 제공하는 자문위원회(9인) △초안 작성을 담당하는 워킹그룹(8인)으로 구성됐다. 현장에서 활용할 수 있도록 산업계 의견도 수렴했다.
윤리원칙은 'AI의 혁신과 활용은 인간과 사회가 신뢰할 수 있는 방향으로 이뤄져야 한다'는 목표로 3대 가치와 6대 원칙을 제시한다. AI 개발·이용 과정에서 △인간의 존엄성 △사회의 공공선 △기술의 신뢰성을 지향하고, 이를 실현하기 위해 △인간의 자율성 △프라이버시 △공정성·포용성 △지속가능성 △안전성 △투명성을 지켜야 한다는 설명이다.
6대 원칙에 따르면 AI는 인간의 판단과 선택을 지원·보완하는 방향으로 개발돼야 하고, 개인정보 보호 및 자기정보 통제권을 보장해야 한다. AI 산출물로 인한 차별과 배제를 최소화하고, AI 개발시 에너지·자원 부담 및 고용구조 변화 등 장기적 영향을 고려해야 한다. 사고 발생시 안정적으로 대응·복구할 수 있는 체계를 갖추고, AI의 목적과 기능·한계 등을 이용자가 이해할 수 있는 방식으로 설명해야 한다.
윤리원칙은 인공지능 윤리 소통채널 홈페이지에서 확인할 수 있다.
류제명 과기정통부 제2차관은 "AI 시대의 주도권은 기술력뿐만 아니라, 그 기술을 얼마나 투명하고 안전하게 관리할 수 있느냐에 달려 있다"며 "새롭게 정립되는 윤리원칙이 사회적 수용성을 확보하고 글로벌 규범의 기준선으로 자리 잡을 수 있도록 폭넓고 실질적인 의견수렴을 거쳐 최종안을 완성하겠다"고 말했다.