정부가 마련 중인 '대한민국 AI(인공지능) 윤리원칙' 초안이 나왔다. 인간의 존엄성·사회의 공공선·인류의 지속가능성을 3대 가치로 삼고 인간중심성·프라이버시 보호·안전성 등 7대 원칙을 제시했다. AI를 '필수 인프라'로 전제하고 공급자뿐 아니라 이용자의 윤리까지 강조한 것이 특징이다.
과학기술정보통신부와 정보통신정책연구원(KISDI)은 14일 서울 프레지던트호텔에서 '대한민국 인공지능 윤리원칙 토론회'를 열고 현재 마련 중인 윤리원칙 초안의 주요 내용을 발표했다.
김경만 과기정통부 인공지능정책실장은 환영사에서 "법 이전에 모든 국민과 산업계, 학계, 시민단체가 공감할 수 있고 최소한 지켜줘야 하는 기준들이 필요하다"고 말했다. 이주희 더불어민주당 의원도 축사를 통해 윤리원칙이 현장에서 제대로 이행되는지 살피고 입법과 제도를 통해 뒷받침하겠다고 밝혔다.
윤리원칙 초안은 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3대 가치를 바탕으로 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7대 원칙을 담았다.
이번 윤리원칙은 2020년 마련한 '인공지능 윤리기준'을 최근 기술 환경에 맞춰 재정비하는 것이다. 생성형 AI가 일상화되고 에이전트형 AI와 피지컬 AI까지 등장하면서 AI에 정보 접근권이나 결정권을 맡기는 일이 늘어나는 등 달라진 환경을 반영했다.
최우석 과기정통부 인공지능안전신뢰지원과장은 "이번 2026년 인공지능 윤리원칙은 AI가 필수 인프라임을 전제한 가운데 사회의 지속가능성을 위해 각 주체가 지켜야 할 원칙을 제시하고 있다"며 "AI 활용이 이미 선택의 문제가 아닌 상황에서 어떻게 잘 활용할 것인가에 대해 고민하면서 만든 원칙"이라고 설명했다.
특히 공급자뿐 아니라 '이용자 윤리'도 강조했다. 생성형 AI 등의 활용이 확산하면서 이용 방식 역시 안전하고 신뢰할 수 있는 AI 생태계에 영향을 미친다는 판단이다. 국제사회에는 AI 선진국과 개발도상국이 역량에 따라 '차별화된 책임'을 지고 AI를 평화적으로 사용해야 한다는 메시지도 담았다.
윤리원칙은 법적 강제력이 있는 규제가 아닌 '연성 규범'을 지향한다. 최 과장은 "이것이 규제를 하겠다고 만드는 게 아니라 이 원칙이 잘 지켜진다면 규제를 추가로 도입할 필요가 없게 되는 것"이라며 자율적 이행이 잘 이뤄질수록 새로운 규제 도입 필요성도 낮아질 것이라고 강조했다.
산업계에서는 국가 차원의 윤리원칙이 AI 개발·활용의 기준을 제시한다는 점을 긍정적으로 평가하면서도 일부 내용에 대한 우려도 나왔다. 김경훈 카카오 AI Safety(세이프티) 리더는 투명성 원칙에 포함된 학습데이터 공개와 관련해 "아직 법제에서도 해결되지 않았는데 윤리원칙에 들어감으로써 앞으로의 입법 논의에 영향을 미치지 않을까 우려된다"고 말했다.
과기정통부는 토론회에서 나온 의견을 반영해 윤리원칙안을 보완한 뒤 이달 중 제정·공표할 예정이다. 이후 일반 국민을 위한 해설서와 기업용 자율점검표, 일반인·학생을 위한 AI 윤리 교육교재 등을 마련할 계획이다.