정부가 AI(인공지능) 개발·제공 기업뿐 아니라 AI를 사용하는 이용자까지 책임 있는 활용의 주체로 규정한 새로운 국가 AI 윤리원칙을 확정했다. AI가 산업과 일상 전반으로 빠르게 확산하면서 개발 단계의 안전성뿐 아니라 과의존과 편향, 프라이버시 침해 등 이용 과정에서 발생할 수 있는 문제까지 포괄하는 기준을 마련한 것이다.
과학기술정보통신부와 정보통신정책연구원(KISDI)은 제12회 과학기술관계장관회의 심의·의결을 거쳐 '대한민국 인공지능 윤리원칙'을 확정했다고 24일 밝혔다. 이번 원칙은 인공지능기본법 제27조에 따라 마련됐으며 향후 분야별 AI 윤리기준과 지침의 토대가 된다.
윤리원칙은 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3대 가치를 중심으로 구성됐다. 이를 실현하기 위한 7대 원칙으로는 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성을 제시했다.
인간중심성 원칙에는 AI가 사람의 판단을 지원하는 방향으로 활용되고 필요할 경우 사람이 AI의 동작에 개입할 수 있도록 해야 한다는 내용이 담겼다. AI 과의존도 경계하도록 했다. 공정성·포용성 원칙은 AI의 편향이 부당한 차별로 이어지는 것을 방지하고 사회적 약자를 포함한 모든 사람에게 공평한 접근 기회를 보장하도록 했다.
안전성과 신뢰성 기준도 구체화했다. AI로 인한 생명·신체·정신적 건강의 위해와 재산상 피해를 막고 오남용이나 외부 공격에 대비하도록 했다. AI가 목적과 활용 맥락에 맞는 최소 성능을 유지하는지 지속적으로 점검하는 내용도 포함됐다. AI 활용 사실과 한계, 판단 기준과 위험 수준 등 필요한 정보를 이용자에게 알기 쉽게 제공하도록 하는 투명성 원칙도 명시했다.
특히 이번 원칙은 AI 공급자뿐 아니라 이용자의 책임을 강조했다. AI가 이미 일상과 업무에 폭넓게 활용되는 만큼 이용자 역시 결과를 무비판적으로 받아들이거나 기술에 과도하게 의존하지 않고 책임 있게 사용해야 한다는 취지다. AI 역량과 자원을 많이 보유한 국가와 기업에는 영향력에 상응하는 책임을 요구하고, AI의 혜택이 특정 국가나 집단에 편중되지 않아야 한다는 내용도 담았다.
정부가 AI 윤리기준을 다시 정비한 것은 2020년 '인공지능 윤리기준' 발표 이후 기술 환경이 크게 달라졌기 때문이다. 생성형 AI 확산과 함께 노동 감시와 일자리 변화, 저작권·표절, 채용·평가 과정의 AI 활용 등 새로운 쟁점이 부상했다. 과기정통부와 KISDI는 지난해 12월부터 원칙 개정을 추진해 산업계·시민사회·학계·일반 국민 등으로부터 총 153건의 의견을 수렴했다. 과기정통부는 사례 중심 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련할 계획이다.
배경훈 부총리 겸 과기정통부 장관은 "AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라며 "윤리원칙이 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다"고 말했다.