"AI(인공지능)가 사회의 기본 인프라가 된 만큼 AI를 위험하고 조심해야 하는 대상으로 보는 인식에서 벗어날 필요가 있다."(변순용 서울교육대학교 윤리교육과 교수)
"윤리적 권고와 법적 의무가 혼동되지 않도록 할 필요가 있다."(김경훈 카카오 AI Safety 리더)
정부가 이달 중 '대한민국 인공지능 윤리원칙' 제정을 앞두고 있는 가운데 14일 연 대토론회에서 나온 목소리다. AI 시대에 필요한 윤리 기준을 마련하면서도 혁신을 저해하거나 새로운 규제로 작용하지 않도록 해야 한다는 데 논의가 집중됐다.
과학기술정보통신부와 정보통신정책연구원(KISDI)은 이날 서울 프레지던트호텔에서 '모두를 위한 AI, 함께 만들어가는 인공지능 윤리원칙'을 주제로 대토론회를 개최했다. 산업계와 시민단체, 학계 전문가, 일반 시민, 기자 등 70여명이 참석해 윤리원칙의 역할과 이행 방향을 논의했다.
정부는 지난해 말부터 AI 기본법 제27조에 따라 AI 안전·신뢰성을 높이기 위한 자율 규범인 대한민국 인공지능 윤리원칙을 마련하고 있다. 2020년 발표한 '인공지능 윤리기준'을 계승하면서 에이전트형 AI와 피지컬 AI 등 최근 기술 발전과 AI 기본법 시행 이후 달라진 정책 환경을 반영했다. 지난 5월 1차 초안을 공개한 뒤 산업계·시민사회·학계·관계부처와 일반 시민으로부터 총 116건의 서면 의견을 받았다.
이를 토대로 마련한 윤리원칙안은 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3대 가치와 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7대 원칙으로 구성됐다.
이상욱 한양대 철학과·인공지능학과 교수는 이날 발표에서 AI 기술이 빠르게 변화하면서 개발·활용 과정의 판단도 복잡해지고 있다고 진단했다. 그는 윤리원칙이 혁신을 제약하는 요소가 아니라 바람직한 AI 개발·활용을 돕는 '조력자'이자 이를 실제로 가능하게 하는 '촉진자'가 돼야 한다고 강조했다.
종합토론에서는 산업계와 시민사회의 다양한 주문이 이어졌다.
김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장은 "에이전트형 AI, 피지컬 AI 등 새로운 기술 이슈가 등장하는 상황에서 입법과 기술 발전 간의 시차를 보완하는 역할로 윤리가 중요하다"고 말했다.
시민사회는 AI 개발·활용 과정에서 시민의 참여와 권리를 강조했다. 홍윤희 사단법인 무의 이사장은 "AI의 개발과 활용 과정에서 다양한 시민이 참여할 수 있어야 한다"며 "기존의 수혜자 중심 접근에서 벗어나 시민들을 권리를 가진 주체로 보고 접근해야 한다"고 밝혔다.
이진수 과기정통부 인공지능정책기획관은 "이번 토론회에서 제기된 의견까지 충실히 반영해 윤리원칙을 제정하고, 향후 정부·기업·시민 등 모든 주체가 각자의 위치에서 이를 실천해 나갈 수 있도록 적극 뒷받침하겠다"고 말했다.
과기정통부는 토론회에서 나온 의견을 종합적으로 검토해 윤리원칙안을 보완한 뒤 이달 중 제정·공표할 예정이다.