"지금까지는 다른 나라 사례를 참고해 정답이나 모범답안을 찾을 수 있었지만, AI는 참고서가 없는 상태입니다. 우리가 스스로 고민하고 토론해서 만드는 거버넌스가 필요합니다."
박성필 카이스트 문술미래전략대학원장은 29일 서울 중구 페럼타워에서 열린 '모두의 AI'를 위한 국민소통포럼에서 인간 중심 AI(인공지능) 거버넌스의 중요성을 강조했다.
AI(인공지능) 거버넌스는 AI의 개발·배포·활용 과정의 안전과 윤리를 보장하고 감독하는 정책, 표준 등 시스템을 말한다. 박 원장은 '예견적 거버넌스'와 '미래 세대 기본권'을 핵심으로 제시했다.
예견적 거버넌스는 가능한 시점에 다양한 요소를 투입해 신흥 지식 기반 기술을 미리 관리하는 능력이다. 과거의 거버넌스는 사건이 발생한 후 입법을 시작하다보니 대응속도가 느렸는데, AI 기술은 발전 속도가 빠른 만큼 대응 방안을 선제적으로 고안할 필요가 있다.
박 원장은 "단순히 사후적인 규제를 넘어 사전적·능동적으로 기술 혁신 과정에 개입해 책임 있는 혁신을 촉진하는 접근법"이라고 설명했다.
예견적 거버넌스는 예견과 참여, 통합으로 구성된다. 다양한 미래 시나리오를 탐색·검토(예견)한 뒤, 대중의 심의적 참여와 이해 관계자의 조기 관여를 통한 숙의적 과정(참여)을 거친다. 이후 각 분야 전문가가 연구 협력을 통해 의견을 교환(통합)한다.
다만 박 원장은 예견적 거버넌스가 소수 전문가 결정을 그대로 따르는 것은 아니라고 강조했다. 박 원장은 "입법은 사회 전반의, 국가적인 시민들의 참여가 보장되는 거버넌스 정립 과정이 필요하다"며 "단순히 기술뿐 아니라 사회과학, 인문과학, 자연과학 등 다양한 분야가 협력하는 거버넌스 체계가 중요하다"고 말했다.
미래 세대 기본권은 환경 분야에서 오랫동안 요구해 온 권리다. 미래 세대가 환경과 자원에 접근할 수 있도록 지속가능한 상태로 전달해야 한다는 주장이다. 박 원장은 "AI 관련 미래 세대 기본권은 오염된 디지털 유산을 후손에게 물려줄 수 없다는 것"이라고 설명했다.
박 원장은 △진실된 정보 공유지 권리 △디지털 주권 권리 △인간 중심성 권리 등 세 가지 권리를 제시했다. '진실된 정보 공유지 권리'는 미래 세대에게 전달할 진실과 역사가 알고리즘이나 데이터 오염으로 왜곡되지 않게 할 책임이 있다는 것이다. '디지털 주권 권리'는 대기업과 중소기업, 스타트업의 상생 생태계를 후손에게 물려줘야 한다는 주장을, '인간 중심성 권리'는 향후 AI 관련 기술과 비즈니스 모델이 인간을 중심으로 개발돼야 한다는 원칙을 말한다.
박 원장은 세션을 마치며 "다른 나라나 국제기구가 제시하는 규제도 '인간 존엄을 지키자'는 것이 핵심"이라며 "인간 중심의 거버넌스를 구축해나가는 노력이 AI 거버넌스 측면에서 가장 중요하다"고 강조했다.