AI(인공지능)가 인간 지능을 넘어서는 '기술 특이점'은 레이 커즈와일이 예측한 2045년보다 빨리 다가오고 있다. 챗GPT(ChatGPT)는 출시 2개월 만에 사용자가 1억명을 돌파했고 뉴럴링크는 인간의 뇌에 칩을 이식하는데 성공했다. 엄청난 가성비를 보여준 중국 딥시크는 AI 기술 가속화의 단적인 사례다. 이러한 급속한 기술발전은 우리 사회에 혁신적 기회와 함께 심각한 위기와 도전을 제기한다. AI 기술의 발전으로 예측되는 미래 이슈를 사전에 감지하고 대응책을 마련하는 것이 매우 중요한 시점이다. 지난해 12월 말에 국가과학기술자문회의에 보고된 '2024년도 기술영향평가 결과'에선 해당 분야의 전문가와 시민이 참여해 AI 기술의 안전성, 신뢰성과 관련된 몇 가지 이슈에 대해 사회적 논의를 제안했다.
첫째, AI가 유발하는 사고와 오류에 대한 책임소재 문제다. 자율주행차 사고나 의료AI의 오진과 같은 상황에서 책임을 누구에게 물을 것인가의 문제다. 사후적인 법적 기준 설정에 앞서 기술적 관점에서 AI 의사결정의 투명성을 확보하고 개발자-배포자-사용자간 명확한 책임의 경계를 설정하는 장치가 필요하다. 특히 인명과 직결된 분야에선 설명 가능한 AI 기술도입 의무화를 검토할 필요도 있다.
둘째, 개인정보 보호문제다. AI 학습에 활용되는 방대한 데이터는 개인정보 침해위험을 내포한다. 따라서 데이터 최소화 원칙을 준수하고 개인정보 보존기술을 도입하기 위한 원칙이 필요하다. 무엇보다 개인의 데이터 제공·활용범위에 대한 자기결정권을 강화하는 제도보완이 필요하다.
셋째, AI가 탑재된 휴머노이드로 인해 일자리와 사회에 큰 변화가 예상된다. 많은 직업이 자동화될 것으로 예상되는 가운데 AI가 대체하기 어려운 창의성, 공감능력, 사고력 함양에 초점을 맞춘 교육혁신이 필요하다. 노동시장 전환을 위한 사회안전망 구축과 함께 AI와 인간의 협업모델 개발에도 함께 노력을 기울여야 한다.
넷째, 인간의 자율성과 사회성 약화문제다. AI가 개인의 의사결정에 깊이 관여한다면 인간의 자율성이 침해될 수 있다. AI의 개입범위에 대한 사회적 합의가 필요하며, 특히 기술남용으로 인해 권익피해가 발생할 수 있는 취약계층 보호에 주의를 기울여야 한다. AI와 인간의 관계설정 논의와 함께 인간관계 회복을 위한 노력도 병행돼야 한다.
독자들의 PICK!
다섯째, AI 중독 및 의존문제다. 초지능 AI와의 상호작용이 인간관계를 대체하고 AI 의존을 심화할 위험이 있다. 따라서 AI 디자인 윤리 가이드라인을 수립하고 중독·의존 발생요소를 제한해야 한다. AI 사용시간 관리와 디지털 웰빙기능을 의무화하는 정책적 접근도 필요하다.
'기술영향평가'에 참여한 전문가와 시민들은 이러한 이슈들이 5년 내에 현실화될 것이라고 예측했다. 즉각적인 대응을 위한 포괄적인 AI 거버넌스 체계가 필요한 이유다. 특히 '인간 중심 AI 원칙'을 기반으로 한 법령 제정·정비, 다양한 이해관계자가 참여하는 상시 모니터링 체계 구축, AI 안전 연구·투자 확대, 글로벌 AI 위험에 대응하기 위한 국제협력 강화, 전 국민 대상 AI 리터러시 교육확대 등이 시급한 것으로 나타났다. 현재 정부는 AI에 대한 종합적인 정책체계를 마련하고 있으나 국민의 일상생활에 분야별로 깊이 스며들 다양한 AI 기술의 안전과 신뢰에 대해서는 여러 주체가 참여해 세부적이고 실질적인 대응책을 함께 모색해야 한다.
기술 특이점은 피할 수 없는 운명이 아니라 우리가 함께 설계해야 할 미래다. 우리에게 필요한 것은 기술발전의 속도에 맞춰 달리기보다 그 방향을 인간의 가치와 조화를 이루는 쪽으로 설정하는 지혜다. 기술의 혜택은 극대화하고 부작용은 최소화하는 균형 잡힌 접근을 통해 기술 특이점이 인류에게 축복이 되도록 지금부터 철저히 준비해야 한다.