가천대 연구진, 선택 자동화·정서 외재화 지적… '구조적 인지 퇴행' 위험성 경고
5개 행동과학 이론 결합한 개념 연구… AI에 판단 근거 의문 던지는 시스템 설계 제안
인공지능(AI)이 제공하는 편의성과 맞춤형 서비스가 인간의 자율성을 체계적으로 침식할 수 있다는 연구 결과가 나왔다.
가천대학교는 백승현 경영학과 박사과정(1저자)과 조성준·윤용헌·강승완 교수, 최혜란 중앙대 교수가 참여한 논문이 사회과학 분야 국제학술지 '시스템즈'(Systems, SSCI JCR 상위 6.5%)에 게재됐다고 15일 밝혔다.
논문 제목은 '황금 우리: 인공일반지능 시대 알고리즘적 양육이 인간의 자율성을 체계적으로 침식하는 방식'(The Golden Cage: How Algorithmic Nurturing Systemically Erodes Human Autonomy under Artificial General Intelligence)이다.
연구진은 인공일반지능(AGI) 환경에서 AI의 과도한 조력이 인간의 독립적 판단력을 약화시키는 과정을 '알고리즘 양육 관점'(Algorithmic Nurturing Perspective)으로 정의했다.
연구에 따르면 자율성의 약화는 3가지 자기강화적 피드백 구조를 통해 진행된다. △대안 탐색 과정을 줄이는 '선택의 자동화' △갈등과 불안 대응을 AI에 위임하는 '정서 조절의 외재화' △맞춤형 정보 편중으로 이견 노출이 차단되는 '사회적 현실로부터의 고립'이다.
이러한 과정이 누적되면 개인 차원에서는 비판적 성찰 역량이 저하되는 '구조적 인지 퇴행'이 나타나며, 조직 차원에서는 전략적 의사결정 약화 및 학습 근시로 이어질 수 있다는 게 연구진의 설명이다.
연구진은 제한된 합리성 이론, 기대이론, 전망이론 등 5개 행동과학 이론을 통합해 이 같은 관계를 설명하는 8개 명제와 시스템 다이내믹스 시뮬레이션을 제시했다.
해법으로 AI 사용을 무조건 제한하기보다 사용자가 판단 근거를 다시 검토하도록 의도적 지연이나 비교 대안을 제공하는 '인지적 마찰 설계'(Cognitive Friction Design)를 제안했다.
