"내가 뭘 모르는지도 모를것" 해외 교실 'AI 퇴출' 이유는…생각하는 힘

미국 뉴욕시가 초등 및 중학생에 해당하는 학년 교실에 인공지능(AI) 사용을 금지토록 하면서 그 배경에 관심이 모인다. AI가 학습 역량 발달에 악영향을 미친다는 우려가 커졌고 이에 대한 연구도 속속 등장하면서다. 노르웨이 정부 역시 지난 6월 초등학생의 생성형 AI 사용을 원칙적으로 금지했다. 중학생에 한해 교사 감독 아래 신중하게 쓰는 방안을 허용하겠다고 발표했다.

뉴욕타임스(NYT)에 따르면 미국 뉴욕시 교육청은 지난 2일(현지시간) 초·중학생 AI 사용을 금지하는 기술 사용 정책을 발표했다. 뉴욕시 전체 공립학생 3분의 2에 해당하는 60만명이 고등학교 진학 전까지 AI를 쓸 수 없다. 초등학교 3학년 전까지 개별 기기 화면 사용은 일절 금지이고 교사 역시 AI에 과제 채점을 맡길 수 없다.

카마르 새뮤얼스 뉴욕시 교육감은 이날 "아이들은 어려운 문제와 씨름하고, 틀려보고, 다시 시도하여 마침내 맞혀낼 때 가장 잘 배운다"며 "그 어떤 앱, 챗봇, 알고리즘도 아이의 이러한 생산적인 투쟁을 대체할 수 없다"고 말했다.

학계에서는 AI가 인지 발달에 미치는 부작용을 경고하는 연구가 잇따른다. 미국 텍사스대 오스틴과 조지아텍 등 공동 연구진이 지난해 2월 발표한 논문에 따르면 생성형 AI는 정보를 한 번에 요약해 제시하면서 학습자가 반드시 거쳐야 할 기억, 적용, 분석, 평가 등 깊은 인지 과정을 건너뛰게 만든다. 생각을 '외주화'하는 셈이다.

연구진은 AI가 매끄럽게 답을 제시하면 학습자가 그 지식을 스스로 완벽히 알고 있다고 여기는 '역량의 착각'에 빠진다고 봤다. 자신이 무엇을 알고 모르는지 점검하는 능력이 떨어지는 '메타인지적 게으름'이 심해진다는 분석이다. 이는 결국 비판적 사고 능력 저하로 이어진다.

비판적 사고 능력 저하는 문제 해결 능력 하락으로 연결된다. 미국 카네기멜론대와 영국 옥스퍼드대 등 공동 연구진이 지난 4월 발표한 논문에 따르면 AI를 쓰며 수학·독해 문제를 풀던 참가자들은 AI를 사용할 수 없게 되자 스스로 문제를 해결하는 능력이 급격히 떨어졌다.

1222명을 대상으로 한 연구 가운데 한 실험에서는 단 10~15분간 AI를 썼을 뿐인데 AI 없이 문제를 풀자 정답률이 16%포인트 떨어졌다. AI를 쓰다가 중단한 그룹의 포기율은 20%로 처음부터 AI 없이 문제를 푼 대조군의 포기율 11%에 비하면 2배 가까이 높았다.

AI 활용 방식에 따라서도 부작용 격차가 컸다. AI에게 힌트나 설명을 요청한 그룹은 스스로 푸는 역량을 일정 부분 유지했다. 반면 AI에게 정답만 요청해 받은 그룹은 사전 평가 대비 정답률이 10%포인트 떨어지고 포기율은 11%포인트 올라가 능력 저하가 가장 심각했다.

연구진은 AI가 몇 초 만에 정답을 제시하면서 스스로 문제를 헤쳐 나가는 경험을 빼앗는다고 지적했다. 고민없이 바로 정답을 얻는 방식에 익숙해지면 혼자 노력하는 과정이 훨씬 더 힘들게 느껴져 장기 학습에 필요한 '노력 지속성'이 떨어진다는 분석이다.

미국 여론조사기관 입소스(Ipsos)와 NPR이 지난 4월부터 5월까지 미국 초·중·고교 교사 545명을 대상으로 실시한 설문조사에서는 응답자 74%가 AI가 과거 인터넷이나 컴퓨터보다 교육에 더 큰 영향을 미친다고 봤다. 54%는 AI가 학생 비판적 사고 능력 습득을 더 어렵게 만든다고 지적했고 55%는 AI를 주로 과제를 피하기 위한 지름길로 봤다.

교사들은 AI 의존을 막고자 대응에 나섰다. 설문조사 응답 교사 39%는 AI 남용을 막기 위해 손으로 직접 쓰거나 교실 안에서 수행해야 하는 과제 비중을 늘렸다. NPR에 따르면 미국 현지 교사들은 AI 오용을 막고자 종이와 연필을 쓰는 아날로그 과제나 교실 안 직접 수행 평가, 구술 시험 등을 다시 활용하는 추세다.