"AI 면접관이 지원자를 나이 많다는 이유로 떨어뜨렸다면, AI가 나이 많은 사람을 차별한 거니까 '포용성' 위반이죠."
"회사 사람들도 AI 평가를 그대로 받아들여서 사용했기 때문에 '주체성' 위반이에요."
'AI 윤리 ON'이라고 적힌 하늘색 티셔츠를 똑같이 맞춰입은 중학생 79명이 낮 최고 기온 33도의 무더위 속 열띤 토론이 벌어졌다. 지난 7월 30일 숙명여자대학교 백주년 기념관에서 방송미디어통신위원회가 주최하고 한국지능정보사회진흥원(NIA)와 KT, 교보교육재단이 공동으로 주관한 '2026년 제1회 청소년 토론캠프 AI윤리 ON'이 열린 현장이다.
'생각을 켜다, 책임을 배우다'라는 슬로건을 내건 이날 행사는 오전 10시부터 오후 5시30분까지 빡빡하게 진행됐지만 참가 학생들은 아이스 브레이킹부터 보드게임, 골든벨, 토론에 이르기까지 내내 눈을 빛내며 집중했다.
시작에 앞서 사회자가 AI 기초 이론 교육을 통해 포용성, 책임성, 주체성 등 AI 사용시 가져야 할 덕목을 나열했다. 아이들은 스폰지처럼 지식을 흡수하곤 응용 질문에도 똑부러진 답변을 척척 내놨다.
가볍게 던진 학교 내 AI CCTV 설치 찬반 질문에도 묵직한 생각들을 쏟아냈다. "길 가다 넘어진 친구를 도우려던 아이를 폭력 가해자로 오해할 수도 있고 AI 판단이 정확하지 않을 수 있어 반대한다", "AI CCTV도 해킹이나 보안의 위험성이 있다", "학교 폭력으로부터 안전하긴 할 것 같아 찬성한다" 등 'AI 네이티브'라는 단어가 연상될 정도로 아이들은 생각을 논리정연하게 펼쳤다.
생성형 AI 원조인 오픈AI의 챗GPT 출시 시기는 2023년. 14~16세인 이날 참석자들은 초등학생 때부터 AI '딸깍'의 편리함을 누리며 성장해온 셈이다.
이들은 일상 속 AI 경험과 올바른 AI 사용·가치 판단 등에 대해 어느 세대보다 관심이 컸다. 스마트폰도 배제한 채, 포스트잇에 손글씨를 적어 의견을 교환하는 아날로그 방식의 90분 토론에서 이 같은 고민이 엿보였다. 6명씩 13개조로 나뉜 학생들은 주어진 사례를 놓고 깊이 사고하며 다양한 의견을 나눴다.
뉴스를 통해 자율주행차 등 AI가 일상에 준 편리함과 대필·부정시험 등 AI 오남용 사례를 동시에 짚어본 후 AI로 발생할 수 있는 가상의 사례를 설정해 당사자·이해관계자 입장에서 △얻는 것 △잃는 것 △궁금한 점 △훼손된 가치에 대해 의견을 모아 발표했다.
3학년생으로 구성된 13조의 경우 AI 적성검사 결과지를 바탕으로 부모님과 선생님이 '은호(가상인물)'에게 장래희망을 강요하는 사례에 대해 토론했다. 학생들은 AI가 작성한 문서만 믿고 선생님과 부모님이 은호의 꿈을 부정한 것에 대해 AI가 '인간 통제'를 했고 부모님은 AI에 '과의존'했다고 봤다. 또 은호는 '자율성'을 잃었고 선생님은 '전문성'을 잃었다고 판단했다. 따라서 "AI를 활용하더라도 최종 결정은 우리가 해야 한다"고 했다.
같은 주제로 토론한 12조의 경우 AI가 '인간 통제'를 했을 뿐 아니라 은호의 정보를 노출해 '프라이버시'를 침해했다면서 "AI는 도움을 주는 도구일 뿐, 스스로가 판단하고 선택해야 한다"는 결과를 도출했다.
이밖에 △AI로 수정한 사진이 공모전에 당선된 경우 △AI 요약기능만 믿고 아무도 책 원문을 읽지 않아 진실이 왜곡된 사례 등이 다뤄졌다. 해당 사례에 대해 학생들은 'AI를 목적에 맞게 사용하고, 썼다면 솔직하게 밝히자', 'AI를 믿기 전에 스스로 찾아보고 주체성을 가지자' 등의 선언문을 도출해냈다. 중학생이라고 믿기 어려울 정도로 깊은 고찰에서 쏟아진 AI 윤리 선언에 현장에 있던 관계자들과 학부모들도 박수를 쳤다.
'AI윤리 ON' 청소년 캠프는 지난해 시작됐다. 시행 첫 해부터 큰 관심을 받았고 올해는 전국 각지에서 216명의 학생이 신청해 경쟁률 3대 1을 기록했다. 생성형 AI의 빠른 확산 속 AI 윤리에 대한 청소년과 학부모의 고민이 깊어진다는 방증이다.
서울 송파구 거원중 2학년 최환 학생은 "지난해 (행사) 신청했다가 떨어졌는데 이번에 당첨돼서 기쁘다"며 "평소 코딩을 좋아해 클로드를 자주 쓰는데 큰 대회에서 AI 활용이 문제될 수 있다는 점을 깨달았다"고 했다.
서울 마포구 서울여중 2학년 기윤수 학생은 어린이집 친구와 나란히 참여했다. 그는 "AI로 음성을 변조하는 '딥보이스' 기술이 있다는 것을 새롭게 배웠다"면서 "생성형 AI로 진짜 같은 사진을 만들어 공모전에 참여할 생각을 못했는데, AI 사용 기준을 잘 정하는게 좋겠다"고 말했다.
토론을 이끈 주철진 서울교대 AI가치판단디자인센터 교사는 "요새 학생들은 AI와 함께 성장하고 있어 지금 가치관 정립을 안해주면 5~10년 후 큰 문제가 생길 수 있다"면서 "어릴 때 AI를 접하는 만큼 AI 윤리교육도 빨리 시작하는게 좋다"고 강조했다.
