과기정통부, AI 안전 국민 공감 토크콘서트 개최
"AI가 인류에 주는 충격의 강도는 산업혁명의 10배가 될 것이라는데 동감합니다"-류제명 과기정통부 제2차관
10년 전, 알파고와 이세돌 9단의 바둑 대국은 세상을 바꿔놓았다. 그 시기, 사람의 기술을 넘어서는 AI의 무한 잠재력을 깨달은 이들이 오픈AI를 창업했다. 그리고 2022년 11월 최초의 생성형 AI 챗GPT가 세상에 나타났다. 챗GPT가 등장한 것이 불과 4년 전인데, 벌써 우리 세상에 끼치는 영향력이 지대하다.
AI는 사용자와 수다를 떨거나 이미지를 생성해주는 챗봇 형태에서 이제 사용자 대신 업무를 처리하는 능동형 AI 에이전트로 진화 중이다. "AI 시대에는 하루가 늦으면 한 세대가 뒤처진다"는 이재명 대통령의 말처럼, AI 기술의 빠른 진화는 앞서 인류를 스쳐갔던 1·2·3차 산업혁명과는 비교도 안될 정도로 세상을 바꿔놓을 것이라는 게 전문가들의 공통된 의견이다. '지피지기면 백전백승'이듯, AI를 잘 쓰고 잘 이해해야 AI가 이끌 시대적 변화의 높은 파고에 맞설 수 있다. 결국 AI 리터러시다.
2일 과학기술정보통신부는 전날 오후 7시 서울 삼성동 가빈아트홀에서 일반 국민과 AI 전문가가 참여하는 'AI 안전 국민 공감 토크콘서트'를 개최했다. 한국정보통신기술협회(TTA), AI안전연구소가 함께 한 이 자리에는 류제명 과기정통부 제2차관을 비롯해 SK AI위원회 김지현 부사장, KAIST 김주호 교수, 한양대학교 이상욱 교수가 패널로 참여했다.
김지현 부사장은 "2026~2027년 AI 에이전트 시대가 본격화될 것"이라며 "기존 챗GPT 등 생성형 AI에 에이전틱 AI, 피지컬 AI가 결합하면서 AGI(초지능) 시대가 도래할 것"이라고 내다봤다. 그는 삼성전자의 갤럭시S26울트라를 예로 들며, 디바이스 내 AI 에이전트가 세상을 바꿀 것인만큼 이에 대한 사회적 고민과 논의가 필요하다고 했다.
김주호 교수는 AI 시대에도 생각하는 힘을 길러주는 것이 진짜 안전한 AI를 사용하는 길이라고 했다. 터키 고등학생 1000여명의 수학시험을 예시로 들었다.
수학시험을 치르는데 A 그룹은 챗GPT4를 시험에 이용하게 하고, B 그룹은 사용을 금지했다. 당연하게도 A그룹의 수학점수가 높았다. 그러나 동일한 이들을 대상으로 AI가 배제된 채 시험을 치르게 하자 정반대 결과가 나타났다. AI를 사용하지 않은 그룹의 성적이 높았던 것이다. 챗GPT에 대한 의존도가 높다는 증거다.
이처럼 AI 사용이 일반화되고 과의존 상태가 되면서 개인의 학습 기회가 줄고, 성장도 미뤄지고 있다. 학습 현장에서도 교사가 지도할 학생에 대해 잘 판단하지 못하는 문제가 발생하고 있다. 따라서 김 교수는 "AI 과의존으로 인해 개인 성장이 미뤄지거나, 배울 기회 자체가 사라지는 사회적 문제 등에 대한 고민이 필요하다"고 했다.
이상욱 한양대학교 교수 역시 "단순히 현재 유행하는 AI 툴을 배우는 것보다 AI로 인한 프라이버시 위협, 할루시네이션, 과의존의 문제를 충분히 인식하도록 도와야 한다"고 말했다.
독자들의 PICK!
류제명 제2차관은 "AI가 이끌 파괴적인 혁신을 제대로 활용하기 위해 안전한 AI를 소개하는 안전 포털이나, 국민들이 AI를 쓸 때 피싱 등을 안내하는 AI 안전 에이전트 등 여러 가지를 고민 중"이라면서 "딥페이크 역시 AI 안전연구소를 중심으로 조기에 발견하는 R&D(연구개발)을 진행 중"이라고 밝혔다.
