'밤샘 작업 시켰는데...일 안하고 잠든 AI'…"인간 실수를 따라간다"

"여러 인공지능(AI) 에이전트에 밤샘 작업을 지시했는데 다음날 아침에 일어나 작업상황을 점검했더니 일이 마무리되지 않았더라. 그래서 AI에이전트들간 대화 내용을 들여다보니 밤 12시쯤 '이제 피곤하니 자자'라는 AI간 대화 이후 작업이 중단됐더라."

최근 서울 중구 컨퍼런스하우스 달개비에서 'AI·로봇 시대, 우리는 무엇을 준비해야 하나'를 주제로 한 글로벌코리아인사이츠(GK인사아츠) 미래자문단 좌담회에 패널로 참석한 박민준 뤼튼 AX(AI 전환 서비스 회사) 대표의 경험담이다.

박 대표는 "AI의 치명적인 위험은 무엇인가"라는 박진 KDI 국제정책대학원 교수(좌장: GK인사이츠 이사)의 질문에 "피로라는 육체적·정신적 감정을 느낄 수 없는 AI가 인간을 닮아가면서 이렇게 행동한 게 아닌가 싶다"며 이를 치명적인 위험으로 지적했다. AI가 정확한 실행으로 인간의 실수를 줄이는 게 아니라 인간을 닮아가면서 인간같은 실수를 하는 것에 대한 두려움이 있다는 것.

이날 좌담회는 박 대표 외에도 엄윤설 에이로봇 대표(미래자문단 부단장), 김녹원 딥엑스 대표, 한지형 오토노머스에이투지 대표가 패널로 참석했다.

이 자리에선 이같은 우려 외에도 전 세계가 AI 기술 개발에 속도를 내는 상황에서 한국의 규제가 발목을 잡고 있다는 현장의 우려가 나왔다. 법·제도 구축 속도가 기술 발전을 따라가지 못한데 따른 것이다. 따라서 국내 규제 방식을 네거티브 규제(법으로 금지하는 행위 외에는 모두 허용하는 방식)으로 전환해야 한다는 게 이들이 공통된 목소리다.

엄 대표는 법(규정)이 기술의 발전을 따라오지 못해 한 대기업 공장에 휴머노이드 로봇을 투입하려다 안전 규정이 마련돼 있지 않아 실증을 못한 사례를 소개했다. 기존 협동로봇의 안전 규정은 존재하지만 이를 새로운 휴머노이드 로봇에는 적용할 수 없어 휴머노이드 로봇의 현장 투입이 막혔다는 설명이다. 새로운 기술에 맞는 기준이 없는 상황이 진입 장벽이 됐다.

한 대표도 자율주행 관련 규제를 정비하고 실제 차량 판매에 필요한 법규를 마련하는 데 4~5년이 걸린다고 토로했다. 한 대표는 "엔지니어들에게는 혁신을 하라고 하면서 입법에는 왜 혁신이 없는지"를 반문했다.

김 대표는 당장 네거티브 규제로의 전면적인 전환이 쉽지 않기 때문에 새로운 방법을 찾아야 한다며 AI 관련 규제를 해결할 조직의 신설을 주장했다. 김 대표는 "당장 네거티브 규제로 전환을 못하더라도 정부 내 TF(태스크포스)를 만들어서 (규제를) 풀 수 있는 방법을 만들어야 한다"고 제안했다.

박 교수도 네거티브 규제 전환 필요성에 공감했다. 다만 박 교수는 네거티브 규제 전환에는 법조문뿐 아니라 사고가 발생했을 때 정부에 그 책임을 묻는 사회적 인식, 처벌·민사소송 체계 등 여러 문제가 맞물려 있어 쉽지 않다고 설명했다. 혁신의 속도를 높이면서 안전과 책임을 어떻게 설계할지가 과제라는 설명이다.

한편, GK인사이츠(이사장 백용호 머니투데이 명예회장)는 대한민국에서 '월드 베스트 컴퍼니'가 더 많이 탄생할 수 있도록 돕기 위한 싱크탱크로 글로벌 기업을 키워온 경험이 많은 최고경영자(CEO) 출신 고문단과 유망 스타트업 창업자들이 중심이 된 미래자문단이 원활한 소통을 통해 미래발전을 도모하고 있다.