AI(인공지능) 기술개발의 선두에 있는 MS(마이크로소프트)는 지난 7월 미국 정부에 안면 인식 SW(소프트웨어) 사용에 대한 법적 규제 마련을 촉구했다. 기업 및 기관들이 MS의 AI 안면인식 프로그램을 사회적 차별을 조장하는 데 쓸 수 있다는 우려에서다. MS는 미국 이민세관단속국(ICE)에도 AI 프로그램을 제공하지 않겠다고 선언했다. 여성과 유색인종에 대한 기술적 편견 문제 때문이다.
AI 기술 개발에 막대한 투자를 해온 글로벌 기업들이 오히려 AI 규제에 목소리를 높이고 있다. AI로 돈을 벌어야 할 시점에 윤리를 강조하고 나선 것이다. 구글, 페이스북, 아마존, IBM 등은 2016년 일찌감치 AI 국제협력단체 ‘PAI(Partnership on AI)’를 결성했다. AI의 부작용 예방을 위해 노력하는 연구자·단체를 후원하고 ‘착한’ AI 연구·개발에 협력하기 위해서다. MS도 내부 연구 인력을 위한 ‘AI 윤리적 디자인 가이드’를 만들었다.
한 외국계 기업의 법무 담당자는 “미국 등 글로벌 IT기업들이 규제에 느슨할 것이라고 생각하지만 AI 시대에 더 엄격해지고 있다”며 “개발에 앞서 AI가 ‘할 수 있는 것’과 ‘해야 하는 것’을 구분하기 위한 내부 논의가 활발하다”고 말했다. 인간과 AI가 공존하며 협력할 수 있는 방향 연구에 집중하자는 공감대가 경영진부터 형성돼 있다는 설명이다.
국내 현실은 어떨까. 기업 CEO(최고 경영자)가 해외 출장길 AI 인재 영입에 나섰다거나 대기업이 AI에 막대한 투자를 발표했다는 소식이 연일 쏟아진다. 하지만 AI 윤리에 대한 고민의 깊이는 얉고 속도는 더디다.
그나마 대표기업 삼성전자가 지난 9일 PAI에 가입했다는 소식이 뉴스거리다. 삼성전자는 PAI의 ‘인간과 AI의 협력’ 분야에 참여해 AI 미래에 대한 사회적 논의에 나서겠다고 밝혔다.
늦었지만 한국 정부도 첫발을 뗐다. 행정안전부는 지난달부터 지능형정부 구현을 위한 AI 활용 윤리 연구를 시작했다. 연말까지 법제, 이행방안까지 구체화한 지침서를 낼 예정이다. AI 기반 행정의 투명성, 책임성, 공정성 문제를 꼼꼼하게 분석하고 각계 의견까지 수렴하려면 시간이 촉박하다.
영화 ‘아이, 로봇(I, Robot, 2004)’의 한 장면. 자동차 2대가 사고로 강물에 잠긴다. 한쪽 차에는 12살 소녀가, 다른 차에는 주인공 형사가 탔다. 로봇이 물에 뛰어들고 주인공은 아이부터 구하라고 소리친다. 하지만 생존확률 ‘여자 어린이 11%, 성인 남성 45%’로 계산한 로봇은 재빨리 주인공을 구한다. AI에게는 논리적 선택이지만 사람이라면 다른 결정을 내렸을 법하다.
일각에서는 이미 기업들마다 사내 윤리기준이 있는데 AI 윤리가 왜 필요하냐는 의문도 제기한다. 하지만 영화 속 사례처럼 AI의 추론결과나 판단이 가져올 위험성을 보면 아무리 지나쳐도 나쁠 게 없다. 경쟁 국가·기업과의 기술 격차, 인재 영입 고민만 할 게 아니라 AI 시대에 겪을 딜레마에 대한 각계의 충분한 준비가 필요한 때다.
