인공지능(AI)을 인사 평가나 근태 관리에 도입하는 기업이 늘어나면서 'AI 상사'에 의한 해고나 불이익 등 부작용에 대한 우려가 커지고 있다. 이에 미국 캘리포니아주가 AI에 의한 일방적 해고와 징계를 막기 위해 미국 최초로 규제 법안을 마련했다.
최근 미국 AI 스타트업 앤던랩스는 샌프란시스코에서 실험 매장으로 운영하던 소품샵 '앤던마켓'에서 AI 관리자 '루나'를 활용해 채용부터 근태 관리까지 전 과정을 담당하게 한 실증 테스트 결과를 공개했다.
해당 실험에서 루나는 직원의 잦은 지각(23차례 중 17차례)과 업무 지시 불이행, 법인카드 관리 부실 등을 종합 평가해 해고를 권고했다. 이후 회사는 이를 검토해 실제 해고를 통보했다. 이처럼 AI가 직원의 업무를 평가하고 실제 인사 결정에 관여하는 사례가 현실화되자 노동계와 법조계를 중심으로 AI 상사에 대한 경각심이 높아졌다.
AI 상사에 가장 먼저 제공을 건 곳은 캘리포니아주다. AP통신과 CNBC 등 주요 외신에 따르면 개빈 뉴섬 캘리포니아 주지사는 최근 '로보 보스 금지법'(No Robo Bosses Act·SB 947)에 서명했다. AI 등 자동화 의사결정 시스템(ADS)을 활용한 해고·징계 과정에서 사람의 검증을 의무화한 미국 최초의 법률이다.
법률은 기업이 AI를 해고·징계의 주요 근거로 활용할 경우 관리자의 평가와 인사 기록, 업무 결과물 등 관련 자료를 사람이 검토해 판단을 검증해야 한다고 명시한다. 근거를 확인하지 못하거나 시스템의 결과가 부정확·불완전하거나 오해를 유발한다고 판단하면 해당 결과를 해고·징계 결정에 활용할 수 없다. 기업은 직원에게 AI 활용 사실을 서면으로 통지해야 하며, 직원은 AI가 판단에 사용한 자신의 데이터에 대한 설명을 요구할 수 있다. 법률은 내년 7월 1일부터 시행된다.
AI로 직원 관리 확산
AI를 통한 직원 관리는 널리 확산되고 있다. 경제협력개발기구(OECD)가 지난해 발표한 조사에 따르면 미국 관리자 응답자의 90%는 소속 기업이 직원의 업무를 지시하거나 감시·평가하는 알고리즘 관리 도구를 최소 한 가지 이상 도입했다고 답했다.
실제 인사 결정에 AI가 관여했다는 논란도 일고 있다. 지난 7월 메타 직원 26명은 회사가 AI를 활용해 감원 대상을 선정하면서 의료휴가나 가족돌봄휴가를 사용한 직원들에게 불이익을 줬다며 소송을 제기했다. 다만 메타는 최종 결정은 사람이 내렸다며 의혹을 부인했다.
독자들의 PICK!
호주에서는 AI의 일방적 인사 조치가 실제 일자리 상실로 이어졌다. 우버이츠 배달기사 우마이르 아유브는 지난해 고객 만족도 평점이 기준에 못 미친다는 이유로 계정이 자동 정지됐다. 이후 담당자가 검토했으나 정지 결정은 그대로 유지됐다. 호주 공정근로위원회는 부당한 계정 정지라며 지난 4월 복구를 명령했다.
규제를 두고 노동계와 기업계의 입장은 엇갈린다. 법안을 발의한 제리 맥너니 캘리포니아주 상원의원은 CNBC에 "어떤 노동자도 기계에 의해 해고되거나 징계받아서는 안 된다"며 "AI는 인간이 통제하는 도구로 남아야 한다"고 말했다. 반면 기술산업 정책단체 '챔버 오브 프로그레스'의 로버트 싱글턴 국장은 기업이 AI에 '주로 의존한다'는 기준이 모호해 기술 활용을 위축시킬 수 있다고 반발했다.
