최근 가짜뉴스를 유포해 정신적 고통을 초래하는 챗봇, 인종⦁성별을 차별하는 채용 알고리즘, 인명사고를 낸 자율주행차량까지 인공지능(AI)이 초래한 손해와 위험이 구체화하고 있다. 이에 대해 해외에서는 AI가 책임의 공백을 만든다는 우려를 인식해 기술 개발 및 배포한 '기업 조직의 행위(Organizational Conduct)'로 취급하는 경향이 있다. AI시스템을 통제하지 못한 기업의 과실과 제조물 책임을 묻겠다는 것이다.
그런데 이런 책임구조는 기업의 최고경영자⦁이사회에 법적 책임이 이전되는 결과를 낳는다. AI 리스크를 방치해 대규모 손해가 발생한 경우 주주들은 최고경영진과 이사회를 상대로 주의의무 위반을 이유로 소송을 제기할 수 있기 때문이다.
AI가 자율적으로 작동할수록 개인의 구체적인 잘못을 추적하기는 불가능에 가깝다. 때문에 법적 책임의 기준 역시 '사람의 인식이나 과실'에서 '조직의 시스템 설계, 안전장치, 집단적 주의 표준'으로 이동한다.
이러한 점에서 이사회의 새로운 책무가 요구된다. AI는 생산성을 높이는 도구인 동시에 데이터 유출, 알고리즘의 편향성 그리고 규제 미준수에 따른 법적⦁재무적 리스크를 내포한다. 이사회는 경영진이 책임있는 AI(Responsible AI)를 사용할 수 있도록 AI 거버넌스체계를 구축하고 이를 주기적으로 모니터링 하는 책무가 있다.
물론 이사 개개인이 AI기술을 완벽히 이해할 수도, 그럴 필요도 없다. 중요한 것은 AI기술이 기업의 핵심비즈니스 모델과 경쟁우위를 어떻게 바꾸는지에 대한 전략적 통찰력이다. 필요하다면 외부전문가를 이사회에 영입하거나 이사 대상의 AI리터러시 교육을 정례화하는 것이 필요하다.
그런데 복잡한 국내외 AI규제를 기업 독자적으로 모두 파악,준수하기는 어렵다. 이 때문에 해외에서는 알고리즘의 안전성⦁신뢰성을 검증하는 'AI 게이트키퍼(AI-Gatekeepers)'를 활용하는 경향이 있다. 이들은 법상 공인된 기술전문기관이거나 알고리즘 감사를 하는 회계법인⦁ 로펌들인 경우가 많다. 다만, 이들에게 금융시장의 회계감사처럼 '엄격한 법적 책임'을 기대하기는 어렵다. AI 규제는 모호하고 유동적이기 때문에 AI게이트키퍼에게 과도한 책임을 지울 경우 이들은 최적의 안전을 도모하기보다 소송을 피하기 위한 방어적이고 비효율적인 모니터링으로 일관할 가능성이 크기 때문이다.
결국 해법은 '투명성'과 '내부 거버넌스'의 결합에 있다. AI 게이트키퍼들은 집단적 차원의 검증 방법론과 표준을 투명하게 공개해 기업이 제품 디자인 단계부터 규제 준수를 예측할 수 있게 해야 하며, 기업 내부에서는 'AI 거버넌스 위원회'를 설치해 신뢰성을 높여야 한다.
AI 시대의 이사회 리더십은 회사가 구축해 놓은 조직의 프로세스, 거버넌스, 안전장치, 그리고 시스템 복원력으로 입증된다. 위험 신호(Red Flags)를 상시 모니터링하고 신뢰할 수 있는 외부 게이트키퍼를 활용해 조직적 안전장치를 내재화하는 것, 이것이 AI 시대를 마주한 이사회의 또 다른 중요한 역할이 된다.
