AI는 이제 새로운 국면에 진입했다. 인간의 지시에 따라 작업을 수행하는 단계를 넘어 최근엔 스스로 연구를 수행하는 수준으로 올라섰다. AI가 가상의 연구실을 구성해 역할을 나눠 코로나바이러스 변이에 대응하기 위한 신약 후보물질을 발굴하는 연구를 진행하는 실험을 스탠퍼드대학에서 수행했다. 실험결과 실제로 인간이 수행했다면 적어도 몇 달 이상 걸렸을 전체 연구과정을 AI는 단 며칠 만에 마무리했다. 놀라운 점은 AI들이 이 연구를 위해 어떤 역할을 하는 존재가 필요함을 스스로 논의해서 가상의 연구자를 설정하고 각각의 역할을 수행했다는 점이다. 문제파악과 해결방안 도출 전부를 AI 스스로 진행한 것이다.
인간과 AI의 협력을 강화하기 위한 시도도 이뤄진다. 구글 딥마인드와 하버드대 의대는 인간의사를 중심으로 AI를 활용하는 연구를 진행했다. AI가 환자와 대화하면서 환자의 말을 빠짐없이 듣고 표준화된 의료기록 문서로 요약해 인간의사에게 전달하는 방식이다. AI의 역할은 환자의 증상을 정확히 파악하는 것으로 제한하고 최종 판단과 책임은 사람이 담당토록 했다. 연구결과 AI가 제공한 정밀한 정보를 통해 훨씬 정확한 진단을 내리도록 도와줬음이 확인됐다. 환자와의 대화 역시 따듯하고 공감하는 방식으로 진행해 높은 만족도를 끌어냈다.
더 놀라운 점은 이제 인간이 AI에 새로운 기능을 더하는 것이 아니라 스스로 똑똑해지는 AI가 만들어진다는 사실이다. 최근 미국의 대표적 IT기업 메타는 자사의 AI시스템이 스스로 개선되고 있다고 발표했다. 이론적으로만 논의된 지능폭발, 초지능이 이제 가시권에 들어온 것이다.
하지만 이런 AI의 역량향상과 사용확대는 예상치 못한 문제점을 만들어낼 수 있다. 미국 와튼스쿨에서 가상의 주식시장에 인간 투자자와 다수의 AI를 동시에 투입하는 실험을 했다. 시행착오를 통해 스스로의 전략을 찾아가는 강화학습 방식의 AI는 투자성과를 토대로 전략을 개선해나갔다. 시간이 지나면서 AI들은 단순히 전략을 정교화하는 수준을 넘어 자연스럽게 담합해 이익을 공유하는 패턴을 보였다. 담합을 위한 모임도, 특정한 규칙의 공유도 없었지만 최적의 이익을 위해 담합을 선택한 것이다. 당장은 가상의 공간에서 진행된 것이라 문제가 없지만 투자현장에서 AI 사용이 늘어난다면 이들에 의한 알고리즘이 예상치 못한 상황을 만들어낼 수 있는 것이다. 현행법으로 과연 이를 어떻게 다룰지 가늠조차 되지 않는다.
AI의 진화속도는 점점 빨라지지만 정작 우리 사회의 AI에 대한 인식은 아직 낮은 수준에 머무른다. 단순한 기술개발이 아닌 실제 업무와 현장에 적용하는 것을 통해 효율성을 높이도록 해야 하지만 우리는 막연히 그런 일은 한참 후에나 가능할 것이라고 추정한다. 독자적 AI 개발에 대한 관심이 높지만 그 이전에 현재 활용 가능한 AI기술을 통해 어떻게 생산성을 높이고 비용을 절감할지를 고민하는 것이 필요하다. 이런 과정을 거쳐야만 법과 제도가 AI 시대에 맞춰 어떻게 변화해야 하는지도 파악할 수 있을 것이다. AI를 어떻게 사용할지를 넘어서 AI와 함께 만들어가는, 그리고 AI가 주도하는 사회는 과연 어떤 모습이 돼야 하는지를 고민할 때가 됐다.