알렉스 카프 팔란티어 최고경영자(CEO)가 인공지능(AI) 규제에 대해 기업 자율 책임을 촉구하면서 실효성 있는 규제 마련에 대한 회의적인 입장을 드러냈다.
17일(현지시간) 카프 CEO는 미 경제방송 CNBC와의 인터뷰에서 "첫 번째 방어선은 자신의 행동에 책임을 져야 한다는 것"이라며 "시행 가능한 합리적인 지침을 마련해야 하지만 현실적으로 쉽지 않다"고 밝혔다.
카프 CEO는 AI 개발 속도조절론에 대한 질문에 현실적으로 어렵다고 답했다. 그는 '독립적인 제3자 평가자'에 대해 "이러한 규정을 이해하는 사람이 필요하다"며 "또 다른 문제는 이 문제를 이해하는 사람들이 대부분 급여를 받는 직원이라는 점"이라고 지적했다. 이어 "누구를 믿어야 할까라는 의문이 생긴다"고 덧붙였다.
카프 CEO는 강력한 기술 개발에 따르는 위험과 책임을 거듭 강조했다. AI 기술 개발자들이 책임을 지지 않을 경우 민·형사 소송이 잇따르는 등 압박이 커질 수 있다고 경고했다. 그는 "일각에서는 AI 연구소 국유화까지 주장하는 것 같다"며 "국유화하지 않으면 고객사 모두가 소송을 제기할 것"이라고 말했다.
AI에 대한 우려는 입법 움직임을 촉발시켰다. 미 의회에서는 AI 연구소들이 기술이 오작동할 경우 시스템을 차단할 수 있는 이른바 '킬스위치' 기능을 구축하도록 강제하는 법안이 논의되고 있다. 하원에서는 이미 관련 법안이 발의됐지만, 상원에서는 반발이 나오고 있다. AI 안전법안을 발의한 리처드 블루멘탈 코네티컷주 민주당 상원의원은 "미국이 완전히 통제력을 잃을 위기에 처해 있다"며 "AI 모델 공개 전 객관적인 검토가 필요하다"고 주장했다.
카프 CEO의 이번 발언은 AI 연구자들이 AI가 인류에 심각한 위험을 초래할 수 있다고 경고한 후 AI 개발 속도조절에 대한 업계 논쟁이 벌어지는 가운데 나왔다. AI 규제 요구가 거세지자 다리오 아모데이 앤트로픽 CEO는 AI 개발 속도를 늦춰야 한다고 촉구한 바 있다.
그동안 경쟁 관계였던 일론 머스크 스페이스X CEO, 샘 올트먼 오픈AI CEO도 개발속도 조절에 동의했다. 오픈AI는 전날 지난 6개월 동안 '예상치 못하거나 우려스러운' AI 모델 동작 사례 6건을 추가로 공개했다. 이는 허깅페이스 해킹 사건에 따른 자발적 감독 조치의 일환이다.
그러나 도널드 트럼프 미국 대통령은 AI 위험론을 "사기"라고 일축했다. 젠슨 황 엔비디아 CEO도 AI가 인류를 멸종시킬 수 있다는 주장을 비과학적이라고 일축했다. 마크 저커버그 메타 CEO 역시 AI 안전 문제를 독립 평가와 자문단을 활용해 해결해야 한다며 속도조절론에 반대했다.