아모데이 CEO 강력규제 주장
AI모델 외부평가 의무화 강조
고용촉진 인센티브 등도 언급
발전을 거듭하는 AI(인공지능) 기술과 관련한 정부의 강력한 규제와 일자리대책 마련이 필요하다. 이는 세계적으로 주목받는 미국의 한 AI기업과 그 CEO(최고경영자)가 내놓은 주장이다.
블룸버그·로이터통신 등에 따르면 10일(현지시간) 앤트로픽은 "미국 의회가 재앙적인 AI 위험을 해결할 수 있는 '엄격한' 연방법을 통과시키지 않는 한 주정부의 AI 규제를 막아서는 안된다"는 성명을 발표했다. 국가 차원의 AI 규제가 없는 상황에서 의회가 주정부의 AI 규제 움직임도 막으면 안된다는 뜻이다.
앤트로픽은 미 의회가 AI기업이 개발하는 최상위 모델에 대해 독립적인 안전성 테스트를 거치도록 요구해야 하며 AI 발전에 따른 일자리문제 등의 대책도 마련해야 한다고 강조했다.
다리오 아모데이 앤트로픽 CEO(사진)는 개인 블로그에 올린 '기하급수적 AI 발전에 대한 정책'이라는 글을 통해 정부가 '특정 위험'을 초래할 수 있는 새로운 AI모델의 배포를 차단할 수 있는 권한을 가져야 한다고 주장했다.
아모데이 CEO는 "AI모델은 사이버공격, 생화학무기 개발 등 위험을 평가할 수 있는 제3기관을 통해 테스트를 거쳐야 한다"며 "해당 AI모델이 '용납할 수 없는 위험을 초래하는 것'으로 판단된다면 정부가 배포를 차단하거나 제한할 수 있는 권한을 가져야 한다"고 적었다.
특히 그는 "AI 발전속도가 기하급수적으로 빨라졌다. 이런 속도가 1~2년만 지속된다면 '강력한 AI' 또는 '데이터센터에 모인 천재들의 나라'로 부르는 시대가 도래할 가능성이 높다"면서 이 발전속도를 따라가지 못하는 관련정책과 규제의 필요성을 강조했다.
"현대경제에 필수적인 강력한 기술"이지만 "수많은 사람의 목숨을 잃게 만들 수도 있는 기술"이라는 게 그가 보는 AI다. 그는 이날 공개된 블룸버그통신과 인터뷰에선 AI를 군사목적으로 사용할 때 반드시 인간의 개입이 필요하다고 말했다.
또한 아모데이 CEO는 AI기술의 발달에 따라 고용촉진을 위한 인센티브, 보편적 기본소득 등과 같은 지원이 필요하다고 주장했다. 그는 "AI는 노동시장에 이전 기술보다 훨씬 큰 혼란을 야기할 수 있다"면서 "잠재적인 장기적 혼란을 예상하는 것이 합리적이다. 장기적인 일자리 대체현상은 바람직하지도 않고 위험한 일"이라고 말했다.
앞서 도널드 트럼프 대통령은 지난 2일 AI기업이 신규 AI모델을 출시하기 전 최대 30일 동안 정부의 보안검증을 받도록 하는 행정명령에 서명했다. 당초 트럼프 대통령은 AI 규제에 반대하는 입장이었지만 지난 4월 앤트로픽의 신형 AI모델 '미토스' 등장과 함께 AI모델의 해킹과 사이버공격에 대한 우려가 커지면서 AI 규제를 지지하는 쪽으로 돌아섰다.
독자들의 PICK!
한편 앤트로픽은 최근 기업가치를 9650억달러로 평가받으며 오픈AI(8520억달러)를 처음으로 추월했다.
