성명·CEO 개인 에세이로 AI 규제 필요성 강조…
연방정부 규제 법안·일자리 문제 대책 마련 촉구,
"AI발 일자리 혼란, 소득 지원 등 고용 촉진 필요 "
미국 AI(인공지능) 개발업체 앤트로픽이 AI 기술 발전 관련 정부의 강력한 규제와 일자리 대책 마련 필요성을 촉구했다.
10일(현지시간) 블룸버그·로이터통신 등에 따르면 앤트로픽은 이날 "미국 의회가 '재앙적인 AI 위험을 해결할 수 있는 '엄격한' 연방법을 통과시키지 않는 한 각 주정부의 AI 규제를 막아서는 안 된다"는 성명을 발표했다. 연방정부 차원의 AI 규제 방안이 없는 상황에서 미 의회가 주정부의 AI 규제 움직임까지 차단해서는 안 된다는 의미로 해석된다.
앤트로픽은 미 의회가 AI 기업이 개발하는 최상위 모델에 대해 독립적인 안전성 테스트를 거치도록 요구해야 하며, AI 발전에 따른 일자리 문제 등에 대한 대책도 마련해야 한다고 강조했다.
다리오 아모데이 앤트로픽 CEO(최고경영자)는 개인 블로그에 올린 '기하 수급적 AI 발전에 대한 정책'이라는 별도의 에세이를 통해 정부가 '특정 위험'을 초래할 수 있는 새로운 AI 모델의 배포를 차단할 수 있는 권한을 가져야 한다고 주장했다.
아모데이 CEO는 "AI 모델은 사이버공격, 생화학 무기 개발 등 위험을 평가할 수 있는 제3 기관을 통한 의무적인 테스트를 거쳐야 한다"며 "만약 해당 AI 모델이 '용납할 수 없는 위험을 초래하는 것'으로 판단된다면 정부가 배포를 차단하거나 제한할 수 있는 권한을 가져야 한다"고 적었다.
그는 "AI 발전 속도가 기하급수적으로 빨라지고 있다. 이런 속도가 앞으로 1~2년만 지속된다면 '강력한 AI' 또는 '데이터센터에 모인 천재들의 나라'라고 부르는 시대가 도래할 가능성이 높다. 하지만 정책, 특히 입법은 매우 느리게 진행되고 있다"며 "이제는 투명성을 넘어 AI에 대한 더욱 심각하고 구속력 있는 규제가 필요하다"고 말했다. 이어 AI를 자동차, 비행기, 의약품 등으로 비유하며 "현대 경제에 필수적인 강력한 기술이지만, 설계나 운영이 잘못되면 수많은 사람의 목숨을 잃게 만들 수 있는 기술"이라고 강조했다.
아모데이 CEO는 AI 기술발달에 따라 고용 촉진을 위한 인센티브, 보편적 기본소득 등과 같은 지원이 필요하다고 주장했다. 그는 "AI는 노동시장에 이전 기술보다 훨씬 더 큰 혼란을 야기할 수 있다. 잠재적인 장기적 혼란을 예상하는 것이 합리적"이라며 "장기적인 일자리 대체 현상은 바람직하지 않을 뿐만 아니라 위험한 일"이라고 말했다. 지난 8일 발표된 로이터·입소스 여론조사에 따르면 미국 성인 53%가 AI 기술 발전으로 자신이나 가족이 일자리를 잃을 수 있다고 우려하는 것으로 나타났다.
아모데이 CEO는 AI 기술을 적용한 자율무기 체계에 대한 책임 규정 마련과 미국 내 사용 금지를 제안하기도 했다. 그는 이날 공개된 블룸버그와 인터뷰에서 AI를 군사 목적으로 사용할 때 반드시 인간의 개입이 필요하다고 강조했다.
독자들의 PICK!
현재 미국 50개 주 가운데 약 48개 주가 AI 규제 관련 법률 제정을 논의하거나 시행 중으로, 연방정부 차원 단일 AI 규제 방안을 마련하고 주정부 법률 일부를 무력화하는 방안이 검토되고 있다. 로이터에 따르면 도널드 트럼프 미국 대통령은 의회에 주정부의 AI 규제를 무력화하는 연방법 제정을 압박하고 있다.
하지만 연방정부와 주정부 간 주도권 싸움, 미국 AI 경쟁력 저하 우려, 여야 간 이견 등으로 의회 합의는 지연되고 있다. 이에 트럼프 대통령은 지난 2일 AI 기업이 신규 AI 모델을 출시하기 전 정부의 보안 검증을 받도록 하는 행정명령에 서명했다. 행정명령에 따라 미 정부는 신규 AI 모델 출시 전 최대 30일 동안 해당 모델에 먼저 접근해 보안 결함을 검증할 수 있다. 트럼프 대통령은 앞서 AI 규제에 반대하는 입장이었지만, 지난 4월 앤트로픽의 신형 AI 모델 '미토스' 등장과 함께 AI 모델의 해킹과 사이버공격에 대한 우려가 커지면서 AI 규제 지지로 돌아섰다.
