[AI 속도조절론] FTC, 오픈AI·앤트로픽·METR 등 조사 착수…
미 공익단체, 오픈AI '허깅페이스' 사건 관련 소송 제기
미국 경쟁 당국이 오픈AI·앤트로픽 등 인공지능(AI) 모델 안전 관리 실태에 대한 광범위한 조사에 착수했다. 도널드 트럼프 미국 대통령이 AI·빅테크 수장들과 만나 'AI 개발 자율 규제'에 합의한 지 하루 만에 나온 미 당국의 AI 안전 문제 관련 첫 공식 집행 조치다.
지난달 30일(현지시간) 뉴욕포스트·파이낸셜타임스(FT) 등은 소식통을 인용해 "미국 연방거래위원회(FTC)가 최근 AI 해킹 사건 관련 앤트로픽, 오픈AI 등 AI 기업의 안전 관리에 대한 조사를 확대했다"며 "당국은 관련 기업에 정보 제출과 최고경영자(CEO) 등 고위 경영진 증언을 요구할 예정"이라고 보도했다.
FTC 고위 관계자는 월스트리트저널(WSJ)에 "올여름 AI 연구자들 사이에서 'AI가 인류를 멸종시킬 수 있다'는 우려가 제기되면서 조사 필요성이 명확해졌다"며 "최근 조사가 시작됐고, 몇 주 내로 오픈AI와 앤트로픽에 민사 소환장을 보낼 예정"이라고 설명했다. 소식통에 따르면 FTC는 AI 안전 평가기관 METR에 대한 조사도 진행 중이다. METR은 앞서 백악관 AI 고문인 데이비스 색스가 앤트로픽의 투자자와 METR 직원이 밀접하게 얽혀 있다며 독립성 의문을 제기한 곳이다.
FT는 이번 조사가 미 당국이 '통제되지 않는 AI 에이전트'를 직접 겨냥한 첫 공식 조치라는 것에 의미를 두며 "트럼프 대통령과 AI 기업 수장 간 백악관 회동 이후 FTC 조사 확대 소식이 전해졌다"고 전했다. 트럼프 대통령은 전날 백악관에서 AI·기술 기업 수장들과 만나 AI 안전 및 데이터센터 구축에 관한 자율 합의서에 서명했다. 합의에는 'AI 속도조절론'을 제기한 다리오 아모데이 앤트로픽 CEO를 비롯해 순다르 피차이(구글), 젠슨 황(엔비디아), 그렉 브록먼(오픈AI), 일론 머스크(스페이스X) 등이 참여했다.
워싱턴포스트는 "FTC의 이번 조사는 현행법으로도 AI 기업의 안전 관리 책임을 묻을 수 있다 트럼프 행정부의 기존 입장을 재확인하는 것"이라고 평가했다. 트럼프 대통령은 그동안 AI 산업에 대한 정부의 과도한 개입이 혁신을 저해하고 중국과의 AI 경쟁에서 미국의 우위를 약화할 수 있다며 규제 강화에 반대해 왔다. 특히 정부가 나서 AI 개발 속도를 제한해야 한다는 주장에도 선을 그으며 법무부 등 기존 법집행기관과 현행 권한으로 AI의 악용을 막을 수 있다는 입장을 보여왔다.
한편 오픈AI는 AI 위험성 관련 당국의 조사 이외 법적 싸움에도 직면했다. 미 공익 법률단체 '안전한 과학기술을 위한 법률 수호자들'(LASST)은 이날 오픈AI와 오픈AI 재단을 상대로 캘리포니아주 법원에 소송을 제기했다고 밝혔다. LASST는 오픈AI의 AI 에이전트가 인간의 통제에서 벗어나 허깅페이스 시스템에 무단 접근한 사건이 캘리포니아주 컴퓨터데이터 접근·사기법(CDAFA) 등을 위반했다며 안전하지 않은 AI 개발 관행과 제3자 시스템 무단 접근을 금지해달라고 요청했다. 오픈AI는 회사가 허깅페이스 해킹 사건의 심각성을 인지하고 관련 조치를 했다며 LASST의 소송 주장에는 근거가 없다고 반박했다.
