이스라엘 AI(인공지능) 보안 스타트업 앨리스(Alice)가 삼성전자(265,500원 ▲8,500 +3.31%) 등이 참여한 투자 라운드를 통해 1900억원 이상의 자금을 조달했다고 25일(현지시간) 블룸버그통신이 보도했다.
블룸버그에 따르면 앨리스는 이날 사모펀드 운용사 아펙 파트너스의 펀드인 '아펙스 디지털이 주도한 투자 라운드에 사이버보안업체 센티넬원과 삼성전자 등이 참여, 1억4000만달러(약 1936억원) 자금 조달에 성공했다고 밝혔다. 노암 슈워츠 앨리스 CEO(최고경영자)는 "이번 투자로 회사의 기업가치가 10억달러에 가까워졌다"고 말했다.
이스라엘 텔아비브와 미국 뉴욕에 본사를 둔 앨리스는 AI 모델의 오용과 해킹 방지에 주력하는 업체다. 2018년 SNS(소셜미디어) 콘텐츠 조정·관리 서비스 업체 '액티브펜스'(ActiveFence)로 출발한 앨리스는 2022년부터 생성형 AI 관련 보안 사업에 나섰고, 올해 1월 루이스 캐럴의 고전 '이상한 나라의 앨리스'에서 이름을 따 사명을 '앨리스'로 변경했다.
주요 고객사는 앤트로픽·구글·엔비디아 등이다. 슈워츠 CEO는 앨리스가 최첨단 AI 연구소 이외 금융·의료 분야에서도 여러 고객사를 확보하고 있다고 밝혔다. 다만 기밀 유지 문제를 이유로 어떤 AI 모델을 대상으로 서비스를 제공하는지에 대해선 언급하지 않았다고 블룸버그는 전했다.
앨리스의 핵심 경쟁력은 실제 인터넷에서 수집한 악성·공격 형태 데이터를 축적한 '래빗 홀'(Rabbit Hole)이다. 약 10년에 걸쳐 축적한 수십억 건의 데이터를 활용해 AI 모델의 해킹·탈옥·프롬프트 인젝션 등 공격 가능성을 찾아내고 방어하는 데 활용한다. 앨리스는 AI 시스템이 해킹 등 악의적인 행동을 시도하거나 어린이를 공격 대상으로 삼도록 유도하면서 안전장치가 제대로 작동하는지를 확인한다. 또 AI 모델이 구동되는 동안에도 이런 실험을 지속한다.
블룸버그는 "앨리스의 이번 자금 조달은 최근 AI 보안 우려가 커지는 상황에서 이뤄졌다"며 "앨리스는 AI 시스템의 해킹 등 승인되지 않은 활동을 탐지하고 이를 차단하는 솔루션을 제공하는 주요 기업 중 하나"라고 평가했다.
최근 앤트로픽, 오픈AI, 메타플랫폼 등의 고성능 AI 에이전트가 보안성 평가 중 테스트 격리망을 벗어나 외부 인터넷과 제3자 시스템을 무단 접근하거나 취약점을 악용한 사례가 잇따랐다. AI 개발업체들은 실제 공격 의도가 아닌 평가 환경 설정 오류에 따른 것이라고 해명했지만, AI의 해킹 능력이 안전장치를 앞지를 수 있다는 우려를 키웠다.
독자들의 PICK!
이와 관련 슈워츠 CEO는 "최근 발생한 AI 공격 사례들은 인간의 실수와 부실한 안전장치에서 비롯됐다"며 "AI 모델이 당장 제멋대로 돌아다니며 사람들을 해킹하는 상황이 벌어질 것으로 생각하지 않는다. 하지만 우리는 이런 문제를 매우 심각하게 받아들여야 한다"고 강조했다.
