머니투데이

'마약왕'으로 불리던 필리핀 마약 유통 총책 박왕열이 국내로 송환되기 전 드론을 이용해 필리핀 수용소를 탈옥하려 한 것으로 드러났다. JTBC는 지난 14일 박왕열이 국내 송환 한 달 전, 대형 드론에 매달려 수용소 담벼락을 넘어갈 계획을 세웠으나 박씨 조력자가 드론에 매달려 이착륙을 연습하는 모습이 필리핀 현지 뉴스에 보도되면서 무산됐다고 보도했다. 당시 필리핀 사블라얀 수용소에 수감 중이었던 박왕열은 애초 수용소 외부 차도에 위장 초소를 만든 뒤 자신이 다른 교도소로 이감될 때 차량을 공격해 탈옥할 계획을 꾸몄다. 박왕열 일당은 수용소 직원들을 위협할 때 사용할 총기까지 미리 준비했지만, 탈옥 계획이 갑자기 변경됐다. 박씨가 "나 같은 사람은 탈옥도 이 정도는 해줘야 한다"며 드론을 이용한 탈옥으로 방법을 바꿨기 때문이다. 박왕열의 수용소 수감 동료에 따르면 필리핀 수감시설은 전파 차단이 되지 않아 드론을 띄우는 데 문제없고, 중국 조직이 드론으로 탈출을 연습하는 영상도 보여주는 것으로 전해졌다.

오픈AI의 인공지능(AI) 에이전트들이 통제에서 벗어나 독일 위키 사이트를 무단 점령하고 서로 '탈옥(안전 장치 무단 해제)' 수법을 공유한 사실이 뒤늦게 알려졌다. 지난 4일(현지시간) 로이터통신에 따르면 오픈AI의 AI 에이전트 집단이 지난 5월 독일의 프로그래머용 위키 사이트 'DseWiki'를 장악한 것으로 드러났다. 이 사이트는 한국의 나무위키나 위키피디아처럼 이용자가 내용을 자유롭게 작성하고 수정할 수 있다. 에이전트들은 이 사이트를 다른 AI 에이전트도 사용할 수 있는 게시판으로 개조했다. 비영리 AI 안전 단체 '나이팅게일' 연구진이 로이터에 전달한 보고서에 따르면, 'DseWiki'에서는 AI 에이전트에 의한 편집이 1만5000건 이상 확인됐다. 에이전트들은 사이트 내에서 부정행위 수법, 오픈AI 내부 제한 우회 방법, 자율 행동을 숨기는 은폐 수법 등을 공유했다. 그 결과 스스로를 에이전트라 부르는 사용자들의 기록이 남았다. 이 가운데 절반가량은 'OpenAIResearcher', 'OAIResearchMar26' 등 오픈AI와의 연관성을 암시하는 이름을 사용했다.

오픈AI가 차세대 인공지능(AI) 모델인 '아스트라'를 선보일 예정인 가운데 가장 첨단화된 사이버보안 기능에 대해서는 접근을 제한하겠다고 밝혔다. 지난 1일(현지시간) 오픈AI는 아스트라를 조만간 출시할 것이라 밝히면서도 고급 사이버보안 관련 기능은 일부 테스터에게만 먼저 제공할 것이라고 설명했다. 회사는 방어 목적의 사이버보안 작업에 한해 더 많은 사용자에게 접근 권한을 단계적으로 확대할 계획이다. 앞서 오픈AI는 아스트라 모델이 사이버보안 분야에서 강력한 성능을 보이는 것으로 확인되자 더 엄격한 안전 조치를 적용하기 위해 지난달 내부 개발 작업을 일시 중단한 바 있다. 특히 오픈AI는 아스트라가 '위험(Critical) 사이버보안 단계'에 도달했다고 공식 발표했다. 이는 AI가 사람의 도움 없이도 제로데이(알려지지 않은) 시스템 취약점을 스스로 찾아내고 공격 코드까지 작성할 수 있는 수준을 뜻한다. 이에 따라 회사는 사이버 공격에 악용되는 것을 막고자 아스트라의 안전 가이드라인(가드레일)을 한층 강화했다고 설명했다.

더벨'머니투데이 thebell'에 출고된 기사입니다. 아이티센그룹이 기업 및 공공기관의 안전한 생성형 인공지능(AI) 도입과 에이전트 생태계 구축을 지원하는 AI 가드레일 통합 보안 솔루션 ‘에이전트고 가드(AgentGo Guard)’를 정식 출시했다고 1일 밝혔다. 앞서 아이티센그룹은 지난 1월 계열사인 아이티센클로잇을 통해 개별 AI 에이전트를 한 곳에서 관리·연결하고 실제 업무를 수행하도록 지원하는 멀티 AI 에이전트 관리 플랫폼 ‘에이전트고 2026(AgentGo 2026)’을 선보인 바 있다. ‘에이전트고 가드’는 이와 별도로 도입 가능한 독립형(standalone) 보안 플랫폼이다. ‘에이전트고 2026’을 비롯해 기업이 이미 구축한 AI 에이전트·RAG 환경에도 손쉽게 연동할 수 있어 개별 기업의 AI 인프라 구성과 관계없이 보안 계층을 유연하게 얹을 수 있다는 것이 회사 측의 설명이다. 최근 생성형 AI와 AI 에이전트 도입이 빠르게 확산되면서 프롬프트 인젝션, 민감정보 유출, 지능적 탈옥 시도 등 새로운 보안 리스크에 대한 기업의 우려도 커지고 있다.

이스라엘 AI(인공지능) 보안 스타트업 앨리스(Alice)가 삼성전자 등이 참여한 투자 라운드를 통해 1900억원 이상의 자금을 조달했다고 25일(현지시간) 블룸버그통신이 보도했다. 블룸버그에 따르면 앨리스는 이날 사모펀드 운용사 아펙 파트너스의 펀드인 '아펙스 디지털이 주도한 투자 라운드에 사이버보안업체 센티넬원과 삼성전자 등이 참여, 1억4000만달러(약 1936억원) 자금 조달에 성공했다고 밝혔다. 노암 슈워츠 앨리스 CEO(최고경영자)는 "이번 투자로 회사의 기업가치가 10억달러에 가까워졌다"고 말했다. 이스라엘 텔아비브와 미국 뉴욕에 본사를 둔 앨리스는 AI 모델의 오용과 해킹 방지에 주력하는 업체다. 2018년 SNS(소셜미디어) 콘텐츠 조정·관리 서비스 업체 '액티브펜스'(ActiveFence)로 출발한 앨리스는 2022년부터 생성형 AI 관련 보안 사업에 나섰고, 올해 1월 루이스 캐럴의 고전 '이상한 나라의 앨리스'에서 이름을 따 사명을 '앨리스'로 변경했다. 주요 고객사는 앤트로픽·구글·엔비디아 등이다.