엔비디아와 SK텔레콤, 네이버 등이 참여하는 글로벌 AI(인공지능) 보안 연합이 에이전틱 AI 시대에 대응하기 위한 공동 보안 가이드라인 마련에 나섰다. AI 보안 사고와 위협 정보를 생태계 전반에 공유하는 'SAFE(Shared AI Findings Exchange)' 프레임워크를 공개하며 집단 방어 체계 구축에 속도를 내고 있다.
엔비디아는 이달 1일부터 미국 라스베이거스에서 열린 세계 최대 사이버보안 콘퍼런스 '블랙햇 2026'에서 '오픈 시큐어 AI 얼라이언스' 회원사들이 SAFE에 대한 의견 수렴(Request for Comments·RFC)을 시작했다고 6일 밝혔다. 오픈 시큐어 AI 얼라이언스에는 엔비디아를 비롯해 네이버, SK텔레콤, 시스코, 크라우드스트라이크, 허깅페이스, 레드햇, 팔로알토 네트웍스, 아마존, 마이크로소프트 등 120여개 AI·보안 기업들이 참여하고 있다.
SAFE는 AI 관련 보안 사고 사례 등을 기밀로 수집·분석하고 위협 정보를 생태계 전체와 공유해 반복되는 보안 실패를 줄이기 위한 공동 대응 가이드라인이다. 사고 발생 시 영향을 받은 조직에 신속히 알리고 축적된 데이터를 바탕으로 시스템 전반의 위험을 줄일 수 있는 운영 권고안을 마련하는 내용도 담겼다. 이번 가이드라인은 엔비디아와 시스코, 크라우드스트라이크, 허깅페이스, 레드햇 등이 리눅스 재단과 함께 마련했다. 리눅스 재단은 SAFE를 정식 표준으로 발전시키기 위해 공개 의견 수렴 절차를 진행할 예정이다.
엔비디아 측은 "사이버보안은 결승선이 없는 경쟁"이라며 "AI 에이전트가 새로운 공격 표면을 만들어내는 만큼 방어도 AI의 속도에 맞춰 진화해야 한다"고 설명했다. 이어 "신뢰할 수 있는 생태계가 위협 인텔리전스를 투명하게 공유할 때 집단 방어의 효과를 극대화할 수 있다"고 강조했다.
엔비디아는 SAFE와 함께 AI 보안을 위한 오픈소스 기술도 공개했다. AI 에이전트의 동작을 테스트하고 추적·감사할 수 있는 연구용 프레임워크 'NOOA'를 선보였다. 또 '오픈쉘'은 에이전트의 접근 권한을 제한해 민감한 시스템 접근을 차단하는 런타임 기술이다.
또한 네모트론, 코스모스, 아이작 GR00T, 바이오네모 등 개방형 AI 모델과 함께 '네모 가드레일', '네모 어노니마이저', '네모 세이프 신디사이저'를 통해 안전 정책 적용과 개인정보 보호 기능을 제공한다. 오픈소스 LLM(대규모언어모델) 취약점 스캐너인 '가락'은 데이터 유출과 프롬프트 인젝션, 탈옥 공격 등을 사전에 점검할 수 있도록 설계됐다.
얼라이언스 참여 기업들의 기술 개발도 확대되고 있다. 아마존은 AI 에이전트 운영 플랫폼 '스트랜드 에이전트'와 접근 제어 기술 '시더'를 공개했고, 마이크로소프트는 AI 레드팀 자동화 도구 'PyRIT'과 보안 검증 도구 'Assert'를 오픈소스로 공개했다. 크라우드스트라이크는 엔비디아 네모트론 기반 보안 모델을 개발해 보안관제센터(SOC)의 탐지 정확도를 높였으며, 우버는 AI 에이전트 활동을 추적하는 'ADR(Agentic AI Detection and Response)' 기술을 선보였다.