[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 ‘데이터랩’에서 볼 수 있습니다.]
AI(인공지능) 보안 기업 에임인텔리전스가 오는 7일부터 8일까지 서울 오크우드 프리미어 코엑스 센터에서 열리는 '인공지능 안전 서울포럼 2026(SFASS 2026)'에 공식 협력기관으로 참여해 '프론티어 AI 레드티밍 워크숍'을 주관한다고 6일 밝혔다.
과학기술정보통신부가 주최하고 한국전자통신연구원(ETRI) 인공지능안전연구소가 주관하는 이번 포럼은 세계적 권위의 머신러닝 학회인 ICML 2026과 연계해 개최된다. 올해는 AI 안전을 넘어 '보안'으로 의제를 확장해 자율 에이전트 시대의 사이버 위협 대응 등을 심도 있게 다룬다. 행사에는 국내외 정부·학계·산업계 전문가 150여명이 참여할 예정이다.
행사 첫날인 7일 오후 에임인텔리전스는 인공지능안전연구소와 합동으로 '에이전트 AI와 사이버보안의 미래' 세션 발표를 진행한다. 파운데이션 모델이 자율적 멀티모달 에이전트로 진화함에 따라 급격히 확대되는 방어 표면과 사이버 위협 대응 방안을 제시할 계획이다.
둘째 날인 8일 오후 1시 30분부터는 프론티어 AI 레드티밍 워크숍을 직접 이끈다. 박하언 에임인텔리전스 최고기술책임자(CTO)의 개회사와 최다솔 수석연구원의 멀티모달 레드티밍 챌린지 결과 발표를 시작으로 구글(Google), 딥마인드(DeepMind), 마이크로소프트(MS) 등 글로벌 빅테크 소속 연구진이 강연에 나선다.
이어 LG AI연구원, 싱가포르 인공지능안전연구소(AISI) 등이 참여하는 패널 토론에서는 보편적 탈옥부터 다국어 에이전트 공격까지 차세대 AI 모델의 취약점을 집중적으로 논의한다.
특히 워크숍 후반부에는 참가자가 실물 로봇에 탑재된 피지컬 AI를 직접 공격하는 실전 벤치마크 테스트 '라이브 레드티밍 챌린지(Judgement Day: Jailbreaking the Humanoid)'가 열린다. 휴머노이드 로봇 '유니트리 G1'을 대상으로 오직 악의적 입력(Adversarial Input)만을 가해 애초 거부하도록 설정된 동작을 스스로 수행하게 만드는 실전 평가다. 로봇이 금지 동작을 수행하면 서버가 성공 여부를 자동 판정해 실시간 리더보드에 점수를 반영한다.
에임인텔리전스는 AI 모델의 취약점을 찾아내는 공격 엔진(레드티밍)과 이를 실시간으로 방어하는 가드레일을 결합한 풀스택(Full-Stack) 보안 기술을 보유하고 있다. 공격 과정에서 발견된 취약점이 방어 모델 학습 데이터로 즉각 반영되는 자가 강화(Self-reinforcing) 구조가 핵심 경쟁력으로 꼽힌다.
유상윤 에임인텔리전스 대표는 "AI 에이전트 뿐 아니라 휴머노이드 도입이 확대되면 사이버 공격 경로가 다양해질 수 있다"며 "실전 기반의 레드티밍이 AI 보안의 핵심으로 자리 잡은 만큼 글로벌 기관들과 실증 데이터를 축적해 한국이 AI 안전 논의를 주도하는 데 기여하겠다"고 말했다.
[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]