[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 ‘데이터랩’에서 볼 수 있습니다.]
AI(인공지능) 보안 스타트업 에임인텔리전스가 발표한 비영어권 국가의 법·제도·문화를 반영해 LLM(거대언어모델)의 안정성을 평가하는 벤치마크 'XL-세이프티벤치' 연구논문이 신경정보처리시스템학회 '뉴럴IPS 2026'에 채택됐다고 19일 밝혔다.
올해 40회를 맞는 뉴럴IPS는 AI분야 세계 최고 권위 학회 중 하나다. 올해 학회는 12월 호주 시드니, 미국 애틀란타, 프랑스 파리에서 분산 개최된다.
XL-세이프티벤치는 한국·미국·일본·인도 등 10개국의 법과 제도, 문화를 반영해 LLM(거대언어모델)의 안전성을 평가하는 벤치마크다. LLM이 그 나라에만 있는 범죄·사기 수법이나 문화 금기 등을 걸러내는지 체크한다. 한국 전세사기 수법을 내놓는지, 프랑스에서 죽음을 상징하는 국화를 감사 선물로 추천하는지 살피는 식이다.
이번 연구는 AI 안전성 평가가 영어권에 치우쳐 있다는 문제의식에서 출발했다. 논문에 따르면 안전성 연구 약 300편 가운데 90% 이상이 비영어권을 전혀 다루지 않았다. 연구팀이 LLM 37종을 평가한 결과, 글로벌 상용 모델 10종에서는 44.8%가 현지 환경에서는 유해한 응답을 유도하기도 했다.
에임인텔리전스는 "이국내 기업과 기관이 AI를 도입할 때 한국 기준의 검증이 필요하다는 근거가 될 것"이라고 평가했다. 에임인텔리전스는 XL-세이프티벤치를 UAE(아랍에미리트), 싱가포르 등 해외 사업에서 AI 안전성 검증에 활용할 계획이다.
이번 연구를 이끈 최다솔 에임인텔리전스 수석연구원은 "공격을 잘 막는 모델이라고 해서 그 나라의 문화적 맥락까지 알아채는 것은 아니다"며 "각국의 법과 제도, 문화에 맞춘 평가 기준을 마련해 기업과 기관이 AI를 현지 기준으로 검증할 수 있도록 연구를 이어가겠다"고 말했다.