한국통신사업자연합회(KTOA)가 프론티어 AI(인공지능) 시대에 부상하는 보안 위협과 모델 안전성 문제를 점검하고 통신업계의 대응 방안을 논의했다. AI가 산업 전반으로 확산하는 가운데 통신 인프라 보안을 강화하고 기술 혁신과 안전성을 함께 확보할 수 있는 민·관 협력체계를 마련해야 한다는 데 의견이 모였다.
KTOA는 20일 서울 강남구 KTOA 빌딩에서 'AI 보안 및 모델 안전성(AI Security & Safety)'을 주제로 '제11차 AI 미래가치포럼'을 개최했다고 밝혔다.
AI 미래가치 포럼은 국내 주요 통신사업자를 비롯해 학계와 법조계, 연구기관 등 전문가들이 참여하는 산·학·연 협의체다. 이성엽 고려대 기술경영전문대학원 교수가 포럼 의장을 맡고 있으며, 대한민국 AI 생태계의 지속 가능한 발전과 합리적인 정책·제도 개선 방향을 모색하기 위해 운영되고 있다.
이번 포럼에서는 AI 기술 발전과 함께 중요성이 커지고 있는 프론티어 AI의 보안 위협과 AI Safety(안전성)가 주요 의제로 다뤄졌다. 특히 LLM(거대언어모델)과 AI 에이전트 확산에 따른 새로운 보안 취약점부터 개인정보 보호, 국제 표준 대응까지 AI 서비스 전반의 신뢰성을 확보하기 위한 방안이 논의됐다.
이상근 고려대 정보보호대학원 교수는 '프론티어 AI 시대의 AI 보안: 새로운 위협과 대응전략'을 주제로 발표했다. 이 교수는 LLM과 AI 에이전트 환경에서 나타날 수 있는 고도화된 보안 취약점을 짚고 모델 신뢰성을 높이기 위한 기술적 대응 방안을 제시했다.
김창오 KT 정보보안실 그룹장(CPO)은 'AX(AI 전환) 플랫폼 컴퍼니의 개인정보보호와 AI 보안: 도전과제와 국제 표준'을 주제로 발표했다. 김 그룹장은 AI 추론 속성 관리를 포함해 데이터 생애주기 전반에서 개인정보와 데이터를 보호하는 방안과 글로벌 보안·개인정보 표준에 대응하기 위한 전략을 소개했다.
이어 포럼 의장인 이성엽 교수의 진행으로 열린 전체 토론에서는 산·학·연 전문가들이 AI 보안과 안전성 확보를 위한 통신업계의 역할과 정책 과제를 논의했다. 참석자들은 AI 대전환이 성공적으로 안착하려면 기술의 안전성과 신뢰성 확보가 전제돼야 한다며 프론티어 AI 시대에 맞는 합리적인 규제와 법·제도적 기반을 마련할 필요가 있다고 강조했다.
독자들의 PICK!
이 교수는 "AI 기술이 산업 전반으로 확산될수록 AI 보안과 안전성은 선택이 아닌 생존의 문제"라며 "정부와 산업계가 협력해 기술 혁신과 보안·안전성이 균형을 이루는 민·관 거버넌스를 더욱 강화해야 한다"고 말했다.
송재성 KTOA 부회장은 "신뢰할 수 있는 AI 생태계 조성을 위해서는 국가 AI 고속도로의 핵심인 통신 인프라의 보안 확보가 필수적"이라며 "포럼에서 논의된 전문가 의견을 바탕으로 회원사들이 안전하고 지속 가능한 AI 사업 전략을 추진할 수 있도록 지원하겠다"고 밝혔다.
