정부가 스스로 판단하고 외부 서비스를 호출하는 인공지능(AI) 에이전트 환경에서 발생할 수 있는 개인정보 오남용을 막기 위한 기술 개발과 연구를 추진한다.
개인정보보호위원회는 개인정보 보호와 안전한 활용을 지원하고 신뢰감 있는 환경을 조성하기 위해 '개인정보 전주기 보호·활용 기술 R&D 및 표준화 로드맵(2026~2030)'을 이같이 수립했다고 9일 밝혔다.
우선 4대 분야 11대 핵심기술을 선정했다. 최근 에이전틱·피지컬 AI 등 신기술 확산으로 개인정보 처리 환경이 급변하면서 개인정보 노출 우려도 증가하고 있다는 점을 고려해 개인정보의 생성·수집부터 파기까지 생애 전주기별 연구가 필요한 보호·활용 기술과 표준화 대상을 재정비했다.
구체적으로 에이전트·도구·로봇 실행 보안 영역에서는 개인정보 오남용을 막기 위해 다채널 유출을 탐지하는 '프라이버시 코파일럿'과 신원·권한을 안전하게 검증하는 'SSI/DID 기반 에이전트 지갑' 기술 개발을 추진한다. 아울러 복잡한 다중 AI 환경에서 에이전트 간 과도한 데이터 수집과 재식별 위험을 사전에 인지해 차단하는 선행 연구를 진행할 예정이다.
이 외에 피지컬 AI 관련 로봇·IoT 환경의 개인정보 수집 범위를 제어하고 다크웹 상 개인정보 불법유통과 노출 여부를 탐지하는 등의 기술개발과 연구도 진행한다. 생성형 AI 모델의 개인정보 노출·추론 위험을 방지하고 평가하는 기술과 개인정보보호 강화 기술(PET), 비정형데이터 등의 비식별화 연구도 진행할 예정이다.
아울러 개인정보 분야에 특화된 전문가를 양성하기 위한 향후 10년간의 인력양성 방향을 신규로 마련했다. '개인정보 보호·활용, 유출사고 예방·대응 등'의 역량을 갖춘 전문 인재를 총 640명 양성할 계획이다. 개인정보 관련 법제에 대한 심도 깊은 이해를 통해 컴플라이언스 관리가 가능한 수준의 개인정보보호책임자(CPO)급 인력과 개인정보 유출사고 현장 초동대응·사후 심층 분석 등이 가능한 전문 인력을 기르겠다는 목표다.
송경희 개인정보위 위원장은 "인공지능 기술 발전과 함께 새로운 프라이버시 위험이 증가하고 있는 만큼 이를 사전에 예방하기 위한 기술 연구개발의 중요성이 더욱 커지고 있다"며 "개정된 로드맵을 기반으로 현장의 수요를 반영해 상용화 가능한 개인정보 보호·활용 기술을 개발하고 이를 국내·외 표준화, 전문가 양성과 유기적으로 연계해 인공지능 시대에 필요한 개인정보 보호·활용 기술 생태계를 구축해 나가겠다"고 밝혔다.