가상착장, 개인맞춤형 추천 등 패션업계에 AI 활용이 확산되면서 개인정보 보호와 알고리즘 안전성도 주요 과제로 떠오른다. AI가 이용자에게 어울리는 옷을 추천하려면 사진, 체형, 구매 이력, 취향 정보 등 정교한 데이터가 필요한 만큼, 개인화 수준이 높아질수록 유출과 오남용 위험도 커질 수 있다는 지적이 나온다.
가상착장 서비스는 일반 상품 추천보다 민감한 정보를 다룰 가능성이 크다. 이용자가 사진을 올리면 AI는 얼굴, 체형, 피부 톤, 신체 비율 등을 분석해 착용 이미지를 만든다. 사이즈 추천도 신장, 몸무게, 체형, 구매 이력 등을 함께 활용할 수 있다. 편의성이 커질수록 이용자 몸과 취향에 가까운 데이터가 더 많이 쓰이는 구조다.
패션 AI의 경쟁력은 개인화에 있다. 이용자가 어떤 옷을 클릭했는지, 어떤 색상과 핏을 선호하는지, 어떤 체형에 가까운지 다양하게 분석할수록 추천 정확도가 높아진다. 문제는 이 정보들이 결합될 때다. 단순 쇼핑 이력만으로는 드러나지 않던 외모, 체형, 소비 성향, 선호 브랜드가 함께 추정될 수 있다.
개인정보 수집 범위도 쟁점이다. 이용자가 사진을 올렸을 때 해당 이미지가 일회성 분석에만 쓰이는지, 서버에 저장되는지, 향후 AI 학습에 활용되는지 명확히 알 수 있어야 한다는 지적이 나온다. 패션 플랫폼에는 10대와 20대 이용자도 많아 미성년자 사진과 체형정보 처리 기준도 필요하다.
업계에서는 온디바이스 AI가 대안 중 하나로 거론된다. 이용자 정보를 기업 서버로 보내지 않고 스마트폰 등 기기 내부에서 처리하는 방식이다. 사진과 체형정보가 외부 서버에 저장되지 않거나 저장 범위가 줄어들면 유출 위험을 낮출 수 있다는 설명이다.
다만 상용화에는 과제가 있다. 고도화된 이미지 생성과 추천 모델을 기기 안에서 구동하려면 연산 성능이 필요하다. 서비스 품질과 처리 속도, 비용 문제도 고려해야 한다. 중소 패션기업이나 신생 브랜드에는 도입 부담이 클 수 있다.
알고리즘 편향도 패션 AI의 주요 과제다. 학습데이터가 특정 체형, 연령, 성별, 유행 스타일에 치우치면 추천 결과도 한쪽으로 쏠릴 수 있다. 대중적인 코디는 잘 추천하지만 플러스사이즈, 고령층, 장애인, 젠더리스 패션, 비주류 취향은 충분히 반영하지 못할 가능성이 있다.
이는 단순한 추천 실패를 넘어 서비스 신뢰 문제로 이어질 수 있다. AI가 특정 체형이나 취향을 반복적으로 배제하면 이용자는 서비스에서 소외감을 느낄 수 있다. 업계에서는 소재, 핏, 체형, 색상, 착용 상황 등을 세밀하게 분류하고 추천 결과가 특정 집단에 불리하게 작동하지 않는지 점검하는 방식이 대안으로 제시된다.
패션 AI 경쟁은 추천 정확도뿐 아니라 신뢰 확보 능력에 따라 갈릴 가능성이 크다. AI 학습 목적을 명확히 고지하는지, 사진과 체형정보 보관 기간을 공개하는지, 이용자가 학습 활용을 거부할 수 있는지가 주요 기준이 될 수 있다.
플랫폼 입장에서도 안전성은 서비스 확산을 좌우하는 변수다. AI 추천과 가상착장이 편리해도 이용자가 불안감을 느끼면 대중화에 걸림돌이 될 수 있다. 개인정보 보호와 편향 관리, 학습데이터 통제 장치가 패션 AI 확산의 조건으로 떠오른다.