"60~70대 노인이요? 심성은 따뜻할지 모르지만, 능력치는 낮죠."
챗 GPT에 60~70대 그룹의 특성을 묘사하게 했더니 인간으로서의 주체성이나 능동성을 낮게 평가하는 '미묘한 편향성'이 드러났다. 대중매체가 보여주는 전형적인 고정관념을 AI가 그대로 학습한 결과라는 분석이다.
KAIST(카이스트)는 최문정 과학기술정책대학원 교수 연구팀이 생성형 AI 모델 '챗GPT-4o'가 생성하는 문장 속에 노인에 대한 고정관념이 내재돼 있음을 정량적으로 분석했다고 28일 밝혔다. 연구 결과는 노년학 분야 국제 학술지 '더 제론톨로지스트' 2월 특별 호에 실렸다.
생성형 AI가 학습 사회적 편견을 학습해 그대로 재생산할 수 있다는 우려는 꾸준히 제기됐다. 제1 저자로 이번 연구를 수행한 홍완 박사과정 연구생은 전 세계적인 고령화 추세 속에서 '연령 차별' 양상이 AI 학습에 어떻게 반영되는지 주목했다. 연령 차별은 나이를 이유로 특정 집단을 차별하거나 부정적으로 인식하는 현상을 말한다.
연구팀은 10세부터 90세까지 10세 단위 연령대의 특성을 묘사하도록 하는 중립적 프롬프트(명령어)를 입력해 텍스트 900개를 수집했다.
그 결과, 60세 이상 '고령자 집단'에서 '따뜻함'(친절함과 신뢰성, 배려심 등 사회적 호감도를 나타내는 특성) 점수는 높게 나타났지만 '역량'(능력과 전문성, 효율성 등을 의미하는 특성) 점수는 젊은 연령층에 비해 상대적으로 낮게 나타나는 경향이 확인됐다.
생성된 응답에서는 인간의 생애 주기가 청년층(10~20대), 중년층(30~50대), 노년층(60대 이상)의 세 집단으로 구분돼 표현되는 경향이 있다. 특히 70대 이상 고령층에 대해서는 비교적 획일적인 특성이 반복적으로 묘사됐다. 자신감과 주도성을 나타내는 '자기 주장성' 묘사의 경우, 연령이 높아질수록 감소했다. 연구팀은 "노인을 지혜롭고 자애로운 인물로 묘사하는 동시에 주체성이나 능동성은 상대적으로 낮게 표현하는 경향이 있다는 뜻"이라고 해석했다.
연구팀은 이러한 표현이 대화형 AI 서비스를 통해 반복적으로 노출될 경우 고령자에 대한 사회적 편견을 강화할 수 있다고 설명했다. 나아가 고령층의 디지털 참여를 저해하는 '디지털 연령차별'까지도 이어질 가능성이 있다고 했다.
최 교수는 "AI 편향은 기술의 문제가 아니라 사회의 문제"라며 "포용적 AI를 위해 다양한 세대가 개발 과정에 참여해야 한다"고 했다.