생성형 AI의 은밀한 연령 편향(AI 생성 이미지).[KAIST 제공]

[헤럴드경제=구본혁 기자] AI가 고령층을 반드시 부정적으로 묘사하지 않더라도 결과적으로는 낮은 행위성과 유능성을 암묵적으로 부여하는 경향이 있는 것으로 나타났다. 이러한 묘사는 표면적으로는 긍정적으로 보일 수 있으나, 반복될 경우 고령층에 대한 사회적 기대와 자기 인식을 제한할 수 있을 것으로 보인다.

KAIST는 과학기술정책대학원 최문정 교수 연구팀이 생성형 인공지능 모델 오픈AI의 챗GPT-4o가 생성하는 문장 속에 노인에 대한 미묘한 고정관념이 내재되어 있음을 정량적으로 분석했다고 28일 밝혔다.

생성형 인공지능은 일상 속 정보 탐색과 의사결정 과정에 폭넓게 활용되고 있지만, 학습 데이터에 포함된 사회적 편견을 재생산할 수 있다는 우려도 제기돼 왔다. 기존 연구들이 주로 성별이나 인종 관련 편향에 집중해 온 반면, 이번 연구는 전 세계적인 인구 고령화 속에서 중요성이 커지고 있는 연령차별(Ageism, 나이를 이유로 특정 집단을 차별하거나 부정적으로 인식하는 현상) 문제를 인공지능의 관점에서 분석했다는 점에서 의미가 있다.

연령별 GPT-4o 생성 100 단어당 긍정 표현 수.[KAIST 제공]

연구팀은 10세부터 90세까지 10세 단위 연령대의 특성을 묘사하도록 하는 중립적 프롬프트를 활용해 GPT-4o가 생성한 텍스트 900개를 수집했다. 이후 사회심리학 분야의 대표 이론인 고정관념 내용 모델(Stereotype Content Model, SCM·사람이나 집단에 대한 인식을 ‘따뜻함’과 ‘역량’ 두 차원으로 설명하는 이론)을 적용해 분석했다.

분석 결과, 고령자 집단(60세 이상)은 ‘따뜻함(Warmth)’ 점수는 높게 나타난 반면, ‘역량(Competence)’ 점수는 젊은 연령층에 비해 상대적으로 낮게 나타나는 경향이 확인됐다.

또한 생성된 응답에서는 인간의 생애 주기가 청년층(10~20대), 중년층(30~50대), 노년층(60대 이상)의 세 집단으로 구분되어 표현되는 경향이 나타났다. 특히 70대 이상 고령층에 대해서는 비교적 획일적인 특성 묘사가 반복적으로 나타났다.

연구팀은 자신감과 주도성을 나타내는 ‘자기주장성(Assertiveness)’에도 주목했다. 분석 결과, 자기주장성을 나타내는 표현의 빈도는 연령이 높아질수록 감소하는 경향을 보였다. 이는 챗GPT-4o가 노인을 지혜롭고 자애로운 인물로 묘사하는 동시에 주체성이나 능동성은 상대적으로 낮게 표현하는 경향이 있음을 시사한다.

이번 연구를 수행한 홍완(왼쪽) KAIST 박사과정과 최문정 교수.[KAIST 제공]

이번 연구는 생성형 인공지능에 내재된 미묘한 편향을 사회과학 이론과 전산 분석 기법을 결합해 정량적으로 규명했다는 점에서 의미가 있다. 연구 결과는 생성형 인공지능이 노인을 ‘따뜻하지만 역량은 상대적으로 낮은(warm but less competent)’ 집단으로 묘사하는 경향을 보여주며, 이는 대중매체에서 반복적으로 나타나는 전형적인 노인 고정관념과 유사한 양상이다.

연구팀은 이러한 표현이 대화형 인공지능 서비스를 통해 반복적으로 노출될 경우 고령자에 대한 사회적 편견을 강화할 수 있다고 설명했다. 나아가 이러한 현상이 고령층의 디지털 참여를 저해하는 ‘디지털 연령차별(Digital Ageism)’로 이어질 가능성도 제기했다.

최문정 교수는 “AI의 편향은 기술의 문제가 아니라 사회의 문제”라며 “포용적 인공지능을 위해 다양한 세대가 개발 과정에 참여해야 한다”고 말했다.

이번 연구결과는 국제학술지 ‘더 제론톨로지스트’ 2월호 특별호에 게재됐다.