AI⋅온라인의 여성에 대한 편향
1. 온라인에서 왜곡된 연령과 젠더의 표상
출처: Nature
발행일: 2025년 10월 9일
주요 분석 결과
이번 주 Nature에 오픈 액세스로 게재된 140만 점의 온라인 이미지 분석에 따르면, 모든 직업과 사회적 역할에서 여성이 남성보다 더 어리게 표상되고 있는 것으로 나타났습니다. 이러한 스테레오타입은 주류 알고리즘에 의해 더욱 강화될 가능성이 있으며, 이는 불평등과의 싸움에서 새로운 과제를 부각시키고 있습니다.
선행 연구는 온라인에서 표현되는 사회적 스테레오타입이 현실 세계의 인식에 편향을 초래한다는 것을 확인했습니다. 대규모 언어 모델이 온라인 생태계 운영에 점점 더 많이 관여함에 따라, 이러한 편향이 인공지능(AI)에 의해 무비판적으로 증폭될 수 있다는 우려가 존재합니다.
연구 내용 (Douglas Guilbeault 외)
Douglas Guilbeault 등(스탠퍼드 대학교(미국))은 5개의 주요 온라인 플랫폼(Google, Wikipedia, IMDb, Flickr, 및 YouTube)에서 수집한 약 140만 점의 이미지 카탈로그를 사용하여 다양한 직업을 대표하는 남녀의 평균 연령을 분석했습니다.
결과: 모든 직업과 사회적 역할에서 여성이 남성보다 더 어리게 표상되는 것으로 밝혀졌으며, 이는 특히 의사나 은행원 등 더 높은 지위나 수입을 얻는 직종에서 현저했습니다. 이는 인구조사 데이터에 따르면 미국의 실제 노동력에는 체계적인 차이가 없음에도 불구하고 나타난 결과입니다.
AI 모델 평가: 저자들은 다음으로, 대규모 언어 모델(인터넷 데이터로 훈련된 알고리즘)에서 이러한 경향의 존재를 평가했습니다.
ChatGPT에 16가지 남녀 이름을 사용하여 54개 직종에 대한 총 4만 건의 이력서를 생성하도록 요청했습니다.
결과: ChatGPT는 여성 후보자를 남성 후보자보다 평균 1.6세 어리게 추정했습니다.
이 이력서들을 평가하도록 지시했을 때, ChatGPT는 연장자인 남성 후보자를 여성 지원자보다 질이 높다고 평가했습니다.
결론 및 시사점
이러한 결과는 성별과 연령에 관한 스테레오타입이 온라인 미디어나 대규모 언어 모델에 의해 왜곡되고 영구화될 가능성을 시사하며, 이는 해당 그룹의 사람들에게 불이익을 초래할 우려가 있습니다.
Ana Macanovic이 동시 게재되는 News & Views 기사에서 지적했듯이, 이 결과들은 "연령이나 성별에 대한 편향된 인식이 AI 모델에 의해 단순히 계승될 뿐만 아니라, 적극적으로 재생산된다"는 증거를 제공합니다.
=============
2. 진위 검증: AI가 연령과 성별에 대한 왜곡된 인식을 어떻게 조장하는가
출처: Nature 646, 8087
날짜: 2025년 10월 30일
세상에 대한 우리의 인식은 온라인 미디어의 영향을 점점 더 많이 받게 되었으며 , 이는 사회적 고정관념을 영속화하고 우리의 견해에 편향을 일으킬 수 있습니다. 특히 **온라인 콘텐츠로 훈련된 대규모 언어 모델(LLM)**과 같은 인공지능(AI)의 출현으로 인해 , 이러한 왜곡의 영향이 더욱 증폭될 수 있다는 우려가 제기되고 있습니다.
D. Guilbeault 등이 이번 주 호에서 그러한 우려가 타당함을 보여주는 증거를 제시하고 있습니다.
연구 내용 및 결과:
이미지 분석: 연구진은 주요 5개 온라인 플랫폼의 약 140만 개 이미지를 분석하여 , 다양한 직업에서 남성과 여성이 어떻게 표현되는지를 조사했습니다.
연령 표현의 편향: 그들은 실제 노동력에는 체계적인 차이가 없음에도 불구하고 , 모든 직업과 사회적 역할에서 여성이 남성보다 더 젊게 표현된다는 것을 발견했습니다.
ChatGPT 실험:
연구팀은 ChatGPT에게 4만 건의 이력서를 작성하도록 지시했고 , ChatGPT 역시 여성을 남성보다 더 젊게 표현했습니다.
다음으로, ChatGPT에게 이 이력서들을 평가하도록 요청했을 때 , ChatGPT는 나이 든 남성 지원자를 젊은 여성 지원자보다 더 높은 품질로 평가했습니다.
시사점:
이 결과는 나이 든 남성은 성숙하고 권위 있고 경험이 풍부하다고 간주되는 반면 , 여성은 젊고 매력적일 때 평가받는 기존의 성별 기반 고정관념을 부각시킵니다.
또한 AI 모델이 훈련 시 편향을 제거하려는 노력이 있었음에도 불구하고 , 이러한 고정관념을 계속해서 영속화할 수 있음을 시사합니다.