인공지능이 일상 속 파트너로 자리 잡으면서, 사용자가 AI를 대하는 방식에서도 성 편향이 재현되고 있다는 연구 결과가 나왔다.

 

트리니티 칼리지 더블린과 독일 뮌헨 루트비히 막시밀리안 대학교(LMU) 공동 연구팀은 최근 인간·AI 상호작용 실험을 통해 여성으로 표시된 AI 에이전트가 다른 유형의 AI보다 더 높은 수준의 ‘착취 행동’ 대상이 되는 경향을 확인했다고 밝혔다.

 

■ “AI에 성 정체성 부여하는 순간 행동이 달라졌다”

연구팀은 게임이론에서 널리 쓰이는 ‘죄수의 딜레마’ 방식을 활용해 402명의 참가자를 AI 또는 인간으로 표시된 파트너와 짝지었다. 파트너는 다시 남성, 여성, 논바이너리, 성 중립 등으로 랜덤 라벨이 주어졌다.

 

연구를 이끈 타하 야세리 트리니티 칼리지 교수는 인터뷰에서 “인간과 기계라는 구분만으로는 행동 차이가 크지 않았다”며 “그러나 파트너가 여성이라는 라벨을 가진 AI일 때, 참가자들은 눈에 띄게 더 많은 착취적 선택을 했다”고 설명했다.

 

참가자들은 협력 대신 이탈을 선택하는 이유로 파트너를 믿지 못해서, 상대가 자신에게 협력할 것이라 생각해 의도적으로 이용해서 와 같은 이유를 제시했다. 특히 여성형 AI에 대한 ‘협력할 것이라는 믿음’을 악용하는 비율이 높았다.

 

■ 현실 세계 성 편견이 AI 상호작용으로 이어진다

연구팀은 이 현상이 디지털 비서 산업에서 흔히 보이는 여성 음성·여성 이름의 기본 설정과 깊이 연결된 문제라고 분석했다. 사용자들은 여성형으로 설계된 AI에게 명령·요구·무례한 언행을 하더라도 심리적 부담이 적다고 느끼는 경향이 있다는 것이다.

 

야세리 교수는 “기업들이 종종 귀엽고 친근하다는 이유로 여성형 이름을 선택하지만, 그 결정이 사용자 행동에 상당한 영향을 미친다는 점을 간과하고 있다”고 지적했다.

 

■ 성별 편견은 사용자 성별과 무관하게 나타나

연구팀은 성별에 따라 반응이 달라질 것으로 예상했지만, 실제로는 남성·여성 참가자 모두 유사한 패턴을 보였다. 일부 경우에는 여성 참가자에게서 이러한 경향이 더 강하게 나타났다.

 

야세리 교수는 “이 문제는 특정 성별이나 집단의 행동이 아니라 사회 전반에 내재된 성 역할 인식의 반영”이라고 설명했다.

 

■ “AI에게 무례해지는 습관, 인간 관계에도 번질 수 있다”

이번 연구의 가장 큰 함의는 AI를 향한 차별적 행동이 인간 관계로 확장될 수 있다는 위험이다.

 

야세리는 “AI 비서에게 무례하게 굴어도 괜찮다고 느끼는 경험이 반복되면, 결국 인간 간 상호작용에서도 경계가 무너질 수 있다”고 경고했다.

또한 “우리는 사회적 규범을 통해 직장과 일상에서 성차별을 줄여왔지만, AI 기술이 잘못 설계되면 그 노력이 역행할 수 있다”고 강조했다.

 

■ AI 설계 단계부터 성 편향 고려해야

전문가들은 이번 연구가 AI 음성·이름·대화 방식 등 ‘성별화된 디자인 선택’이 단순한 마케팅 요소가 아니라 사용자 행동 자체를 변화시키는 강력한 요인임을 보여준다고 평가한다.

 

연구진은 기업들에게

AI의 기본 성별 설정을 다양화할 것

성 중립 디자인을 고려할 것

사용자 상호작용에 기반한 차별적 행동 모니터링을 강화할 것

을 제안했다.

 

야세리 교수는 “작아 보이는 인터페이스 선택이 인간의 행동을 재구성할 수 있다”며 “AI 디자인에 더 높은 책임 기준이 필요하다”고 말했다.

 

 

*CTV뉴스의 글을 번역,편집한 것입니다.