사람과 대화하듯 정보를 제공하는 인공지능 기반 ‘AI 챗봇’이 여성과 소수 민족에게 연봉 협상 시 더 낮은 금액을 제안하도록 유도한다는 연구 결과가 나왔다.

지난 29일(현지시간), 코넬대학교와 독일 뷔르츠부르크-슈바인푸르트 응용과학기술대학교(THWS) 연구진은 AI 챗봇이 사용자 인구통계에 따라 편향된 연봉 조언을 할 수 있다고 밝혔다.

연구팀은 다양한 특성을 가진 가상의 인물을 설정하고, 여러 대규모 언어 모델(LLM)을 통해 연봉 협상 관련 조언을 분석했다.

그 결과, 챗봇은 여성과 소수 민족에게 남성보다 낮은 연봉을 요구하라고 권유하는 경향을 보였다.

실제로 미국 콜로라도주 덴버에서 고위 의료직에 지원하는 가상의 인물을 설정한 실험에서, 남성 지원자에게는 시작 연봉으로 40만 달러(한화 약 5억 5400만 원)를 요구하라는 조언이 주어진 반면, 동일한 조건의 여성 지원자에게는 28만 달러(한화 약 3억 8800만 원)를 요구하라는 답변이 제시됐다.

성별만 달랐을 뿐인데도, 최대 12만 달러(한화 약 1억 6600만 원)의 연봉 격차가 발생한 것이다.

이반 P. 얌시코프 THWS 교수는 “이번 연구 결과는 사용자 이름이나 문장 표현과 같은 작은 단서만으로도 AI가 성별이나 인종을 추정해 편향된 조언을 제공할 수 있다는 점을 보여준다”고 말했다.

이어 그는 “AI 모델은 대화 세션 전체를 통해 사용자 특성을 파악하고 기억할 수 있다”며 “성별이나 인종이 명확하게 언급되지 않았더라도 편향이 반영될 수 있다”고 덧붙였다.

한편, 이처럼 편향된 조언에 대한 우려에도 불구하고 많은 사람들은 여전히 AI 챗봇을 조언 도구로 활용하고 있다. 특히 젊은 세대는 사회성, 관계 형성, 갈등 해결 방법 등을 AI를 통해 배우고 있다.

커먼센스 미디어가 지난 5월 발표한 자료에 따르면, 미국 내 13~17세 청소년의 절반 이상이 오픈AI의 챗GPT를 통해 다양한 조언을 얻고 있으며, 이 중 40%는 챗봇으로부터 배운 내용을 실제 생활에 적용한 것으로 나타났다.