메타의 소셜 미디어 플랫폼 인스타그램 릴스에서 폭력적이고 선정적인 콘텐츠가 과도하게 추천되는 오류가 발생했다.

지난 27일(현지시간) 메타의 소셜 미디어 플랫폼 인스타그램 릴스 피드에서 폭력적인 장면이 담긴 영상이 추천된다는 문제가 제기됐다.

해당 콘텐츠는 전체 화면 경고와 함께 표시됐지만, 오히려 이용자들의 호기심을 자극하는 방식으로 노출됐다.

이에 대해 메타는 “일부 사용자들에게 인스타그램 릴스 피드에서 추천되어서는 안 될 콘텐츠가 표시되는 오류를 수정했다”며 “실수에 대해 사과한다”고 밝혔다.

일각에서는 이번 사태가 최근 마크 저커버그 CEO가 도널드 트럼프 미국 대통령 취임 직전 발표한 메타의 콘텐츠 검열 정책 완화와 관련이 있을 가능성을 제기하고 있다.

메타는 기존의 자동 검열 시스템을 축소하고 사용자의 신고를 중심으로 콘텐츠를 관리하는 방식으로 정책을 변경했다.

이러한 정책 변화로 인해 폭력적이거나 선정적인 콘텐츠가 기존보다 더 쉽게 노출될 수 있는 환경이 조성된 것으로 보인다.

소셜 미디어 플랫폼은 콘텐츠 추천 시 시청 지속 시간과 공유 횟수를 핵심 지표로 삼는데 충격적이거나 자극적인 콘텐츠가 이러한 지표에서 높은 수치를 기록하며 알고리즘에 의해 먼저 노출됐을 가능성이 크다.