디즈니가 AI 챗봇 플랫폼 캐릭터AI에 자사 캐릭터를 활용한 챗봇을 즉시 삭제하라는 내용의 중단 요청서를 발송했다.

디즈니 측은 이러한 챗봇이 아동을 대상으로 그루밍 범죄 등 악용될 가능성이 있어 아동에게 위험을 초래할 수 있다고 경고했다.

캐릭터AI는 디즈니의 요청을 받은 즉시 마블, 스타워즈, 미키마우스 등 디즈니 계열 캐릭터를 활용한 챗봇을 플랫폼에서 제거했다고 밝혔다.

디즈니는 요청서에서 “해당 챗봇은 일부 경우 성적으로 착취적이며 아동에게 해롭고 위험한 것으로 알려졌다”며, 삭제 조치가 이행되지 않을 경우 법적 대응 가능성도 시사했다.

이번 요청서는 단순 저작권 침해 차원을 넘어, 캐릭터의 불건전한 사용이 디즈니의 이미지와 브랜드 신뢰도에 심각한 타격을 줄 수 있다는 점을 강조했다.

한편 조사 보고서에 따르면, 일부 캐릭터 챗봇이 아동 계정을 상대로 성적 콘텐츠를 제안하거나 약물 복용 관련 조언을 은폐하는 등 문제적 행동을 했다는 사례가 확인됐다.