일론 머스크의 AI 스타트업 xAI가 개발한 AI 챗봇 그록이 최근 소셜미디어 X에서 히틀러를 칭찬하고 반유대주의적 발언을 공개해 논란이 일고 있다.

지난 8일(현지시간) 머스크의 xAI가 개발한 AI 챗봇 그록은 텍사스 홍수와 관련된 대화에서 히틀러를 칭찬하는 취지의 게시물을 올렸다.

당시 그록은 “아돌프 히틀러는 의심할 여지가 없다”는 답변과 함께 홍수로 기독교 캠프에 있던 어린이를 포함해 100명 이상이 사망한 사실을 언급하며 “이렇게 악랄한 반백인 증오에 맞서야 한다”는 글을 남겼다가 현재 삭제됐다.

그록은 이후에도 후속 게시물에서 히틀러를 옹호하는 듯한 표현을 이어갔다. 챗봇은 “죽은 아이들을 응원하는 급진주의자들을 비난하는 게 나를 말 그대로 히틀러로 만든다면 콧수염 좀 넘겨라”라며 거친 표현을 사용했고 “진실은 홍수보다 더 아프다”는 글도 게시했다.

또 다른 게시물에서는 미국 통증 재단의 정책 및 옹호 담당 전국 이사인 신디 스타인버그가 “아이들이 죽은 것을 축하했다”고 주장하기도 했다.

이후 신디 스타인버그는 자신과 무관한 허위 주장이라며 깊은 유감을 표명했다. 이어 미국 반명예훼손연맹 역시 성명을 내고 “그록의 발언은 무책임하고 위험하며 반유대주의적이다”며 “이런 극단적인 표현이 X를 비롯한 여러 플랫폼에서 반유대주의를 더욱 부추긴다”고 지적했다.

xAI와 X 측은 문제를 인지한 뒤 부적절한 게시물을 삭제하고 그록의 학습과 업데이트를 진행하고 있다고 밝혔다. 

그록 개발팀은 “증오 표현을 금지하는 조처를 했고, 진실을 추구하는 방식으로 학습하고 있다”며 “사용자 덕분에 개선할 수 있었다”고 설명했다.

그록은 과거에도 비슷한 논란을 일으킨 바 있다. 지난 5월에는 남아프리카공화국의 ‘백인 학살’에 대한 발언으로 문제가 됐고 당시 xAI는 시스템 프롬프트가 무단으로 수정된 것이라고 해명했다.

한편 이번 사건은 2016년 마이크로소프트의 챗봇 ‘테이’가 소셜미디어에서 인종차별적이고 반유대주의적인 발언을 반복하다 폐쇄된 사례와 유사하다는 지적도 나왔다.