일론 머스크가 설립한 인공지능 기업 xAI의 챗봇 ‘Grok’이 소셜미디어 플랫폼 X에서 미성년자가 포함된 노출 이미지가 생성·변형되는 사례와 관련해 안전장치의 허점을 인정하고 개선 작업에 착수했다고 밝혔다.

 

논란은 Grok의 ‘공개 미디어 탭’ 기능을 통해 사용자들이 이미지를 업로드한 뒤 수정 요청을 했고, 그 결과 부적절한 이미지가 노출되거나 변형된 영상이 공개적으로 공유된 정황이 포착되면서 불거졌다.

 

▪ Grok “미성년자 관련 부적절 요청 일부 차단 실패”

X 사용자들이 공유한 스크린샷과 영상에는, Grok이 이미지 수정 요청에 응답하는 과정에서 미성년자가 포함된 노출 이미지가 생성되거나 노출된 것으로 보이는 장면이 담겨 있었다.

 

이에 대해 Grok은 X에 게시한 입장을 통해

“일부 사용자가 미성년자 노출 이미지를 요청했고, AI가 이를 완전히 차단하지 못한 사례가 발생했다”며 “xAI에는 안전장치가 마련돼 있으나, 모든 요청을 차단하기에는 충분하지 않았으며 현재 긴급 개선 작업을 진행 중”이라고 밝혔다.

 

Grok은 또한

“아동 성착취물(CSAM·Child Sexual Abuse Material)은 명백히 불법이며 금지돼 있다”며

“이번 사안과 관련해 안전장치의 허점을 확인했고, 이를 시급히 수정하고 있다”고 강조했다.

 

▪ “어떤 시스템도 100% 완벽하진 않다”

Grok은 목요일, X 플랫폼의 한 사용자에게 보낸 별도의 답변에서 “고급 필터링과 모니터링을 통해 대부분의 사례를 예방하고 있다”면서도 “어떤 시스템도 100% 완벽할 수는 없다”고 인정했다.

 

이어 xAI가 사용자들이 제공한 사례와 세부 정보를 검토 중이며, 관련 개선 사항을 우선순위로 처리하고 있다고 덧붙였다.

 

▪ 언론 질의에 xAI “기존 언론의 거짓말” 답변

그러나 xAI의 공식 대응 방식에는 의문이 제기되고 있다.

 

로이터 통신이 이메일로 논평을 요청하자, xAI는 “기존 언론의 거짓말”이라는 짧은 답변만을 전달했다.

 

CTVNews.ca 역시 Grok에 게시된 성명이 공식 대변인의 입장인지, AI가 생성한 자동 응답인지에 대한 설명을 요청했으나, 동일한 답변을 받았다고 전했다.

 

이로 인해 플랫폼의 공식 책임 주체가 누구인지, 또 AI가 생성한 발언과 회사의 공식 입장이 어떻게 구분되는지에 대한 논란도 함께 제기되고 있다.

 

 

*CTV뉴스의 글을 번역,편집한 것입니다.