스칼렛 요한슨이 최근 소셜 미디어에서 그녀를 포함한 유명인들의 AI 합성 영상이 확산된 것에 대해 강력히 비난하며, AI 남용을 방지하기 위한 법률 제정을 촉구했다.

 

가짜 AI 영상 확산

논란이 된 영상에는 손과 중지를 내민 요한슨이 유대인 별, 카니예 웨스트의 이름이 새겨진 티셔츠를 입고 있는 모습이 담겨 있었다. 이는 웨스트의 최근 반유대주의적 발언과 Yeezy 웹사이트에서 판매된 만자 티셔츠에 대한 반응을 암시하는 내용으로, 해당 영상은 이후 Shopify에서 삭제되었다.

 

요한슨은 CNN을 통해 발표한 성명에서 “가족과 친구들이 제 모습이 담긴 AI 생성 영상이 온라인에서 확산되고 있다는 사실을 알려주었습니다.”라며, “저는 반유대주의나 어떤 형태의 증오 표현도 용납하지 않습니다. 그러나 AI가 증오 표현을 증폭시키는 위협은 특정 개인보다 훨씬 더 큰 문제이며, 이에 대한 경각심을 가져야 합니다.”라고 강조했다.

 

그녀는 이어 “AI 기술이 남용되는 현실을 방관해서는 안 됩니다. 미국을 제외한 여러 국가가 이미 책임 있는 AI 규제에 나서고 있지만, 미국 정부는 여전히 이를 다룰 법안을 마련하지 못하고 있습니다. 이는 우리 모두에게 심각한 위협이 될 수 있습니다.”라고 덧붙였다.

 

AI 남용에 대한 유명인의 반응

논란이 된 가짜 영상에는 요한슨 외에도 애덤 리바인, 밀라 쿠니스, 레니 크래비츠, 마크 저커버그, 사샤 바론 코헨, 벤 스틸러, 나탈리 포트만, 데이비드 슈위머 등이 포함되었다.

 

영상은 유대인 민요 ‘Hava Nagila’가 배경 음악으로 사용되며, 반유대주의적 내용과 연결된 것으로 보였다.

 

요한슨은 AI 기술 오용 문제에 대해 지속적으로 목소리를 내온 대표적인 유명인 중 한 명이다.

 

지난해 그녀는 OpenAI가 자신의 음성을 ‘소름 돋을 정도로 유사한’ 합성 음성으로 사용했다고 주장하며 법적 대응을 예고한 바 있다.

 

그녀는 이번 성명에서 “미국 정부가 AI 사용을 제한하는 법안을 최우선 과제로 삼아야 한다”고 강조하며, “이는 단순한 정치적 이슈가 아니라 인류 전체의 미래에 영향을 미치는 문제”라고 경고했다.

 

AI 영상 제작자 및 반응

논란이 된 AI 영상은 생성 AI 전문가 오리 베헤라노가 제작한 것으로 확인되었다. 그는 자신의 인스타그램 바이오에서 AI 콘텐츠 제작자로 소개하고 있으며, 해당 영상 게시물에는 “이 콘텐츠는 AI로 제작되었으며, 실제처럼 보일 수 있습니다.”라는 경고 문구가 포함되어 있었다.

 

베헤라노는 영상에 대해 “이제 침묵을 멈추고, 카니예 웨스트와 같은 반유대주의자들에게 강력히 대응해야 할 때”라며, “소셜 네트워크가 증오 발언을 확산시키는 플랫폼이 되는 것을 막아야 한다”고 주장했다.

 

현재 요한슨은 가짜 AI 영상에 대한 대응을 공개적으로 밝힌 유일한 유명인이지만, 웨스트의 반유대주의적 발언을 비판한 유명인은 다수 존재한다.

 

소셜 미디어에서의 반유대주의 대응

‘프렌즈’의 스타 데이비드 슈위머는 최근 일론 머스크에게 웨스트의 X(구 트위터) 계정을 차단해 줄 것을 촉구하며, “우리는 혐오 발언 자체를 막을 수 없지만, 그들에게 확성기를 제공하는 것은 멈출 수 있다”고 강조했다. 그는 “웨스트의 X 팔로워 수는 3,270만 명으로, 이는 전 세계 유대인 인구의 두 배에 달한다. 그의 증오 발언은 실제 폭력으로 이어질 위험이 크다”고 경고했다.

 

한편, 웨스트는 일요일 늦은 밤 X 계정을 비활성화한 것으로 확인되었다.

 

AI를 이용한 잘못된 정보 확산을 방지하는 텔아비브 연구소의 공동 설립자 헨 마지그는 X를 통해 “AI 오용은 위험하지만, 통제되지 않은 반유대주의적 증오가 매일 수백만 명에게 확산되는 것이 더욱 심각한 문제”라고 지적했다.

 

 

*CTV뉴스의 글을 번역,편집한 것입니다.