AI가 생성한 미성년자 캐릭터의 성적으로 자극적인 영상이 틱톡에서 수백만 건의 '좋아요'를 기록하고 있음에도, 틱톡이 관련 계정 대다수를 규정 위반이 아니라고 판단했다는 연구 결과가 나왔다. 플랫폼의 AI·아동 안전 정책 집행이 사실상 작동하지 않고 있다는 지적이다.

 

스페인 비영리 단체 Maldita.es는 목요일 발표한 보고서에서 몸에 밀착되는 옷, 속옷, 교복 등을 입고 성적 포즈를 취하는 AI 생성 소녀 캐릭터 영상을 게시하는 틱톡 계정 12개 이상을 확인했다고 밝혔다. 이 계정들은 합산 수십만 명의 팔로워를 보유하고 있으며, 게시된 3,900개 영상은 총 200만 개 이상의 '좋아요'를 기록했다.

 

더욱 심각한 점은 다수 영상 댓글에 아동 포르노 판매 텔레그램 링크가 포함되어 있었다는 사실이다.

 

연구팀 “틱톡 신고 15개 중 14개 ‘규정 위반 아님’… 삭제 조치는 극소수”

Maldita.es는 지난 2일, 틱톡 신고 기능을 사용해 총 15개 계정·60개 영상을 "미성년자의 성적으로 선정적인 행위"로 분류해 신고했다.

 

틱톡의 초기 판단은 다음과 같다:

계정 15개 중 14개 → “규정 위반 아님”

영상 60개 중 46개 → “정책 위반 아님”

삭제 또는 제한 조치 → 단 14건

 

연구팀이 이의를 제기하자 틱톡은 추가로 3개 영상을 삭제하고 1개 영상을 제한했지만, 여전히 절대 다수의 콘텐츠는 남아 있었다.

 

삭제되지 않은 영상 중에는 AI 생성된 ‘어린 소녀 샤워 장면’, 속옷·비키니 차림의 선택적 포즈 영상등 명백히 아동 성적 콘텐츠로 보이는 영상도 포함되어 있었다.

 

Maldita.es의 카를로스 에르난데스-에체바리아 부소장은 CNN에 “댓글만 봐도 상황이 명백합니다. 가장 저속하고 범죄 성향의 이용자들이 몰려 있습니다.”라고 말했다.

 

틱톡은 ‘무관용 정책’ 주장… 그러나 실제 집행은 의문

틱톡은 공식적으로 “청소년 성적 학대·착취를 보여주거나 조장하는 콘텐츠에 대해 무관용 정책을 적용한다”고 밝혀왔다.

 

커뮤니티 가이드라인에는 명확히 다음과 같은 항목이 포함된다:

-AI가 생성한 청소년의 선정적 이미지 금지

-성적으로 포즈를 취하는 미성년자 캐릭터 금지

-아동 신체를 성적 대상화하는 모든 콘텐츠 금지

 

그러나 연구 결과는 이러한 정책이 실제로는 제대로 구현되지 않고 있음을 보여준다. 틱톡은 CNN의 문의에 구체적 답변을 제공하지 않았다.

 

틱톡은 올해 4~6월 사이1억 8,900만 개 동영상 삭제, 1억 800만 개 계정 차단, AI 콘텐츠 위반의 97%는 사전 삭제됐다고 주장하지만, 연구팀이 확인한 사례와는 괴리가 크다.

 

AI 기능이 문제를 가속… “AI Alive로 정지 이미지도 영상화”

연구팀은 틱톡의 자체 기능인 “AI Alive”(정지 이미지를 애니메이션화하는 기능)가 문제 확산에 기여했다고 분석했다. 일부 계정은 외부 AI 생성 이미지에 이 기능을 적용해 더 ‘현실적인’ 아동 캐릭터 영상을 만들고 있었다.

 

또 다른 영상들은 독립적인 AI 영상 생성 도구로 제작된 것으로 보인다.

 

댓글창은 ‘유료 아동 성착취물’ 광고판… 텔레그램 연계도 확인

보고서는 다양한 영상 댓글에 아동 포르노 판매 텔레그램 채팅방 링크, AI 생성 아동 포르노 판매 사이트 링크(50~150유로)가 직접 첨부되어 있었다고 밝혔다.

 

Maldita.es는 해당 링크를 클릭하거나 구매하지 않았으며, 관련 내용을 스페인 경찰에 신고했다.

 

텔레그램 측은 CNN에 “엄격한 무관용 정책을 시행하고 있으며, 2025년 한 해에만 90만 9천 개 이상의 CSAM 관련 공개 채널을 삭제했다”고 밝혔다.

 

온라인 아동 보호 규제 흐름 속, 틱톡에 부담 가중

이번 보고서는 영국 단체 ‘글로벌 위트니스’가 10월 발표한 조사와 흐름을 같이한다. 당시 조사에서는 틱톡이 13세 사용자에게조차 노골적 성적 검색어를 직접 추천했던 것으로 드러났다.

 

여러 국가가 온라인 아동 안전 관련 규제를 강화하는 상황에서, 틱톡의 콘텐츠 집행 문제는 더욱 주목받고 있다. 특히 호주의 16세 미만 소셜미디어 금지법이 이번 주 발효되면서 플랫폼 책임에 대한 논의도 심화되고 있다.

 

 

*CTV뉴스의 글을 번역,편집한 것입니다.