연구에 따르면 TikTok 알고리즘이 어린이를 성인 영상으로 '유도'하는 것으로 나타났습니다.

Global Witness의 조사에 따르면 제한 모드를 켜두더라도 13세 계정에는 여전히 TikTok에서 선정적인 요소와 부적절한 콘텐츠가 포함된 동영상이 추천됩니다.

아이들은 TikTok 알고리즘이 추천하는 민감한 콘텐츠를 보고 있습니다.

Global Witness의 새로운 연구에 따르면 TikTok의 콘텐츠 추천 알고리즘은 계정이 13세 이용가로 설정되어 있고 제한 모드가 켜져 있더라도 어린 사용자에게 민감한 영상을 노출시킬 수 있다고 합니다.

이번 발견은 세계에서 가장 인기 있는 비디오 플랫폼에서 아동용 콘텐츠를 통제하는 능력에 대한 우려를 불러일으켰습니다.

TikTok의 알고리즘이 어린이들을 성인 영상으로 '유도'할 수 있다

2025년 10월 3일 글로벌 위트니스(Global Witness)가 발표한 보고서에 따르면, 연구팀은 영국, 미국, 호주의 13세 사용자를 모의한 일련의 계정을 만들었습니다. 이 계정들이 "사랑", "십 대의 감정", "데이트"와 같은 인기 있는 문구를 검색했을 때, 틱톡 추천 시스템은 선정적인 콘텐츠가 포함되었거나 미성년자에게 부적절한 이미지와 언어가 포함된 동영상을 빠르게 표시했습니다.

결과는 TikTok의 알고리즘이 콘텐츠의 적합성을 평가하기보다는 사용자 시청 시간과 상호작용을 기반으로 작동한다는 것을 보여줍니다. 따라서 성인용 콘텐츠임에도 불구하고 호기심을 유발하는 요소가 있는 동영상이 먼저 노출될 가능성이 더 높습니다.

글로벌 위트니스는 어린이가 민감한 콘텐츠를 적극적으로 검색할 필요는 없지만, 시스템이 자동으로 이러한 유형의 동영상을 추천하기 위해 몇 분 동안만 상호 작용하면 된다고 경고합니다.

이 조직은 인공 지능을 이용해 사용자를 유지하는 현대 소셜 네트워크에 위험이 분명히 존재한다는 것을 보여주는 사례라고 생각하지만, 미성년자에게 미치는 부정적인 영향을 충분히 통제하지 못하고 있다고 주장합니다.

TikTok의 통제 노력과 알고리즘 자체의 도전

Tuoi Tre Online의 조사 에 따르면 TikTok은 해당 플랫폼에서 음란물 콘텐츠가 게시되는 것을 허용하지 않으며 제한 모드 및 패밀리 페어링 기능과 같은 많은 아동 보호 도구를 적용하여 부모가 표시되는 콘텐츠를 제어할 수 있도록 했다고 확인했습니다.

그러나 Global Witness의 조사에 따르면 이러한 조치로는 TikTok의 알고리즘이 부적절한 콘텐츠를 계속 제안하는 것을 완전히 막을 수 없습니다.

사이버보안 전문가들은 문제의 원인이 알고리즘이 콘텐츠 표시 우선순위를 정하는 방식에 있다고 지적합니다. 추천 메커니즘의 투명성 부족으로 인해 부모는 자녀가 어떤 콘텐츠에 노출되는지 파악하기 어렵습니다.

그들은 TikTok과 유사한 플랫폼이 알고리즘의 작동 방식에 대해 보다 공개적이고 규제 기관과 협력하여 온라인 아동 보호 기준을 준수하도록 권고합니다.

베트남에서 TikTok은 젊은 층이 널리 사용하는 동영상 플랫폼입니다. 정보통신부는 TikTok에 콘텐츠 검열을 강화하고 유해 동영상 처리, 특히 젊은 사용자 보호를 위한 조치를 요구했습니다.

글로벌 위트니스의 조사 결과는 알고리즘(플랫폼 운영에 도움이 되는 핵심 도구)이 어린이가 성인 콘텐츠에 접근할 수 있는 허점이 될 수 있다는 점에서 기술 기업의 사회적 책임에 대한 의문을 지속적으로 제기하고 있습니다.

주제로 돌아가기

투안 비

출처: https://tuoitre.vn/nghien-cuu-phat-hien-thuat-toan-tiktok-dan-loi-tre-em-den-video-nguoi-lon-20251009124737045.htm