Algoritmul platformei TikTok promovează materiale pornografice și conținut cu tentă sexuală către conturile care aparțin copiilor, conform unui nou raport realizat de o organizație pentru drepturile omului.
Cercetătorii au creat conturi false care simulau utilizatori de 13 ani și au activat toate setările de siguranță, însă au continuat să primească sugestii de căutare cu conținut sexual explicit. Aceste sugestii duceau către materiale sexualizate, inclusiv videoclipuri ce prezentau scene explicite de sex.
Platforma susține că este „pe deplin angajată” în asigurarea unei experiențe sigure și potrivite vârstei utilizatorilor și că a luat măsuri imediate după ce a fost informată despre problemă.
Cum au fost efectuate testele
La sfârșitul lunii iulie și începutul lunii august, cercetătorii de la organizația Global Witness au creat patru conturi false, pretinzând că sunt adolescenți de 13 ani. Aceștia au introdus date de naștere false și nu li s-a cerut nicio altă verificare a vârstei.
Deși au activat modul „restricționat”, despre care TikTok afirmă că blochează „temele mature sau complexe, precum conținutul cu tentă sexuală”, aplicația a început totuși să le recomande termeni de căutare cu caracter sexual în secțiunea „ți-ar putea plăcea”.
Rezultatele acelor căutări au inclus videoclipuri cu femei care simulau masturbarea, își arătau lenjeria intimă în locuri publice sau își expuneau sânii. În unele cazuri, cercetătorii au descoperit chiar filme pornografice explicite, ascunse în spatele unor clipuri aparent inofensive, pentru a evita moderarea automată.
Ava Lee, reprezentantă a Global Witness, a declarat că aceste descoperiri i-au „șocat profund” pe cercetători:
„TikTok nu doar că nu reușește să împiedice accesul copiilor la conținut nepotrivit, dar le și sugerează astfel de materiale imediat ce își fac un cont.”
Reacția TikTok
Global Witness, o organizație care investighează de obicei impactul giganților tech asupra drepturilor omului, democrației și schimbărilor climatice, a descoperit problema inițial în aprilie, în timpul altor cercetări.
După ce a fost informată, compania TikTok a spus că a acționat imediat și a eliminat materialele neconforme. Totuși, atunci când investigația a fost repetată la sfârșitul verii, rezultatele au arătat din nou același tip de conținut recomandat, scrie BBC.
TikTok susține că are peste 50 de funcții menite să protejeze adolescenții și că elimină 9 din 10 videoclipuri care încalcă regulile înainte de a fi vizualizate. După noul raport, compania afirmă că a eliminat conținutul problematic și a îmbunătățit sistemul de recomandări din motorul de căutare.
Regulile privind siguranța copiilor
La 25 iulie, au intrat în vigoare noile reguli privind siguranța online a minorilor („Children’s Codes”), care impun platformelor o obligație legală de a proteja copiii. Acestea cer implementarea unor sisteme eficiente de verificare a vârstei și modificarea algoritmilor pentru a bloca materialele ce promovează autovătămarea, sinuciderea sau tulburările alimentare.
Global Witness a efectuat al doilea experiment tocmai după intrarea în vigoare a acestor norme.
„Toată lumea este de acord că trebuie să protejăm copiii online. Acum este momentul ca autoritățile de reglementare să intervină”, a mai spus Ava Lee.
În timpul cercetărilor, echipa a observat și reacțiile altor utilizatori care primeau aceleași sugestii sexualizate. Unul dintre ei a scris:
„Poate cineva să-mi explice de ce am astfel de recomandări la căutare, vă rog?”
Altul a întrebat:
„Ce se întâmplă cu aplicația asta?”
