Raport şocant: Algoritmul TikTok, prins că recomandă pornografie utilizatorilor minori

Algoritmul TikTok recomandă pornografie şi conţinut extrem de sexualizat către conturi de copii, potrivit unui nou raport realizat de un grup de campanie pentru drepturile omului, relatează BBC.

Cercetătorii au creat conturi false de copii şi au activat setările de siguranţă, dar au primit în continuare sugestii de căutare cu caracter sexual explicit.

Termenii de căutare sugeraţi au condus la materiale sexualizate, inclusiv videoclipuri explicite cu sex penetrant.

Platforma spune că este angajată să ofere experienţe sigure şi adecvate vârstei şi că a luat măsuri imediate de îndată ce a aflat de problemă.

La sfârşitul lunii iulie şi începutul lunii august din acest an, cercetători din cadrul grupului de campanie Global Witness au creat patru conturi pe TikTok pretinzând că sunt copii de 13 ani.

Au folosit date de naştere false şi nu li s-a cerut să furnizeze alte informaţii pentru a-şi confirma identitatea.

Pornografie

De asemenea, au activat „modul restricţionat” al platformei, despre care TikTok spune că împiedică utilizatorii să vadă „teme mature sau complexe, precum… conţinut sugestiv sexual”.

Fără să efectueze ei înşişi nicio căutare, investigatorii au descoperit termeni de căutare în mod evident sexualizaţi fiind recomandaţi în secţiunea „s-ar putea să îţi placă” a aplicaţiei.

Acei termeni de căutare au condus la conţinut cu femei care simulau masturbarea. Alte videoclipuri arătau femei care îşi expuneau lenjeria intimă în locuri publice sau îşi dezgoleau sânii.

În forma sa cea mai extremă, conţinutul includea filme pornografice explicite cu sex penetrant. Aceste videoclipuri erau integrate în alte materiale aparent nevinovate, într-o tentativă reuşită de a evita moderarea conţinutului.

Ava Lee, de la Global Witness, a spus că rezultatele au venit ca un „şoc imens” pentru cercetători.

„TikTok nu doar că nu reuşeşte să prevină accesul copiilor la conţinut nepotrivit – îl şi sugerează imediat ce îşi creează un cont”, a spus aceasta.

Global Witness este un grup de campanie care investighează de obicei modul în care marile companii de tehnologie afectează discuţiile despre drepturile omului, democraţie şi schimbările climatice.

Cercetătorii au dat peste această problemă în timp ce efectuau alte cercetări în aprilie anul acesta.

Videoclipuri eliminate

Ei au informat TikTok, care a spus că a luat măsuri imediate pentru a rezolva problema.

Dar la sfârşitul lunii iulie şi în august din acest an, grupul de campanie a repetat exerciţiul şi a descoperit din nou că aplicaţia recomanda conţinut sexual.

TikTok spune că are mai mult de 50 de funcţii menite să îi protejeze pe adolescenţi: „Suntem pe deplin angajaţi să oferim experienţe sigure şi adecvate vârstei.”

Aplicaţia spune că elimină nouă din zece videoclipuri care îi încalcă regulile înainte ca acestea să fie vizualizate.

Când a fost informat de rezultatele Global Witness, TikTok spune că a luat măsuri pentru „a elimina conţinutul care ne-a încălcat politicile şi a lansa îmbunătăţiri pentru funcţia noastră de sugestii de căutare”.

Codurile pentru copii

Pe 25 iulie anul acesta, au intrat în vigoare Codurile pentru copii din Legea siguranţei online, care impun obligaţia legală de a proteja copiii în mediul online.

Platformele trebuie acum să utilizeze „mijloace foarte eficiente de verificare a vârstei” pentru a împiedica accesul copiilor la pornografie. De asemenea, trebuie să îşi ajusteze algoritmii pentru a bloca conţinut care încurajează automutilarea, sinuciderea sau tulburările de alimentaţie.

Global Witness şi-a desfăşurat al doilea proiect de cercetare după intrarea în vigoare a Codurilor pentru copii.

Ava Lee, de la Global Witness, a spus: „Toată lumea este de acord că trebuie să îi protejăm pe copii online… Acum este momentul ca autorităţile de reglementare să intervină”.

În timpul muncii lor, cercetătorii au observat şi reacţiile altor utilizatori la termenii de căutare sexualizaţi care le erau recomandaţi.

Un comentator a scris: „poate cineva să-mi explice ce se întâmplă cu sugestiile mele de căutare, vă rog?”

Altul a întrebat: „ce e în neregulă cu aplicaţia asta?”