Numărul sesizărilor privind imaginile cu abuzuri sexuale asupra copiilor generate de AI a crescut cu 8.400%

Un grup de cercetători scoţieni a constatat că numărul sesizărilor privind imaginile şi videoclipurile cu abuzuri sexuale asupra copiilor, generate cu ajutorul inteligenţei artificiale (AI), a crescut cu peste 8.400% în doar doi ani.
Conform unui nou studiu internaţional de amploare, numărul cazurilor raportate la nivel mondial a crescut cu peste 395.300 între anii 2023 şi 2025.
Cercetătorii au estimat, de asemenea, că, într-un singur an, peste 300 de milioane de copii la nivel global sunt supuşi cel puţin unei forme de exploatare sau abuz sexual facilitat de tehnologie, iar aproximativ unul din patru se poate aştepta să fie supus cel puţin unei forme de abuz online înainte de a împlini 18 ani, potrivit dpa.
Cifrele provin dintr-un nou studiu internaţional la care au participat oameni de ştiinţă scoţieni de la Childlight Global Child Safety Institute, cu sediul la Universitatea din Edinburgh.
Childlight a declarat că numărul de sesizări privind materialele cu abuz sexual asupra copiilor generate de AI, transmise de companiile din domeniul tehnologiei către Centrul Naţional pentru Copii Dispăruţi şi Exploataţi din SUA, a crescut de la aproximativ 4.700 în 2023 la peste 400.000 în 2025.
Materialele includ "deepfake"-uri, care sunt create folosind aşa-numitele "aplicaţii de nudificare", prin care faţa unui copil real poate fi inserată digital, într-un mod realist, în imagini cu conţinut sexual explicit, în doar câteva secunde.
Deşi imaginile pot fi false, cercetătorii au afirmat că prejudiciul adus copiilor este foarte real, imaginile fiind uneori folosite pentru a şantaja copiii, cerându-le bani sau mai multe imagini.
Cercetătorii au afirmat că problema afectează atât oamenii obişnuiţi, cât şi vedetele de renume.
Cu toate acestea, studiul a avertizat că schimbările în ceea ce priveşte detectarea şi raportarea ar fi putut contribui la această creştere dramatică.
Debi Fry, directoarea globală pentru date a Childlight la Universitatea din Edinburgh, a declarat:
"Viteza cu care inteligenţa artificială schimbă natura ameninţării la adresa copiilor este extrem de îngrijorătoare. Aceste cifre arată o creştere extraordinară a raportărilor privind materialele cu abuz sexual asupra copiilor generate de AI în doar doi ani".
Ea a adăugat: "Deşi îmbunătăţirea proceselor de detectare şi raportare poate explica o parte din această creştere, rezultatele subliniază motivul pentru care guvernele şi companiile din domeniul tehnologiei trebuie să acţioneze urgent pentru a înţelege şi a preveni aceste forme emergente de abuz şi pentru a elimina rapid materialele respective".
Noul studiu internaţional al Childlight a avertizat, de asemenea, că lacunele grave din datele guvernamentale împiedică eforturile de prevenire menite să protejeze copiii.
Din cele 103 ţări şi zone examinate în cele trei regiuni, grupul a afirmat că doar 22 dispuneau de date reprezentative din sondaje care acopereau atât abuzurile offline, cât şi cele facilitate de tehnologie.
Potrivit Childlight, copiii cu dizabilităţi, copiii indigeni, migranţii, cei aflaţi în situaţii umanitare, copiii foarte mici şi copiii abuzaţi în cadrul familiilor lor sunt deosebit de subreprezentaţi.
Ca răspuns, Childlight îndeamnă guvernele să trateze exploatarea şi abuzul sexual ca pe o problemă de sănătate publică care poate fi prevenită, să investească în metode de măsurare fiabile şi consecvente şi să utilizeze dovezile pentru a consolida protecţia, a sprijini supravieţuitorii şi a preveni prejudiciile înainte ca acestea să se producă.
Institutul solicită, de asemenea, o responsabilizare mai puternică a sectorului tehnologic, legi care să ţină pasul cu ameninţările emergente şi eforturi de prevenire începute încă din primii ani ai copilăriei.
Paul Stanfield, directorul executiv al Childlight, a declarat: "Milioane de copii sunt supuşi exploatării şi abuzului sexual, însă guvernele acţionează prea des pe baza unei imagini incomplete a locurilor în care se produc aceste vătămări şi a celor mai expuşi la risc. Ceea ce rămâne invizibil riscă să rămână neabordat. Nu putem preveni în mod eficient abuzul sau proteja copiii fără a înţelege adevărata sa amploare şi natură".
Stanfield a subliniat că "nu există nimic inevitabil în ceea ce priveşte exploatarea şi abuzul sexual al copiilor".
El a adăugat: "Cu o conducere susţinută şi o colaborare internaţională, putem preveni prejudiciile, interveni mai devreme şi le putem oferi altor milioane de copii copilăria sigură pe care o merită".
În ciuda provocărilor, raportul a evidenţiat progrese încurajatoare, mai multe ţări consolidând legislaţia privind siguranţa online, îmbunătăţind detectarea şi concentrându-se mai mult pe prevenire.
Cu informaţii mai bune, acţiuni coordonate şi investiţii susţinute, cercetătorii au afirmat că guvernele au ocazia de a proteja sute de milioane de copii şi de a contribui la crearea unui viitor mai sigur.
Concluziile sunt cuprinse în raportul "2026 Into the Light Index" al grupului, care a fost prezentat luni în cadrul unui summit mondial privind eliminarea violenţei împotriva copiilor, la care au participat reprezentanţi ai peste 100 de guverne.