EXCLUSIV WSJ | Instagram livrează un mix video toxic cu copii și conținut pedofilic

Conținutul furnizat conturilor de testare WSJ a inclus imagini indecente cu copii, videoclipuri pentru adulți cu conținut sexual și reclame de la mărci importante

Serviciul video Reels de la Instagram este conceput pentru a le arăta utilizatorilor fluxuri de clipuri video scurte pe teme pe care sistemul decide că îi vor interesa, cum ar fi sportul, moda sau umorul.

Aplicația de socializare deținută de META face același lucru pentru utilizatorii despre care algoritmul său decide că ar putea avea un interes obscen pentru copii, conform testelor efectuate de The Wall Street Journal.

WSJ a încercat să determine ce ar recomanda algoritmul Reels al Instagram pentru a testa conturile de testare create pentru a urmări doar gimnaste tinere, majorete și alți influenceri adolescenți și preadolescenți activi pe platformă.

Sistemul Instagram a servit acestor conturi de test doze stridente de conținut obscen, inclusiv imagini riscante cu copii, precum și clipuri video pentru adulți cu conținut sexual evident – și reclame pentru unele dintre cele mai mari mărci americane.

WSJ a înființat conturile de test după ce a observat că miile de urmăritori ai conturilor unor astfel de tineri includ adesea un număr mare de bărbați adulți și că multe dintre conturile care îi urmăreau pe acești copii au demonstrat, de asemenea, interes pentru conținut sexual legat atât de copii, cât și de adulți.

WSJ a testat, de asemenea, ce ar recomanda algoritmul după ce conturile sale i-au urmărit și pe unii dintre acei utilizatori, ceea ce a produs un conținut mai deranjant intercalat cu reclame.

Într-un flux de clipuri video recomandate de Instagram, o reclamă pentru aplicația de întâlniri Bumble a apărut între un videoclip în care cineva mângâia fața unei păpuși din latex în mărime naturală și un videoclip cu o tânără cu fața ascunsă digital care își ridica tricoul pentru a-și expune abdomenul. Într-un alt exemplu, o reclamă la Pizza Hut a urmat un clip video cu un bărbat întins pe un pat cu brațul în jurul a ceea ce în legendă se spunea că este o fetiță de 10 ani.

Centrul canadian pentru protecția copilului, un grup de protecție a copiilor, a efectuat separat teste similare pe cont propriu, cu rezultate similare.

Meta a declarat că testele efectuate de WSJ au produs o experiență fabricată care nu reprezintă ceea ce văd miliarde de utilizatori. Compania a refuzat să comenteze motivul pentru care algoritmii au compilat fluxuri de clipuri video separate care prezintă copii, sex și reclame, dar un purtător de cuvânt a declarat că în octombrie a introdus noi instrumente de siguranță a mărcii care oferă agenților de publicitate un control mai mare asupra locului în care apar reclamele lor și că Instagram elimină sau reduce importanța a patru milioane de videoclipuri suspectate că încalcă standardele sale în fiecare lună.

WSJ a raportat în iunie că algoritmii gestionați de Meta, care deține atât Facebook, cât și Instagram, conectează comunități mari de utilizatori interesați de conținut pedofilic. Purtătorul de cuvânt al Meta a declarat că un grup de lucru înființat după articolul din ESJ și-a extins sistemele automate de detectare a utilizatorilor care au un comportament suspect, eliminând zeci de mii de astfel de conturi în fiecare lună. De asemenea, compania participă la o nouă coaliție a industriei pentru a împărtăși semnele de potențială exploatare a copiilor.

Printre companiile ale căror reclame au apărut alături de conținuturi nepotrivite în testele efectuate de Journal se numără Disney, Walmart, compania de întâlniri online Match Group, Hims, care vinde medicamente pentru disfuncții erectile, și chiar The Wall Street Journal. Majoritatea comercianților de marcă cer ca publicitatea lor să nu apară lângă conținut sexual sau explicit.

„Sistemele noastre sunt eficiente în ceea ce privește reducerea conținutului dăunător și am investit miliarde de dolari în soluții de siguranță, securitate și adecvare la marcă”, a declarat Samantha Stetson, un vicepreședinte Meta care se ocupă de relațiile cu industria publicitară. Ea a spus că prevalența conținutului nepotrivit pe Instagram este scăzută și că firma investește foarte mult în reducerea acestuia.

După ce WSJ a contactat companiile ale căror reclame au apărut în teste alături de clipuri video inadecvate, mai multe dintre acestea au declarat că Meta le-a spus că investighează și că va plăti pentru audituri de siguranță a mărcii din partea unei firme externe.

În urma a ceea ce a descris ca fiind răspunsul nesatisfăcător al Meta la plângerile sale, Match a început să anuleze publicitatea Meta pentru unele dintre aplicațiile sale, cum ar fi Tinder, în octombrie. De atunci, a oprit toate reclamele pentru Reels și a încetat să își promoveze marile sale mărci pe oricare dintre platformele Meta.

„Nu dorim să plătim Meta pentru a ne comercializa mărcile în fața prădătorilor sau să ne plasăm reclamele în apropierea acestui conținut”, a declarat purtătoarea de cuvânt a Match, Justine Sacco.

Robbie McKay, un purtător de cuvânt al Bumble, a declarat că „nu ar face niciodată publicitate în mod intenționat adiacentă la conținut nepotrivit” și că firma își suspendă reclamele pe platformele Meta.

Charlie Cain, vicepreședintele Disney pentru managementul mărcii, a declarat că au stabilit limite stricte privind conținutul social media care este acceptabil pentru publicitate și a făcut presiuni asupra Meta și a altor platforme pentru a îmbunătăți caracteristicile de siguranță a mărcii. O purtătoare de cuvânt a companiei a declarat că, de când WSJ și-a prezentat concluziile către Disney, compania a lucrat pentru a aborda problema la “”cele mai înalte niveluri de la Meta”.

Walmart a refuzat să comenteze, iar Pizza Hut nu a răspuns la solicitările de comentarii.

Hims a declarat că va face presiuni asupra Meta pentru a preveni plasarea unor astfel de reclame și că a considerat încurajatoare promisiunea Meta de a lucra la această problemă.

The Journal s-a declarat alarmat de faptul că anunțul său a apărut alături de o înregistrare video cu un aparent act sexual pentru adulți și a declarat că va cere măsuri din partea Meta.

Meta a creat Reels pentru a concura cu TikTok, platforma de partajare video deținută de ByteDance, cu sediul la Beijing. Ambele produse oferă utilizatorilor o succesiune non-stop de clipuri video postate de alții și fac bani prin inserarea de reclame printre acestea. Algoritmii ambelor companii arată unui utilizator clipurilor video pe care platformele le calculează ca fiind cele mai susceptibile de a menține acel utilizator captiv, pe baza comportamentului său de vizionare din trecut.

Reporterii de la WSJ au configurat conturile de test Instagram ca adulți pe dispozitive nou achiziționate și au urmărit gimnastele, majoretele și alți tineri influenceri. Testele au arătat că urmărirea doar a tinerelor fete a declanșat Instagram pentru a începe să ofere clipuri video de la conturi care promovează conținut sexual pentru adulți alături de reclame pentru marile mărci de consum, cum ar fi una pentru Walmart care a fost difuzată după un videoclip cu o femeie care își expunea zonele intime.

Atunci când conturile de test au urmărit apoi unii utilizatori care urmăreau conturile acelorași tineri, acestea au dat naștere la recomandări și mai tulburătoare. Platforma a livrat un amestec de pornografie pentru adulți și materiale sexualizante pentru copii, cum ar fi un videoclip cu o fată îmbrăcată care-și mângâia bustul și un altul cu un copil care pantomima un act sexual.

Experții în sisteme de recomandare algoritmică au declarat că testele WSJ au arătat că, deși gimnastica ar putea părea un subiect inofensiv, urmărirea comportamentală a Meta a discernut că unii utilizatori Instagram care urmăresc fete preadolescente vor dori să se implice în videoclipuri care sexualizează copii, iar apoi direcționează astfel de conținut către aceștia.

„Conținutul de nișă oferă un semnal mult mai puternic decât conținutul de interes general, a declarat Jonathan Stray, om de știință senior la Centrul pentru Inteligență Artificială Compatibilă cu Omul de la Universitatea din California, Berkeley.

Angajați actuali și foști angajați ai Meta au declarat în interviuri că tendința algoritmilor Instagram de a agrega conținut de sexualizare a copiilor de pe întreaga sa platformă era cunoscută la nivel intern ca fiind o problemă. Odată ce Instagram cataloghează un utilizator ca fiind interesat de un anumit subiect, au spus aceștia, sistemele sale de recomandare sunt antrenate să îi împingă mai mult conținut legat de acesta.

Pentru a împiedica sistemul să împingă conținutul nociv către utilizatorii interesați de acesta, au spus ei, este nevoie de modificări semnificative ale algoritmilor de recomandare care, de asemenea, determină implicarea utilizatorilor normali. Documentele companiei examinate de WSJ arată că angajații companiei care se ocupă de siguranță au interdicție generală de a face modificări ale platformei care ar putea reduce numărul de utilizatori activi zilnici cu o valoare măsurabilă.

Conturile de test au arătat că reclamele erau adăugate în mod regulat la fluxurile Reels problematice. Anunțurile care îi încurajau pe utilizatori să viziteze Disneyland de sărbători au fost difuzate alături de un videoclip în care o adultă se preface că face sex cu tatăl ei, iar altul cu o tânără în lenjerie intimă căreia îi curge sânge fals din gură. O reclamă pentru Hims a rulat la scurt timp după un videoclip care înfățișa o femeie aparent angoasată într-o situație sexuală, împreună cu un link către ceea ce era descris ca fiind „videoclipul complet”.

O parte a problemei constă în faptul că sistemele automatizate de aplicare a legii analizează mai greu conținutul video decât textul sau imaginile statice. O altă dificultate apare din cauza modului de funcționare a Reels: În loc să afișeze conținut partajat de prietenii utilizatorilor, așa cum fac adesea alte părți ale Instagram și Facebook, Reels promovează videoclipuri din surse pe care aceștia nu le urmăresc.

Într-o analiză efectuată cu puțin timp înainte de introducerea Reels, personalul de siguranță al Meta a semnalat riscul ca produsul să reunească videoclipuri cu copii și conținut nepotrivit, potrivit a doi foști angajați. Vaishnavi J, fostul șef al politicii de tineret de la Meta, a descris astfel recomandarea analizei de siguranță: „Fie ne îmbunătățim capacitățile de detectare a conținutului, fie nu recomandăm niciun conținut minor”, adică niciun videoclip cu copii.

La acea vreme, TikTok creștea rapid, atrăgând atenția tinerilor utilizatori ai Instagram și a agenților de publicitate care îi vizau. Meta nu a adoptat niciuna dintre recomandările analizei de siguranță la acel moment, potrivit lui J.

Stetson, omul de legătură al Meta cu cumpărătorii de publicitate digitală, a contestat faptul că Meta ar fi neglijat preocupările legate de siguranța copiilor înainte de lansarea produsului. „Am testat Reels timp de aproape un an înainte de a-l lansa pe scară largă, cu un set robust de controale și măsuri de siguranță”, a declarat ea.

Platformele de partajare video sunt atractive pentru companiile de social media deoarece clipurile video tind să rețină atenția utilizatorilor mai mult decât textul sau fotografiile statice, ceea ce le face atractive pentru agenții de publicitate.

După ce inițial a avut dificultăți în a maximiza potențialul de venituri al produsului său Reels, Meta a îmbunătățit modul în care algoritmii săi recomandă conținut și personalizează fluxurile video pentru utilizatori.

Platformele de social media și agențiile de publicitate digitală descriu adesea plasarea necorespunzătoare a reclamelor ca fiind greșeli nefericite. Dar conturile de test efectuate de Journal și de Centrul canadian pentru protecția copilului sugerează că platformele Meta par să fi direcționat unele activități de marketing digital către utilizatorii interesați de sex.

Printre anunțurile care au apărut în mod regulat în conturile de test ale Jurnalului se numărau cele pentru aplicații de “dating” și platforme de livestreaming care prezentau nuditate pentru adulți, saloane de masaj care ofereau “finaluri fericite” și roboți de chat cu inteligență artificială construiți pentru cybersex. Regulile Meta ar trebui să interzică astfel de reclame.

WSJ a informat Meta în luna august despre rezultatele testelor sale. În lunile care au trecut de atunci, testele efectuate atât de WSJ, cât și de Centrul canadian pentru protecția copilului arată că platforma a continuat să ofere o serie de videoclipuri cu copii mici, conținut pentru adulți și promoții aparente pentru materiale sexuale cu copii găzduite în altă parte.

De la jumătatea lunii noiembrie, centrul a declarat că Instagram continuă să recomande în mod constant ceea ce organizația nonprofit a descris ca fiind „adulți și copii care fac poze cu caracter sexual”.

După ce WSJ a început să contacteze agenții de publicitate în legătură cu aceste plasări, iar companiile respective au ridicat întrebări, Meta le-a spus că investighează problema și că va plăti pentru servicii de audit de siguranță a mărcii pentru a determina cât de des apar reclamele unei companii alături de un conținut pe care îl consideră inacceptabil.

Meta nu a oferit un calendar pentru rezolvarea problemei și nici nu a explicat cum va restricționa pe viitor promovarea de conținuturi nepotrivite pentru copii.

Conturile de test ale WSJ au constatat că problema a afectat chiar și mărcile legate de Meta. Anunțurile pentru serviciul de chat criptat WhatsApp al companiei și pentru ochelarii Ray-Ban Stories ai Meta au apărut alături de pornografie pentru adulți. O reclamă pentru Lean In Girls, organizația non-profit pentru emanciparea tinerelor femei condusă de fostul director de operațiuni al Meta, Sheryl Sandberg, a apărut chiar înaintea unei promoții pentru un creator de conținut sexual pentru adulți care apare adesea în ținute de școlăriță. Sandberg a refuzat să comenteze.

Prin propriile teste, Centrul canadian pentru protecția copilului a ajuns la concluzia că Instagram livra în mod regulat videoclipuri și fotografii cu copii îmbrăcați care apar și în baza de date digitală a Centrului național pentru copii dispăruți și exploatați, care conține imagini și videoclipuri confirmate ca fiind materiale sexuale de abuz asupra copiilor. Grupul a declarat că abuzatorii de copii folosesc adesea imaginile cu fetele pentru a face publicitate la conținut ilegal de vânzare pe forumuri dark-web.

Natura conținutului – sexualizarea copiilor fără a arăta în general nuditatea – reflectă modul în care social media a schimbat abuzul sexual online asupra copiilor, a declarat Lianna McDonald, director executiv al centrului canadian. Grupul și-a exprimat îngrijorarea cu privire la capacitatea algoritmilor Meta de a recruta, în esență, noi membri ai comunităților online dedicate abuzurilor sexuale asupra copiilor, unde linkurile către conținuturi ilicite din forumuri mai private proliferează.

‚De nenumărate ori am văzut cum algoritmii de recomandare îi determină pe utilizatori să descopere și apoi să intre în spirală în aceste comunități online de exploatare a copiilor’, a spus McDonald, calificând drept îngrijorător faptul că reclamele de la marile companii subvenționează acest proces.

Tribuna.US

Foto: dlxmedia.hu/Pexels