Nouă armă a YouTube împotriva deepfake ajunge la politicieni după testele cu creatorii

YouTube a anunțat marți că extinde tehnologia sa de detectare a deepfake-urilor generate de inteligența artificială către un grup pilot format din oficiali guvernamentali, candidați politici și jurnaliști. Aceștia vor avea acces la un instrument care identifică conținutul neautorizat creat cu AI și le permite să solicite eliminarea acestuia, scrie TechCrunch.

Tehnologia nu este complet nouă, fiind lansată anul trecut pentru aproximativ 4 milioane de creatori din Programul de Parteneriat YouTube, după o perioadă de testare. Potrivit TechCrunch, sistemul funcționează similar cu Content ID, care detectează materialele protejate de drepturi de autor, însă în acest caz caută fețe simulate cu ajutorul uneltelor AI pentru a combate dezinformarea.

„Integritatea conversației publice”

Noul program pilot încearcă să găsească un echilibru între libertatea de exprimare a utilizatorilor și riscurile asociate cu tehnologia AI, care poate genera o imagine convingătoare a unei persoane publice. Aceste videoclipuri sunt uneori folosite pentru a manipula percepția publicului, atribuind declarații sau acțiuni false unor personalități cunoscute.

„Această extindere vizează cu adevărat integritatea conversației publice”, a declarat Leslie Miller, Vicepreședinte pentru Afaceri Guvernamentale și Politici Publice la YouTube, într-o conferință de presă. „Știm că riscurile de impersonare prin AI sunt deosebit de mari pentru cei din spațiul civic. Dar, deși oferim acest nou scut, suntem, de asemenea, atenți la modul în care îl folosim”, a adăugat ea.

Cum funcționează noul sistem de detectare

Pentru a folosi instrumentul, membrii grupului pilot trebuie să își dovedească identitatea încărcând un selfie și un act de identitate guvernamental. Ulterior, aceștia își pot crea un profil, pot vizualiza materialele video în care apar și pot solicita eliminarea lor.

Miller a explicat că nu toate solicitările de eliminare vor fi aprobate. YouTube va evalua fiecare cerere în parte, conform politicilor sale de confidențialitate, pentru a determina dacă un videoclip reprezintă o parodie sau o critică politică, forme protejate de libertatea de exprimare. Compania a menționat că susține la nivel federal Legea NO FAKES din D.C., care ar reglementa utilizarea AI pentru a crea reproduceri neautorizate ale vocii și imaginii unei persoane.

Etichete pentru deepfake-uri, dar nu mereu la vedere

Videoclipurile create cu AI vor fi etichetate, însă plasarea acestor etichete nu este consecventă. Pentru unele, eticheta apare în descrierea clipului, în timp ce pentru videoclipurile care abordează „subiecte mai sensibile”, eticheta va fi aplicată direct pe imagine, la început. Aceasta este abordarea standard a YouTube pentru tot conținutul generat de AI.

„Există mult conținut produs cu AI, dar această distincție nu este de fapt relevantă pentru conținutul în sine”, a explicat Amjad Hanif, Vicepreședinte pentru Produse de Creatori la YouTube. „Ar putea fi un desen animat generat cu AI. Și cred că există o judecată cu privire la faptul dacă este o categorie care poate merita un avertisment foarte vizibil”, a spus el.

Ce rezultate a avut tehnologia până acum

YouTube nu a comunicat câte eliminări de deepfake-uri au fost realizate de la implementarea tehnologiei pentru creatori, dar a precizat că numărul de materiale eliminate până acum a fost „foarte mic”.

„Cred că pentru mulți dintre [creatori], a fost doar conștientizarea a ceea ce se creează, dar volumul cererilor de eliminare este de fapt foarte, foarte scăzut, deoarece majoritatea se dovedește a fi destul de benignă sau aditivă pentru afacerea lor generală”, a afirmat Hanif. Situația s-ar putea schimba însă în cazul deepfake-urilor cu oficiali guvernamentali, politicieni sau jurnaliști.

Pe viitor, YouTube intenționează să extindă tehnologia de detectare a deepfake-urilor pentru a include voci recognoscibile și alte forme de proprietate intelectuală, cum ar fi personaje populare. Deocamdată, compania nu a confirmat ce politicieni sau oficiali fac parte din grupul inițial de testare, dar a menționat că obiectivul este ca tehnologia să devină disponibilă pe scară largă în timp.