San Francisco cere Apple și Google să elimine 13 aplicații AI din magazine
Piața pentru circa 100 de aplicații care pot genera imagini nud false este estimată la 480 de milioane de descărcări și aproape 120 de milioane de dolari în venituri. Acum, autoritățile din San Francisco au cerut Apple și Google să elimine 13 dintre ele din magazinele lor.
Biroul procurorului orașului San Francisco a trimis notificări oficiale pentru eliminarea imediată a 13 aplicații bazate pe inteligență artificială. Procurorii susțin că platformele nu pot invoca rolul de simplu intermediar, de vreme ce găzduiesc aceste instrumente și încasează comisioane din funcționarea lor.
Victimele pierd controlul asupra propriei imagini, cu efecte reputaționale și psihologice. În zeci de școli, elevii au folosit deja astfel de instrumente pentru a crea imagini sexualizate cu minori.
David Chiu, procurorul orașului San Francisco, acuză Apple și Google că monetizează aceste servicii prin comisioane și facilitează încălcarea legislației din California privind pornografia deepfake. Conform Playtech, biroul procurorului ia în calcul noi acțiuni legale dacă cele două companii nu elimină rapid aplicațiile vizate și nu își întăresc sistemele de verificare.
„Platformele care permit distribuirea acestor instrumente nu mai pot invoca faptul că sunt doar intermediari, mai ales atunci când obțin și venituri din funcționarea lor.”
Amploarea pieței deepfake și riscurile asociate
Un raport al Tech Transparency Project a identificat circa 100 de aplicații similare, o listă de aproape opt ori mai mare decât cele 13 vizate acum de procurori. Estimarea de aproape 120 de milioane de dolari în venituri arată amploarea financiară a fenomenului.
O cercetare a universităților Cornell și Georgetown, care a analizat peste 400 de aplicații de tip „face swap”, a constatat că aproximativ 70% dintre acestea permiteau crearea de imagini nud false, fără măsuri de protecție eficiente.
Google a transmis că a șters deja sute de aplicații de tip „nudify” și că a restricționat căutările pentru termeni asociați în Google Play. Apple nu a comentat acuzațiile.
„Aceste aplicații au devenit un instrument folosit pentru hărțuire, șantaj și umilirea femeilor și fetelor.”
Semnal util pentru utilizatori și părinți
Aplicațiile de editare sau „face swap” care pot genera imagini sexualizate fără filtre eficiente reprezintă un risc imediat. În practică, un semnal de alarmă este promisiunea de a transforma rapid o fotografie într-o imagine nud falsă sau lipsa unor bariere reale la folosirea funcției.
Fenomenul a fost raportat în zeci de școli, unde elevii au folosit astfel de instrumente pentru a crea imagini sexualizate cu minori, ceea ce mută discuția în sfera siguranței digitale de bază.
Biroul procurorului din San Francisco a anunțat că ia în calcul noi acțiuni legale dacă Apple și Google nu scot rapid aplicațiile indicate și nu își îmbunătățesc sistemele de verificare.
