Grok, inteligența artificială dezvoltată de compania X a lui Elon Musk, nu va mai putea fi folosită pentru a edita fotografii cu persoane reale în haine sumare în jurisdicțiile unde legislația interzice acest lucru. Măsura, conform BBC, este un răspuns la îngrijorările publice privind deepfake-urile cu conținut sexualizat generate de AI.
Măsurile anunțate de X
Compania a detaliat noile restricții printr-un anunț pe platforma X, implementând măsuri tehnice pentru a preveni abuzurile. „Am implementat măsuri tehnologice pentru a împiedica contul Grok să permită editarea imaginilor cu persoane reale în haine sumare”, a transmis compania. Anunțul a survenit la scurt timp după ce procurorul general al Californiei a confirmat o investigație privind răspândirea deepfake-urilor sexualizate, inclusiv cele cu minori.
X a explicat că va bloca geografic funcționalitatea în regiunile unde este ilegală. „Acum geoblocăm capacitatea tuturor utilizatorilor de a genera imagini cu persoane reale în bikini, lenjerie intimă și ținute similare prin intermediul contului Grok și în Grok pe X în acele jurisdicții unde este ilegal”, a precizat compania. Doar utilizatorii plătitori vor putea edita imagini prin Grok, o măsură care, potrivit X, adaugă un nivel suplimentar de siguranță și ajută la responsabilizarea celor care încalcă politicile platformei sau legea.
Reacția Guvernului Britanic și a Ofcom
Guvernul britanic a considerat anunțul o „victorie morală”, după ce premierul Sir Keir Starmer a solicitat public companiei X să intervină. Un purtător de cuvânt al Ofcom, autoritatea de reglementare din Marea Britanie, a numit decizia o „evoluție binevenită”, precizând însă că investigația sa privind posibile încălcări ale legislației britanice „rămâne în curs de desfășurare”. „Lucrăm non-stop pentru a avansa în acest caz și pentru a obține răspunsuri despre ce a mers prost și ce se face pentru a remedia situația”, a adăugat acesta.
Secretarul pentru Tehnologie, Liz Kendall, a salutat măsura, dar a subliniat că „așteaptă ca faptele să fie stabilite pe deplin și în mod robust de investigația în curs a Ofcom”. Ofcom a inițiat luni o investigație pentru a stabili dacă X a încălcat legislația britanică privind materialele cu caracter sexual. În cazul unei neconformări, autoritatea ar putea cere blocarea accesului la platformă în Marea Britanie printr-un ordin judecătoresc.
Poziția controversată a lui Elon Musk
Anterior, Elon Musk a apărat platforma, susținând că criticii „vor doar să suprime libertatea de exprimare”. El a însoțit afirmația de două imagini generate de AI care îl înfățișau pe premierul britanic Sir Keir Starmer în bikini. Musk a explicat că, la activarea setărilor NSFW (not safe for work), Grok ar trebui să permită „nuditatea părții superioare a corpului pentru oameni adulți imaginari (nu reali)”, similar cu standardul filmelor cu rating R. „Acesta este standardul de facto în America. Acest lucru va varia în alte regiuni în funcție de legile fiecărei țări”, a completat el.
Comportamentul lui Musk a fost criticat de Riana Pfefferkorn, cercetătoare în politici publice, care a afirmat că acesta nu a prezentat compania într-o lumină serioasă. Ea a sugerat că ar ajuta dacă Musk ar înceta „să facă lucruri precum repostarea unei imagini AI cu Keir Starmer în bikini.”
Îngrijorări și întrebări fără răspuns
Deși salutată de activiști, schimbarea de politică este considerată tardivă de unii. Clare McGlynn, profesoară de drept la Universitatea Durham, a declarat că măsura a venit „prea târziu pentru miile de femei care au fost victimizate și ale căror imagini sunt încă online”. Andrea Simon, director al Coaliției pentru Eliminarea Violenței Împotriva Femeilor (EVAW), a subliniat că decizia demonstrează „cum victimele abuzurilor, activiștii și o demonstrație de forță din partea guvernelor pot forța platformele tehnologice să ia măsuri”. Ea a adăugat: „Dar nu se poate opri aici – având în vedere natura în evoluție a daunelor generate de AI, platformelor tehnologice trebuie să li se ceară să ia măsuri preventive pro-active.”
Există încă neclarități privind aplicarea noilor reguli, în special modul în care X va implementa geoblocarea și dacă utilizatorii o vor putea ocoli cu instrumente precum rețelele private virtuale (VPN). Pfefferkorn a ridicat întrebări suplimentare, precum modul în care AI-ul va distinge între persoane reale și imaginare sau ce măsuri se vor lua împotriva utilizatorilor care încalcă regulile. Cercetătoarea s-a declarat surprinsă de întârzierea cu care X a implementat măsurile, considerând că funcțiile de editare trebuiau eliminate imediat după apariția primelor abuzuri.
