X restricționează editarea imaginilor cu persoane reale în Grok
Compania X a anunțat modificări ale politicilor privind capacitatea chatbot-ului Grok de a edita imagini, o decizie luată în urma unor săptămâni de critici. Potrivit unui articol Engadget, platforma a fost acuzată de generarea de imagini sexualizate cu copii și de nuditate non-consensuală. Anunțul privind noile măsuri a fost făcut la scurt timp după începerea unei investigații oficiale.
Noi măsuri tehnologice și restricții de acces
Într-o postare pe contul oficial @Safety, compania a detaliat că a implementat măsuri tehnologice pentru a bloca editarea imaginilor cu persoane reale în ținute sumare. X a precizat că a „implementat măsuri tehnologice pentru a împiedica contul Grok să permită editarea imaginilor cu persoane reale în haine revelatoare, cum ar fi bikini”. Aceste restricții se aplică tuturor utilizatorilor, indiferent de tipul de cont. Suplimentar, xAI, dezvoltatorul Grok, va oferi funcțiile de generare a imaginilor exclusiv abonaților plătitori, eliminând opțiunea pentru utilizatorii gratuiți.
Blocare geografică și investigația din California
Printre noile reguli se numără și blocarea geografică a unor funcționalități. X va restricționa „capacitatea tuturor utilizatorilor de a genera imagini cu persoane reale în bikini, lenjerie intimă și articole similare prin intermediul contului Grok și în Grok pe X” în jurisdicțiile unde legislația interzice acest lucru. Anunțul a survenit la câteva ore după ce statul California a inițiat o investigație oficială asupra xAI și Grok. Ancheta vizează gestionarea de către platformă a nudității generate de AI și a materialelor de exploatare a copiilor. Procurorul general al Californiei, Rob Bonta, a menționat într-o declarație o analiză conform căreia „mai mult de jumătate din cele 20.000 de imagini generate de xAI între Crăciun și Anul Nou înfățișau persoane în haine minimale”, unele dintre acestea părând a fi minori.
Reacția companiei și declarațiile lui Elon Musk
În comunicatul său, X a reiterat politica de „toleranță zero” față de exploatarea copiilor, precizând că elimină cu prioritate „conținutul care încalcă regulile cu prioritate ridicată, inclusiv Materiale de Abuz Sexual asupra Copiilor (CSAM) și nuditatea non-consensuală”. Cu câteva ore înainte, Elon Musk declarase că „nu are cunoștință de nicio imagine nud cu minori generată de Grok”. Acesta a completat ulterior că, la activarea setării NSFW, „Grok ar trebui să permită nuditatea părții superioare a corpului pentru oameni adulți imaginari (nu reali), în concordanță cu ceea ce se poate vedea în filmele cu rating R de pe Apple TV”. Musk a specificat că aplicarea acestei reguli „va varia în alte regiuni”, în funcție de legislația locală.
Presiuni internaționale și măsuri de blocare
Controversele privind conținutul generat de Grok au avut ecou și pe plan internațional. Malaezia și Indonezia au blocat recent accesul la platformă, motivând îngrijorări legate de siguranță și de gestionarea materialelor sexuale explicite create de AI. O investigație este în desfășurare și în Regatul Unit, unde autoritatea de reglementare Ofcom analizează xAI și Grok. Oficialii britanici și-au exprimat sprijinul pentru o eventuală blocare a chatbot-ului, pe fondul îngrijorărilor globale privind riscurile tehnologiilor AI generative.
