OpenAI a blocat generarea de videoclipuri false cu liderul drepturilor civile, la cererea moștenirii sale. Sora, aplicația de inteligență artificială, a produs conținut considerat „necuviincios”.
Contextul deciziei
De la lansarea Sora în Statele Unite, utilizatorii au creat scene neașteptate cu personalități decedate. De la Stephen Hawking la Regina Elisabeta a II-a, tehnologia a generat imagini hiperrealiste care au fost folosite în scenarii controversate.
Unul dintre videoclipurile care au stârnit reacții îl prezenta pe Martin Luther King Jr. modificându-și celebrul discurs „I Have a Dream”. Alte materiale îl prezentau într-o confruntare fictivă cu Malcolm X.
Bernice A. King, fiica liderului pentru drepturile civile, a cerut public încetarea distribuirii acestor videoclipuri: „Sunt de acord în privința tatălui meu. Vă rog, opriți-vă.”, a scris ea pe rețelele sociale.
Reacții și controverse
Decizia companiei a venit după presiuni din partea:
- Reprezentanților moștenirii King
- Familiei lui Robin Williams
- Experților în etica inteligenței artificiale
Zelda Williams, fiica actorului decedat, a descris senzația provocată de aceste videoclipuri false cu tatăl său ca fiind extrem de deranjantă. Ea a declarat: „E ca și cum l-ai exhuma”, referindu-se la impactul emoțional pe care îl au aceste materiale.
Olivia Gambelin, expertă în inteligență artificială, a apreciat măsura, spunând că este „un pas bun înainte”, dar a subliniat: „încercări și erori într-un volum copleșitor”. Ea a adăugat: „Se joacă prea mult cu încercarea de a rescrie aspecte ale istoriei.”
OpenAI a recunoscut că Sora a generat conținut „necuviincios” despre Martin Luther King Jr. și a anunțat că va opri temporar generarea de imagini cu acesta, deoarece întărește măsurile de protecție pentru figuri istorice.
Protecții limitate și dileme etice
Chiar dacă OpenAI permite încă generarea de clipuri cu alte personalități istorice, sistemul actual ridică numeroase întrebări. Henry Ajder, specialist în tehnologii generative, a explicat: „Ridică întrebări despre cine primește protecție împotriva învierii sintetice și cine nu.” El a mai spus: „Moștenitorii lui King au ridicat în mod legitim această problemă în fața OpenAI, dar mulți decedați nu au moștenitori bine cunoscuți și cu resurse suficiente care să îi reprezinte.” și „În cele din urmă, cred că vrem să evităm o situație în care, dacă nu suntem foarte celebri, societatea acceptă că după moartea noastră se declanșează un haos în ceea ce privește modul în care vom continua să fim reprezentați.”
Provocări nerezolvate
Doar o parte dintre statele americane au legi clare împotriva deepfake-urilor, ceea ce permite abuzuri în reprezentarea digitală a persoanelor decedate. Lipsa unui cadru legal complet face ca multe familii să nu poată interveni atunci când imaginea celor dragi este folosită fără acord.
OpenAI susține că are „mai multe straturi de protecție pentru a preveni utilizările abuzive”, dar recunoaște că este nevoie de dialog direct cu deținătorii de drepturi pentru a adapta politicile viitoare.
Compania a precizat: „Reprezentanți autorizați sau proprietarii averii pot solicita ca asemănarea lor să nu fie folosită în cameo-urile Sora.”
Echilibrul dintre tehnologie și respect
OpenAI se află într-o poziție dificilă: restricționează unele imagini, dar susține și „interese puternice privind libertatea de exprimare în reprezentarea figurilor istorice”. Într-o declarație oficială, compania a transmis că există „interese puternice privind libertatea de exprimare în reprezentarea figurilor istorice”, dar că familiile și reprezentanții acestora ar trebui să controleze modul în care imaginea lor este folosită.
Întrebarea rămâne: ce se întâmplă cu persoanele care nu au familii sau moștenitori cunoscuți? Henry Ajder avertizează: „În cele din urmă, cred că vrem să evităm o situație în care, dacă nu suntem foarte celebri, societatea acceptă că după moartea noastră se declanșează un haos în ceea ce privește modul în care vom continua să fim reprezentați.”
Pe măsură ce tehnologia avansează, discuțiile despre memoria colectivă și adevărul istoric devin tot mai importante. Odată cu dezvoltarea inteligenței artificiale, societatea trebuie să găsească un echilibru între inovație și respectul față de cei care nu mai sunt printre noi.
Perspective pentru viitor
OpenAI a declarat că lucrează la întărirea măsurilor de protecție și că va continua dialogul cu personalitățile publice și deținătorii de conținut pentru a înțelege cum ar trebui gestionate aceste situații.
În timp ce tehnologia evoluează rapid, discuțiile despre drepturile de imagine și responsabilitatea companiilor de AI vor rămâne în centrul atenției. Rămâne de văzut cum vor fi protejate în viitor imaginea și memoria personalităților istorice în era digitală.
