În contextul legal, Uniunea Europeană a stabilit, prin AI Act, o serie de interdicții clare care reglementează utilizarea inteligenței artificiale. Aceste reglementări sunt esențiale pentru a proteja utilizatorii de practici dăunătoare și pentru a asigura un mediu digital mai sigur. Articolul 5 al acestui act specifică activitățile care nu pot fi desfășurate în domeniul inteligenței artificiale, punând accent pe manipularea utilizatorilor, exploatarea categoriilor vulnerabile și crearea de baze de date sau profiluri cu risc infracțional.
Care sunt practicile AI, interzise în Europa
Deși aceste reglementări sunt menite să protejeze utilizatorii, anumite practici interzise continuă să apară, fie în mod direct, fie în mod subtil, în mediul online. De exemplu, articolul 5 interzice utilizarea tehnicilor subliminale care pot induce utilizatorii în eroare, determinându-i astfel să ia decizii ce le pot cauza prejudicii.
Utilizarea imaginilor și vocilor generate de AI
Un aspect problematic este reproducerea imaginii sau vocii unor persoane publice fără a menționa clar faptul că acestea sunt generate de inteligența artificială. Aceasta poate crea confuzii și poate afecta reputația individului în cauză. În plus, boții care generează planuri de antrenament sau diete personalizate sunt un alt exemplu relevant. Fără o verificare a datelor de către un medic nutriționist sau un antrenor certificat, aceste „recomandări” pot deveni, în realitate, o amenințare pentru sănătatea utilizatorilor lor.
Exploatarea vârstnicilor și a copiilor
Un alt domeniu sensibil reglementat de AI Act este exploatarea vulnerabilităților specifiice ale unor grupuri sociale, cum ar fi copiii și vârstnicii. Aceste categorii sunt mai susceptibile la influențe externe, iar utilizarea inteligenței artificiale pentru a le exploata vulnerabilitățile ridică semne de întrebare serioase.
Publicitate înșelătoare
Promovarea de reclame înșelătoare pentru produse potențial nocive către copii sau vârstnici este interzisă, deoarece poate avea consecințe devastatoare pentru sănătatea acestor persoane. În plus, sistemele care acordă un „scor social” utilizatorilor sunt, de asemenea, problematice. Aceste mecanisme nu doar că influențează percepția altor persoane, dar pot conduce și la discriminare, obligându-i pe utilizatori să suporte tratamente inechitabile bazate pe evaluările negative primite.
Profile infracționale și colectarea ilegală a datelor
Conform AI Act, este strict interzisă crearea de profile infracționale în baza unor caracteristici personale care includ, dar nu se limitează la, tatuaje, obiceiuri de consum sau alte trăsături care ar putea eticheta greșit o persoană drept „periculoasă”. Acest tip de clasificare este extrem de problematic, deoarece poate afecta profund viața individului, aducând stigmatizare și discriminare.
Preluarea neautorizată a imaginilor
O altă practică ilegală este „untargeted scraping”, care implică preluarea neautorizată a imaginilor de pe internet în scopul extinderii bazelor de date de recunoaștere facială. Aceasta ridică probleme severe de confidențialitate, întrucât persoanele afectate nu își dau consimțământul pentru utilizarea imaginilor lor.
Analizarea emoțiilor angajaților
De asemenea, sistemele AI care analizează emoțiile angajaților la locul de muncă reprezintă o altă problemă majoră de etică și confidențialitate. Aceasta nu doar că încalcă drepturile fundamentale ale angajaților, dar poate crea un mediu de lucru opresiv și plin de stres. Luptându-se să se conformeze așteptărilor impuse de tehnologie, angajații se pot simți neputincioși și lipsiți de control asupra propriilor emoții.
Provocările reglementărilor AI în practică
În ciuda reglementărilor clare, aplicarea lor rămâne o provocare. Mulți utilizatori nu sunt conștienți de aceste interdicții, iar companiile care le încalcă riscă să fie sancționate. Totuși, este adesea greu de dovedit că anumite practici sunt ilegale, mai ales în absența unor dovezi clare. De asemenea, există o discrepanță între legislația existentă și rapiditatea cu care tehnologia evoluează, ceea ce face ca aceste reglementări să fie uneori ineficiente.
Importanța educației despre AI
Pentru a combate aceste practici nocive, educația utilizatorilor despre inteligența artificială și despre riscurile asociate este crucială. Este imperative ca consumatorii să fie informați, astfel încât să poată identifica și evita platformele care utilizează AI într-un mod dăunător. De asemenea, este esențial ca organizațiile să investească în formarea angajaților pentru a recunoaște și apăra drepturile individuale în fața tehnologiei.
Rolul autorităților de reglementare
Autoritățile de reglementare au un rol esențial în asigurarea respectării acestor legi și în impunerea sancțiunilor necesare companiilor care nu se conformează. Colaborarea între diferitele instituții ale Uniunii Europene este esențială pentru a crea un cadru unitar și coerent, care să protejeze cetățenii și să promoveze un mediu digital responsabil.
Viitorul legislației AI
Pe măsură ce tehnologia continuă să evolueze, este esențial ca legislația să fie adaptată pentru a reflecta noile realități și provocări. De asemenea, ar trebui să existe un dialog continuu între dezvoltatorii de tehnologie, autoritățile de reglementare și societate pentru a aborda în mod proactiv problemele emergente și pentru a asigura un viitor mai sigur și mai echitabil în ceea ce privește utilizarea inteligenței artificiale.
Sursa: financiarul.ro
