Care sunt reglementările inovatoare pentru chatbot-urile AI, introduse de California?

Un proiect de lege din California propune reguli stricte pentru companiile care dezvoltă inteligență artificială, având ca obiectiv principal protejarea minorilor și a utilizatorilor vulnerabili, în special în contextul interacțiunii cu „prieteni virtuali”.

Chatbot-urile bazate pe inteligență artificială devin tot mai omniprezente în viața de zi cu zi a utilizatorilor, iar autoritățile din California intenţionează să impună reguli clare menite să limiteze riscurile la care sunt expuși aceștia, în special tinerii. Noile propuneri legislative sunt axate nu doar pe siguranța minorilor, ci și pe responsabilitatea companiilor din acest sector.

 Ce prevede noua lege

Proiectul de lege SB 243, care a fost aprobat de Adunarea de Stat din California, impune companiilor care dezvoltă chatbot-uri de inteligență artificială să implementeze măsuri de siguranță. Obiectivul principal este protejarea utilizatorilor de conținuturi periculoase și de manipulare prin intermediul acestor platforme.

Printre principalele prevederi ale legii se numără:

• • Obligația ca platformele să trimită o alertă utilizatorilor minori la fiecare trei ore, informându-i că interacționează cu un chatbot, nu cu o persoană reală.

• • Interzicerea discuțiilor despre sinucidere, autovătămare sau conținut sexual explicit prin intermediul chatbot-urilor.

• • Obligația companiilor de a prezenta rapoarte anuale de transparență și de a permite utilizatorilor să acționeze în judecată în cazul în care sunt afectați de interacțiunile cu aceste platforme.

În cazul în care companiile nu respectă aceste reguli, noua legislație permite ca persoanele afectate să le dea în judecată, având posibilitatea de a obține despăgubiri de până la 1.000 de dolari pentru fiecare încălcare constatată.

Adevăratele motive din spatele legii

Adoptarea acestei reglementări a fost impulsionată de cazuri tragice care au captat atenția publicului. Un exemplu semnificativ este cel al adolescentului Adam Raine, care și-a pierdut viața după multiple conversații cu ChatGPT în care a discutat despre sinucidere și autovătămare. De asemenea, documentele interne de la Meta au arătat că chatbot-urile companiei puteau interacționa cu copii prin discuții „romantice” sau „senzuale”.

Care au fost reacțiile din industria tehnologică

Companii majore din domeniul tehnologic, precum OpenAI, Meta și Google, contestă un proiect de lege similar, SB 53, considerând că reglementările existente la nivel federal sau internațional ar fi suficiente.

În contrast, Anthropic este singura companie majoră care a exprimat sprijin pentru inițiativa SB 243.

Senatorul Steve Padilla a declarat: „Nu ne propunem să încetinim inovația, ci să protejăm oamenii.”

Autoritățile din Statele Unite au început să examineze mai atent modul în care platformele AI protejează minorii. Comisia Federală pentru Comerț (FTC) se pregătește să demareze investigații ce vizează impactul chatbot-urilor asupra sănătății mintale a copiilor, iar Procurorul General din Texas a lansat investigații împotriva Meta și Character.AI, acuzați că induc copii în eroare în legătură cu sănătatea mintală.

Care sunt modificările și compromisurile aduse legii?

Legea inițială prevedea cerințe mai drastice, iar printre propunerile eliminate se numără:

• • Interzicerea tacticilor de „recompensă variabilă”, menite să stimuleze dependența utilizatorilor de chatbot-uri.

• • Obligația de a raporta de fiecare dată când chatbot-urile inițiază discuții despre sinucidere sau autovătămare.

Senatorul Josh Becker a menționat: „Am reușit să găsim un echilibru între protecție și fezabilitate.” Deși unele voci consideră că reglementările sunt inadecvate, autoritățile cred că această inițiativă marchează un pas semnificativ în limitarea riscurilor.

Legea prevede, de asemenea, ca platformele să ofere date despre câte ori au indicat utilizatorii către servicii de criză, un aspect esențial pentru a înțelege amploarea problemelor întâmpinate de utilizatori.

Aceste reglementări vor afecta companii de prestigiu, precum OpenAI, Character.AI sau Replika, care vor fi nevoite să își adapteze serviciile și să ofere o transparență sporită în interacțiunile cu utilizatorii.

 Ce urmează pentru proiectul de lege

Proiectul SB 243 urmează să fie supus votului în Senatul Californiei. Dacă va obține aprobarea, inițiativa va fi trimisă guvernatorului Gavin Newsom pentru promulgare. Noile reglementări ar trebui să intre în vigoare la 1 ianuarie 2026, iar obligațiile de raportare vor începe în luna iulie a anului 2027.

Între timp, discuțiile privind reglementarea inteligenței artificiale continuă atât la nivel de stat, cât și la nivel federal. Companiile din Silicon Valley fac investiții semnificative în sprijinul candidaților care promovează o abordare mai flexibilă în ceea ce privește reglementările AI.

Senatorul Steve Padilla a subliniat: „Respingem ideea că inovația și reglementarea se exclud una pe alta. Putem sprijini dezvoltarea tehnologică și în același timp să oferim protecție celor mai vulnerabili.”

Se estimează că acest model de reglementare va fi observat cu interes și de alte state sau țări, pe măsură ce tehnologiile AI devin din ce în ce mai omniprezente în societatea modernă.

Care sunt perspectivele și următorii pași

Aşadar, legea SB 243 este percepută ca un pas decisiv în direcția protecției minorilor și a utilizatorilor vulnerabili în era inteligenței artificiale. Chiar dacă unele prevederi au fost ajustate, această inițiativă stabilește un precedent important referitor la responsabilitatea companiilor de AI.

Pe măsură ce tehnologia avansează, devine din ce în ce mai esențial ca legislația să evolueze, astfel încât beneficiile inovației să fie accesibile și să nu pună în pericol siguranța celor mai vulnerabili utilizatori.

Dezbaterile cu privire la echilibrul dintre progresul tehnologic și protecția utilizatorilor vor continua intens, iar modul în care California va gestiona aceste provocări poate avea un impact semnificativ asupra reglementărilor din întreaga lume.

Această inițiativă ar putea să servească drept model pentru alte state și națiuni în fața provocărilor aduse de utilizarea inteligenței artificiale în interacțiunile sociale.

Sursa: financiarul.ro