China Introduce Reguli Severe pentru Inteligența Artificială cu Interacțiune Umană

Administrația de Ciberspațiu din China a anunțat recent un proiect de regulament destinat reglementării stricte a serviciilor de inteligență artificială care simulează personalități umane. Acest demers se concentrează pe produsele AI care interacționează emoțional cu utilizatorii, utilizând diverse forme de comunicare, inclusiv text, imagini, audio și video. Perioada de consultare publică pentru acest regulament va dura până pe 25 ianuarie.

Prin acest proiect, autoritățile chineze își propun să controleze dezvoltarea tehnologiilor AI, asigurându-se că acestea respectă standarde etice și de siguranță. În contextul în care China consideră inteligența artificială un element central al creșterii economice și competitivității globale, măsurile propuse sunt esențiale pentru a asigura un mediu de dezvoltare sănătos.

### Definirea serviciilor antropomorfice de AI

RecomandăriANAF introduce inteligența artificială în controalele fiscale. Nouă interfață SPV pentru contribuabili.

Regulamentele vizează servicii care utilizează tehnologia AI pentru a imita trăsături umane, gândire și modalități de comunicare. Aceste servicii trebuie să interacționeze emoțional cu utilizatorii din China. Lin Wei, președintele Universității de Sud-Vest de Drept și Științe Politice, a subliniat că progresele în domeniul AI transformă interacțiunea dintre om și mașină, avansând de la simple funcții de asistență la angajamente emoționale complexe.

### Sistemul de avertizare obligatoriu

Un aspect important al regulamentului este obligativitatea pentru furnizorii de servicii AI de a informa utilizatorii atunci când interacționează cu un program, nu cu o persoană. Această notificare va fi afișată la autentificare, la intervale de două ore sau atunci când se evidențiază semne de dependență. Scopul acestei măsuri este de a crește conștientizarea utilizatorilor și de a reduce riscurile asociate cu utilizarea intensă a tehnologiilor AI.

RecomandăriChina introduce polițiști-roboți umanoizi pentru patrulare

Zhang Zhen, director adjunct la Centrul Național de Urgență pentru Internet, a subliniat că aceste reglementări permit dezvoltarea industrială, dar previn și riscurile de alienare tehnologică.

### Conținut interzis și restricții stricte

Proiectul de regulament interzice generarea sau difuzarea de conținut care amenință securitatea națională sau dăunează intereselor naționale. De asemenea, sunt interzise materialele ce conțin violență, conținut obscen sau care incită la infracțiuni. Reglementările vizează și prevenirea abuzului emoțional, manipulării psihologice sau promovării sinuciderii, protejând astfel sănătatea mentală a utilizatorilor.

RecomandăriUE introduce o taxă pentru coletele mici din China, începând din luna iulie 2026

Li Qiangzhi, director adjunct al Institutului de Politici și Cercetări Economice, a menționat că, la nivel internațional, reglementările devin mai stricte în ceea ce privește AI-urile antropomorfice, pe măsură ce se acumulează dovezi ale efectelor negative asupra utilizatorilor.

### Responsabilități pe tot ciclul de viață

Furnizorii de servicii AI vor trebui să își asume responsabilități de siguranță pe tot parcursul ciclului de viață al produsului. Aceștia vor fi obligați să implementeze sisteme de revizuire a algoritmilor, securitate a datelor și control al conținutului. Înainte de a lansa noi funcții de AI, furnizorii trebuie să efectueze evaluări de securitate complete și să trimită un raport detaliat autorităților competente.

### Protecția grupurilor vulnerabile

Un alt punct important al regulamentului este protecția sporită a grupurilor vulnerabile, cum ar fi minorii și persoanele vârstnice. Regulamentele încurajează furnizorii să dezvolte aplicații care să ajute în diseminarea culturală și însoțirea seniorilor, cu condiția să garanteze siguranța acestora. Măsurile se concentrează pe riscurile asociate cu interacțiunea emoțională, cum ar fi dependența și manipularea psihologică.

### Abordare reglementară pe niveluri

Proiectul propune o reglementare inclusivă, bazată pe evaluarea riscurilor. Aceasta urmărește să sprijine inovația, dar și să protejeze utilizatorii de abuzuri. Cadrul de reglementare include evaluări de securitate și aplicații de reglementare, demonstrând intenția Chinei de a permite experimentarea controlată.

### Context internațional

Lin Wei a avertizat că, fără o reglementare adecvată, riscurile asociate cu AI-urile antropomorfice ar putea afecta negativ dezvoltarea tehnologică și interesele publicului. Proiectul de regulament reflectă o abordare sistematică și previzionară în guvernanța AI, clarificând responsabilitățile pentru inovație și asigurând o dezvoltare sigură și echitabilă.

Consultarea publică se va încheia pe 25 ianuarie, iar feedback-ul obținut va influența versiunea finală a regulamentelor. Aceasta va fi monitorizată cu atenție de dezvoltatorii de AI, atât din China, cât și din întreaga lume.