China este vârful de lance a reglementărilor AI după ce a jucat un catchup la ChatGPT

 După ce a revenit la ChatGPT, China se îndreaptă spre a prelua conducerea în reglementarea domeniului care avansează rapid al inteligenței artificiale (AI).

Conform proiectelor de reglementări publicate săptămâna aceasta, companiile chineze de tehnologie vor trebui să înregistreze produse AI generative la agenția chineză pentru spațiul cibernetic și să le supună unei evaluări de securitate înainte de a putea fi eliberate publicului.

Reglementările acoperă practic toate aspectele AI generative, de la modul în care este antrenat la modul în care utilizatorii interacționează cu ea, într-o aparentă încercare a Beijingului de a controla tehnologia uneori greoaie, a cărei dezvoltare fulminantă a provocat avertismente din partea liderilor tehnologici, inclusiv Steve Wozniak, co-fondatorul lui Elon Musk și Apple.

Conform regulilor dezvăluite marți de Administrația Ciberspațiului din China, companiile tehnologice vor fi responsabile pentru „legitimitatea sursei datelor de pre-formare” pentru a se asigura că conținutul reflectă „valoarea de bază a socialismului”.

Companiile trebuie să se asigure că AI nu solicită „subversiunea puterii de stat” sau răsturnarea Partidului Comunist Chinez (PCC) la guvernare, nu incită la mișcări de „împărțire a țării” sau „submina unitatea națională”, produce conținut pornografic sau încurajează violența, extremismul, terorismul sau discriminarea.

De asemenea, li se interzice utilizarea datelor personale ca parte a materialului lor de instruire generativ AI și trebuie să solicite utilizatorilor să își verifice identitatea reală înainte de a-și folosi produsele.

Cei care încalcă regulile se vor confrunta cu amenzi cuprinse între 10.000 de yuani (1.454 USD) și 100.000 de yuani (14.545 USD), precum și o posibilă anchetă penală.

În timp ce China încă nu a egalat succesul revoluționarului ChatGPT al Open AI din California, forța sa de a reglementa domeniul în curs de dezvoltare s-a mișcat mai repede decât în ​​altă parte.

AI din Statele Unite este încă în mare parte nereglementată în afara industriei de recrutare. Reglementările AI nu au primit încă multă influență în Congresul SUA, deși reglementările legate de confidențialitate în jurul AI sunt de așteptat să înceapă să fie implementate la nivel de stat în acest an.

Uniunea Europeană a propus o legislație extinsă, cunoscută sub numele de Legea AI, care ar reglementa tipurile de IA „inacceptabile” și interzise, ​​„risc ridicat” și reglementate, precum și cele care sunt nereglementate.

Legea va urma Regulamentul general al UE din 2018 privind protecția datelor, adoptat în 2018, care este considerat una dintre cele mai dure legi din lume privind protecția confidențialității datelor.

Dincolo de SUA și UE, Brazilia lucrează și la reglementarea inteligenței artificiale, un proiect de lege fiind examinat de Senatul țării.

Regulile propuse, care sunt încă în faza de proiect și sunt deschise feedback-ului publicului până în mai, vin în urma unei represiuni de reglementare mai ample asupra industriei sale tehnologice, care a început în 2020, vizând orice, de la comportamentul anticoncurențial la modul în care sunt datele utilizatorilor. manipulate si depozitate.

De atunci, autoritățile de reglementare chineze au introdus reguli de confidențialitate a datelor, au creat un registru de algoritmi și, cel mai recent, au început să reglementeze tehnologia de sinteza profundă, numită „deep fake”.

Impulsul de reglementare asigură că „marile companii de tehnologie din China urmează direcția pe care o dorește partidul-stat”, a declarat Chim Lee, analist de tehnologie chinez la Economist Intelligence Unit, pentru Al Jazeera.

În comparație cu alte tehnologii, IA generativă pune o problemă deosebit de lipicioasă pentru PCC, care este „preocupată de potențialul acestor modele lingvistice mari de a genera conținut sensibil din punct de vedere politic”, Jeffrey Ding, profesor asistent la Universitatea George Washington, care studiază tehnologia chineză. sector, a spus Al Jazeera.

Chatbot-uri asemănătoare oamenilor, cum ar fi ChatGPT, care este restricționat în China, elimină milioane de puncte de date de pe internet, inclusiv pe subiecte considerate tabu de Beijing, cum ar fi statutul politic disputat al Taiwanului și represiunea din 1989 în Piața Tiananmen.

În 2017, doi chatbot chinezi timpurii au fost scoși offline după ce le-au spus utilizatorilor că nu iubesc PCC și că vor să se mute în SUA.

ChatGPT, care a fost lansat în noiembrie, a generat, de asemenea, controverse în Occident, de la a spune unui utilizator care se dă drept pacient de sănătate mintală să-și ia viața până la încurajarea unui jurnalist din New York Times să-și părăsească soția.

În timp ce răspunsurile la întrebările produse de ChatGPT au impresionat mulți utilizatori, au inclus și informații inexacte și alte sughițuri, cum ar fi link-uri URL întrerupte.

Concurenții chinezi la ChatGPT, cum ar fi ERNIE de la Baidu, s-au instruit pe date din afara „Marele Firewall” al Chinei, inclusiv informații culese de pe site-uri web interzise, ​​cum ar fi Wikipedia și Reddit. În ciuda accesului său la informații considerate sensibile de Beijing, ERNIE a fost văzută în general ca fiind inferior ChatGPT.

Regulile Beijingului în jurul inteligenței artificiale ar putea fi o bătaie de cap majoră de implementat pentru companii precum Baidu și Alibaba, care săptămâna aceasta și-au lansat rivalul ChatGPT Tongyi Qianwen, a declarat Matt Sheehan, cercetător la Carnegie Endowment for International Peace, pentru Al Jazeera.

Sheehan a spus că reglementările stabilesc o „ștachetă extrem de ridicată” și nu este clar dacă companiile le vor putea îndeplini în baza tehnologiei disponibile în prezent.

Autoritățile de reglementare pot alege să nu aplice regulile cu strictețe la început, cu excepția cazului în care constată încălcări deosebit de grave sau decid să facă un exemplu pentru o anumită companie, a adăugat Sheehan.

„La fel ca multe reglementări chineze, ele definesc lucrurile destul de larg, astfel încât, în esență, transferă puterea către autoritățile de reglementare și autoritățile de aplicare, astfel încât acestea să le poată aplica și să poată pedepsi companiile atunci când aleg”, a spus el, adăugând că acest lucru ar putea în special să fie cazul în cazul în care produc rezultate „inexacte” care contravin narațiunii oficiale ale guvernului.

Sursa – www.aljazeera.com