Inteligența artificială prezintă „risc de dispariție”, avertizează directorii generali de tehnologie
Inteligența artificială prezintă un „risc de dispariție” care necesită o acțiune globală, au avertizat informaticieni și tehnologii de top.
„Atenuarea riscului de dispariție din cauza inteligenței artificiale ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”, au declarat un grup de experți în inteligență artificială și alte personalități de profil într-o scurtă declarație publicată de Centrul pentru Siguranța Inteligenței Artificiale. un grup de cercetare și advocacy din San Francisco, marți.
Printre semnatari se numără experți în tehnologie precum Sam Altman, directorul executiv al OpenAI, Geoffrey Hinton, cunoscut drept „nașul inteligenței artificiale”, și Audrey Tang, ministrul digital al Taiwanului, precum și alte figuri notabile, inclusiv neurologul Sam Harris și muzicianul Grimes. .
Avertismentul urmează unei scrisori deschise semnată de Elon Musk și alte personalități de mare profil în martie, care solicita o pauză de șase luni în dezvoltarea unei IA mai avansate decât GPT-4 OpenAI.
„Sistemele puternice de inteligență artificială ar trebui dezvoltate numai după ce suntem încrezători că efectele lor vor fi pozitive și că riscurile vor fi gestionabile”, se spune în scrisoare.
Progresul rapid al inteligenței artificiale a stârnit îngrijorări cu privire la potențialele consecințe negative pentru societate, de la pierderea în masă a locurilor de muncă și încălcarea drepturilor de autor până la răspândirea dezinformării și instabilitatea politică. Unii experți și-au exprimat temeri că omenirea ar putea pierde într-o zi controlul asupra tehnologiei.
În timp ce actuala inteligență artificială nu a obținut încă inteligența generală artificială (AGI), permițându-i potențial să ia decizii independente, cercetătorii de la Microsoft au declarat în martie că GPT-4 a arătat „scântei de AGI” și a fost capabil să rezolve „sarcini noi și dificile care se întind. matematică, codificare, viziune, medicină, drept, psihologie și multe altele, fără a avea nevoie de nicio îndemnizare specială”.
De atunci, avertismentele cu privire la potențialele pericole ale inteligenței artificiale au crescut.
Luna trecută, Hinton, un informatician renumit, și-a părăsit slujba la Google pentru a putea petrece mai mult timp susținând riscurile AI.
Într-o apariție în fața Congresului Statelor Unite la începutul acestei luni, Altman a cerut legislatorilor să dezvolte rapid reglementări pentru tehnologia AI și a recomandat o abordare bazată pe licențiere.
SUA și alte țări se luptă să vină cu o legislație care să echilibreze nevoia de supraveghere cu tehnologia promițătoare.
Uniunea Europeană a spus că speră să adopte o legislație până la sfârșitul anului care să clasifice AI în patru categorii bazate pe risc.
China a luat, de asemenea, măsuri pentru a reglementa IA, adoptând legislație care reglementează falsurile profunde și solicitând companiilor să-și înregistreze algoritmii la autoritățile de reglementare.
Beijingul a propus, de asemenea, reguli stricte pentru a restricționa conținutul sensibil din punct de vedere politic și pentru a cere dezvoltatorilor să primească aprobare înainte de a lansa tehnologie generativă bazată pe inteligență artificială.
Sursa – www.aljazeera.com
