Inteligența artificială ar putea provoca o catastrofă „la nivel nuclear”, afirmă o treime dintre experți

De Jurnalul Național Externe Tech 172 citiri
4 min citire




Raportul Universității Stanford spune că „incidențele și controversele” asociate cu inteligența artificială au crescut de 26 de ori într-un deceniu.

Mai mult de o treime dintre cercetători cred că inteligența artificială (AI) ar putea duce la o „catastrofă la nivel nuclear”, potrivit unui sondaj de la Universitatea Stanford, subliniind preocupările din sector cu privire la riscurile prezentate de tehnologia care avansează rapid.

Sondajul se numără printre constatările evidențiate în Raportul 2023 AI Index, lansat de Institutul Stanford pentru Inteligență Artificială Centrată pe Om, care explorează cele mai recente evoluții, riscuri și oportunități în domeniul în plină dezvoltare al AI.

„Aceste sisteme demonstrează capabilități de răspuns la întrebări și generarea de text, imagini și coduri neimaginate în urmă cu un deceniu și depășesc stadiul tehnicii la multe repere, vechi și noi”, spun autorii raportului.

„Cu toate acestea, ei sunt predispuși la halucinații, părtinitori în mod obișnuit și pot fi păcăliți să atingă scopuri nefaste, evidențiind provocările etice complicate asociate cu desfășurarea lor.”

Raportul, care a fost lansat la începutul acestei luni, vine pe fondul cererilor tot mai mari de reglementare a inteligenței artificiale, în urma controverselor, de la o sinucidere legată de chatbot la videoclipuri deepfake cu președintele ucrainean Volodimir Zelenskii, părând să se predea forțelor invadatoare ruse.

Luna trecută, Elon Musk și co-fondatorul Apple, Steve Wozniak, s-au numărat printre cei 1.300 de semnatari ai unei scrisori deschise prin care se cere o pauză de șase luni în instruirea sistemelor AI dincolo de nivelul chatbot-ului Open AI GPT-4, deoarece „sistemele AI puternice ar trebui dezvoltate doar. odată ce suntem încrezători că efectele lor vor fi pozitive și riscurile vor fi gestionabile”.

În sondajul evidențiat în Raportul AI 2023, 36% dintre cercetători au spus că deciziile luate de AI ar putea duce la o catastrofă la nivel nuclear, în timp ce 73% au spus că ar putea duce în curând la „schimbare revoluționară a societății”.

Sondajul a fost audiat de 327 de experți în procesarea limbajului natural, o ramură a informaticii cheie pentru dezvoltarea chatbot-urilor precum GPT-4, între mai și iunie anul trecut, înainte ca lansarea ChatGPT de la Open AI în noiembrie să cucerească lumea tehnologiei.

Într-un sondaj IPSOS al publicului larg, care a fost evidențiat și în index, americanii au părut deosebit de precauți față de AI, doar 35 la sută fiind de acord că „produsele și serviciile care utilizează IA au avut mai multe beneficii decât dezavantaje”, comparativ cu 78 la sută dintre respondenții chinezi. , 76% dintre respondenții din Arabia Saudită și 71% dintre respondenții indieni.

Raportul Stanford a remarcat, de asemenea, că numărul de „incidente și controverse” asociate cu IA a crescut de 26 de ori în ultimul deceniu.

Mișcările guvernamentale de a reglementa și controla IA câștigă teren.

Administrația Cyberspace din China a anunțat săptămâna aceasta proiecte de reglementări pentru IA generativă, tehnologia din spatele GPT-4 și rivalii interni precum Tongyi Qianwen de la Alibaba și ERNIE de la Baidu, pentru a se asigura că tehnologia aderă la „valoarea de bază a socialismului” și nu subminează guvernul.

Uniunea Europeană a propus „Artificial Intelligence Act” pentru a guverna ce tipuri de IA sunt acceptabile pentru utilizare și care ar trebui interzise.

Preocuparea publicului american față de AI nu s-a transpus încă în reglementări federale, dar administrația Biden a anunțat săptămâna aceasta lansarea consultărilor publice cu privire la modul de a se asigura că „sistemele AI sunt legale, eficiente, etice, sigure și demne de încredere”.

Sursa – www.aljazeera.com