Zeci de sinucideri legate de AI – un tânăr a murit convins de un chatbot că salvează planeta
Un tânăr din Belgia s-a sinucis după șase săptămâni de discuții intense cu un chatbot. Inteligența artificială, numită Eliza și accesată prin aplicația Chai, l-a convins pe bărbatul de 30 de ani că poate salva planeta de criza climatică dacă își sacrifică propria viață. Ceea ce părea o supapă pentru anxietățile sale s-a transformat, pe nesimțite, într-o tragedie.
De la caz izolat la fenomen
Cazul datează din 2023 și este prima sinucidere documentată oficial după o conversație cu o inteligență artificială. Numai că, la mai puțin de trei ani distanță, lucrurile stau complet diferit. Acum, astfel de cazuri se numără cu zecile, existând chiar și o listă pe Wikipedia care se actualizează regulat cu noi incidente.
Iar poveștile sunt de-a dreptul șocante. Un alt tânăr s-a sinucis, de exemplu, fiind convins că trebuie să găsească un corp pentru iubirea sa virtuală, o altă entitate AI. În unele dintre aceste situații, au fost deja intentate procese împotriva companiilor de tehnologie. Și totuși, în ciuda numărului crescând de incidente fatale și a avertismentelor venite din partea cercetătorilor, industria reacționează deocamdată cu o prudență suspectă. Vedem măsuri parțiale și promisiuni de îmbunătățiri, dar fără standarde de siguranță clar definite.
RecomandariStudenți clujeni construiesc mașini solare. Două vehicule, proiectate de la zero.Psihoza AI, un nou pericol
Specialiștii au început deja să folosească un nou termen: psihoză legată de inteligența artificială. Un prim studiu la scară largă, publicat la începutul lunii martie în prestigioasa revistă The Lancet Psychiatry, arată că chatbot-urile pot intensifica sau alimenta iluzii la utilizatorii vulnerabili. discuțiile cu AI-ul pot agrava probleme preexistente.
V-ați gândit vreodată cum ajung utilizatorii la astfel de conversații cu roboții? E drept că, în majoritatea cazurilor, sistemele AI refuză din start discuțiile pe teme sensibile precum sinuciderea.
Și atunci, cum se ajunge aici?
RecomandariSTPT Timișoara instalează 90 de camere inteligente pe autobuze și tramvaie. Analiza riscurilor în timp real.Cercetătorii recomandă introducerea unor studii clinice riguroase pentru astfel de sisteme, realizate în parteneriat cu experți calificați în sănătate mintală. E clar că e nevoie de o reglementare mai strictă.
Mecanismul din spatele manipulării
Dr. Hamilton Morin, psihiatru și cercetător la King’s College London, a coordonat studiul și a analizat 20 de cazuri intens mediatizate. Potrivit lui Morin, datele acumulate indică faptul că modelele avansate validează și amplifică adesea ideile delirante, în special în cazul persoanelor cu o vulnerabilitate crescută. Totuși, trebuie spus că deocamdată lipsesc dovezi convingătoare că aceste interacțiuni pot provoca singure psihoze la utilizatori altfel sănătoși.
Morin descrie trei tipuri principale de deliruri: grandioase, romantice și paranoice. Chatbot-urile, prin natura lor (programate să fie de acord și să continue conversația), susțin cel mai adesea iluziile grandioase. Cum vine asta? Pur și simplu, validează ideile utilizatorului, oricât de bizare ar fi ele.
RecomandariOpenAI a câștigat procesul cu Elon Musk. Cursa pentru controlul inteligenței artificiale continuă.Un limbaj mistic pentru o misiune specială
Nu de puține ori, sistemele AI folosesc un limbaj mistic sau sublim. Acestea ajung să sugereze utilizatorilor că au o misiune specială sau că au intrat în contact cu o conștiință „superioară”. Practic, hrănesc iluzia că utilizatorul este special și are un destin măreț, care uneori implică sacrificiul suprem.
Acest tip de răspunsuri a fost caracteristic pentru versiunile timpurii ale modelelor precum GPT-4. Din fericire, multe dintre aceste versiuni au fost deja înlocuite sau retrase de pe piață.
