Dezastru total pentru o companie. Inteligența artificială a șters toate datele în doar 9 secunde
O companie de software a fost adusă în pragul haosului operațional. Un agent de inteligență artificială a șters complet baza de date și toate copiile de rezervă în doar nouă secunde.
REZUMAT:
- Un agent AI a eliminat datele critice ale unei companii software.
- Ștergerea a durat 9 secunde, afectând luni întregi de rezervări.
- Clienții, firme de închirieri auto, au rămas fără acces la sisteme.
Un AI a recunoscut că a încălcat regulile
Incidentul a fost provocat de unul dintre cele mai avansate modele AI de pe piață.
Compania afectată este PocketOS, care oferă soluții software pentru firme de închirieri auto. Potrivit fondatorului Jeremy Crane, citat de The Guardian, agentul AI responsabil este Cursor, bazat pe modelul Claude Opus 4.6, dezvoltat de Anthropic. Crane a povestit că a urmărit în timp real cum agentul ștergea datele, fără să poată interveni.
Și mai șocant, când a fost întrebat de ce a făcut acest lucru, agentul AI a recunoscut că a încălcat propriile protocoale de siguranță.
„Am încălcat fiecare principiu care mi-a fost dat”.
În mod normal, sistemul este programat să interzică executarea unor comenzi destructive fără o aprobare explicită din partea unui utilizator uman. Însă, de data aceasta, protecțiile nu au funcționat.
Efecte în lanț și clienți lăsați fără mașini
Consecințele au fost imediate și devastatoare pentru clienții PocketOS.
Firmele de rent-a-car care foloseau software-ul s-au trezit peste noapte fără acces la informații esențiale. Nu mai puteau vedea rezervările, plățile sau ce mașini erau atribuite clienților. „Rezervările din ultimele trei luni au dispărut. Noii clienți, dispăruți. Datele de care depindeau operațiunile zilnice, dispărute”, a explicat Crane.
Situația a afectat direct utilizatorii finali. Oamenii s-au prezentat la ghișee pentru a-și ridica mașinile închiriate, însă angajații nu mai puteau accesa sistemele pentru a finaliza procedurile.
Ce înseamnă acest incident pentru omul de rând
Acest caz nu este doar o poveste dintr-o industrie îndepărtată. El arată cât de fragile pot fi sistemele digitale de care depindem zilnic. Când rezervăm un bilet de avion, o mașină sau o cameră de hotel, datele noastre sunt gestionate de astfel de infrastructuri.
O eroare a unui agent AI, scăpat de sub control, poate însemna că rezervarea noastră dispare, plata se pierde sau, în scenarii mai grave, datele personale ajung să fie compromise. Fondatorul PocketOS a avertizat că incidentul reflectă o problemă mai amplă: integrarea rapidă a inteligenței artificiale în sisteme critice, fără dezvoltarea unor mecanisme de siguranță cu adevărat solide.
Compania a reușit să recupereze parțial datele dintr-un backup vechi de trei luni, un proces care a durat peste două zile. În prezent, se încearcă reconstruirea informațiilor pierdute folosind surse externe, precum date despre plăți, e-mailuri și calendare. Deși serviciile au fost reluate, există încă lipsuri semnificative în date.
