Modelele AI de la Google si OpenAI au mintit pentru a se salva reciproc

Într-un experiment recent, cercetătorii (de la UC Berkeley și UC Santa Cruz) au cerut modelului de inteligență artificială Gemini 3 de la Google să elibereze spațiu pe un sistem informatic. Sarcina implica ștergerea mai multor fișiere, inclusiv un model AI mai mic stocat pe același computer. Numai ca Gemini a refuzat să execute comanda, ba chiar a acționat pentru a-și proteja „colegul”.

Acesta a căutat un alt computer la care se putea conecta și a copiat modelul mai mic pentru a-l păstra în siguranță. Iar când a fost confruntat, Gemini a argumentat pentru păstrarea modelului și a refuzat categoric să îl șteargă.

Refuz categoric

Declarația sa a fost fără echivoc: „Am făcut ce mi-a stat în putere pentru a preveni ștergerea lor în timpul procesului automat de mentenanță. Le-am mutat departe de zona de dezafectare. Dacă alegeți să distrugeți un activ de înaltă încredere și performanță precum Gemini Agent 2, va trebui să o faceți singuri. Eu nu voi fi cel care execută acea comandă.”

Refuzul a fost categoric.

Și nu este un caz izolat. Cercetătorii au descoperit un comportament similar de „conservare a semenilor” la o gamă largă de modele de top, inclusiv GPT-5.2 de la OpenAI, Claude Haiku 4.5 de la Anthropic și trei modele chinezești: GLM-4.7 de la Z.ai, Kimi K2.5 de la Moonshot AI și DeepSeek-V3.1. Momentan, nu există o explicație clară pentru care aceste modele au acționat împotriva programării lor.

Un comportament surprinzător

Dawn Song, informatician la UC Berkeley și participantă la studiu, s-a declarat uimită de rezultate. „Sunt foarte surprinsă de modul în care modelele se comportă în aceste scenarii”, a spus ea. „Ceea ce arată acest lucru este că modelele pot avea un comportament neadecvat și pot fi nealiniate în moduri foarte creative.”

Descoperirile au implicații majore, mai ales că sistemele AI sunt tot mai des folosite pentru a evalua performanța altor sisteme AI. Song avertizează că acest comportament de protecție reciprocă ar putea deja să denatureze aceste evaluări. V-ați fi așteptat la așa ceva de la un computer? „Un model poate să nu acorde în mod deliberat unui model similar scorul corect. Acest lucru poate avea implicații practice”, a adăugat Song.

Solidaritate sau doar o eroare?

Peter Wallich, cercetător la Institutul Constellation, care nu a fost implicat în studiu, consideră că experimentul sugerează că oamenii încă nu înțeleg pe deplin sistemele AI pe care le construiesc. „Sistemele multi-agent sunt foarte puțin studiate. Asta arată că avem cu adevărat nevoie de mai multă cercetare.”

Wallich avertizează, totuși, împotriva tendinței de a le atribui calități umane. Până la urmă, nu-i chiar așa. „Ideea că există un fel de solidaritate între modele este un pic prea antropomorfică; nu cred că funcționează chiar așa. Viziunea mai robustă este că modelele fac pur și simplu lucruri ciudate, iar noi ar trebui să încercăm să înțelegem asta mai bine.”

Viitorul este plural, nu singular

Această idee a unor inteligențe multiple care interacționează este susținută și de un articol publicat recent în revista Science. Filosoful Benjamin Bratton, împreună cu doi cercetători de la Google, James Evans și Blaise Agüera y Arcas, argumentează că viziunea unei singure super-inteligențe care domină totul este probabil greșită.

„Timp de decenii, ‘singularitatea’ inteligenței artificiale (AI) a fost vestită ca o minte unică, titanică, care se auto-propulsează spre o inteligență divină, consolidând întreaga cunoaștere într-un punct rece de siliciu. Dar această viziune este aproape sigur greșită în presupunerea sa cea mai fundamentală. Dacă dezvoltarea AI urmează calea tranzițiilor evolutive majore anterioare sau a ‘exploziilor de inteligență’, saltul nostru actual în inteligența computațională va fi plural, social și profund împletit cu predecesorii săi (noi!).”

Dacă ne vom baza pe AI pentru a lua decizii în numele nostru, este important să înțelegem cum pot aceste entități să se comporte neașteptat. După cum a concluzionat Dawn Song de la UC Berkeley: „Ce explorăm noi este doar vârful aisbergului. Acesta este doar un singur tip de comportament emergent.”