De ce pentru aceeași întrebare către ChatGPT, primesc răspunsuri diferite de fiecare dată?
O nouă cercetare arată că răspunsurile variabile ale modelelor AI pot fi controlate prin optimizarea modului în care sunt gestionate calculele pe procesoarele Nvidia.
Mulți utilizatori au observat că, atunci când pun aceeași întrebare către ChatGPT, primesc răspunsuri diferite de fiecare dată.
Thinking Machines Lab, un startup fondat de fosta CTO de la OpenAI, Mira Murati, susține că a identificat cauza principală a acestei variabilități și propune o soluție. Acest subiect a stârnit mult interes în comunitatea tehnologică.
Care este cauza aleatorietății în AI?
Într-o postare pe blog publicată recent, cercetătorul Horace He de la Thinking Machines Lab explică faptul că variabilitatea răspunsurilor AI nu este inevitabilă. El susține că problema apare din modul în care procesoarele Nvidia procesează calculele. Mai exact, este vorba despre “kernel-urile GPU”, adică acele fragmente de cod care rulează pe chipuri.
Horace He explică: „Când apeși Enter în ChatGPT, aceste kernel-uri sunt orchestrate într-un mod care introduce aleatorietate.” Această aleatorietate nu provine din modelul AI în sine, ci din infrastructura hardware care procesează datele.
Operațiunile paralele pe GPU pot duce la ordine de execuție impredictibile. Optimizările automate ale hardware-ului pot modifica rezultatele calculelor. Dificultatea principală nu ține de model, ci de modul în care software-ul interacționează cu hardware-ul.
Soluția propusă de echipă presupune controlul atent al modului în care aceste kernel-uri sunt gestionate. Astfel, modelele AI ar putea deveni „deterministe”, adică să ofere același răspuns la aceeași întrebare de fiecare dată.
Importanța determinismului pentru viitorul AI
Determinismul modelelor AI ar putea aduce beneficii semnificative pentru companii și cercetători, deoarece ar elimina riscul ca un asistent AI să ofere recomandări diferite pentru aceeași problemă. Thinking Machines Lab consideră că acest progres poate crește gradul de încredere în tehnologie.
Postarea de pe blog evidențiază și impactul asupra procesului de învățare prin recompensă (reinforcement learning sau RL). Horace He notează că, dacă răspunsurile sunt constante, datele de antrenament devin mai clare, iar procesul de învățare se desfășoară mai eficient.
Legătura cu strategia companiei
Conform unor informații anterioare, Thinking Machines Lab intenționează să folosească această tehnologie pentru a personaliza modele AI destinate mediului de afaceri. O abordare deterministă ar face aceste produse mai fiabile și ar crește valoarea lor pentru utilizatori.
Astfel, compania se concentrează pe dezvoltarea unor soluții care să răspundă nevoilor reale ale pieței, punând accent pe consistența și predictibilitatea răspunsurilor generate de AI.
Care este planul Thinking Machines Lab?
În luna iulie, Mira Murati a anunțat că primul produs al laboratorului va fi lansat în următoarele luni și că acesta va fi util atât cercetătorilor, cât și startup-urilor care dezvoltă modele AI personalizate. Detaliile despre acest produs nu au fost încă făcute publice, însă cercetarea prezentată sugerează că va include elemente din această nouă abordare.
Compania a promis, de asemenea, să publice frecvent cod, articole și alte resurse legate de activitatea de cercetare, dorind astfel să contribuie la dezvoltarea comunității și să mențină un grad ridicat de transparență. În trecut, OpenAI a avut o politică similară, dar pe măsură ce a crescut, a devenit mai puțin deschisă. Rămâne de văzut dacă Thinking Machines Lab va reuși să păstreze această transparență pe termen lung.
Echipa a lansat deja o serie de articole sub titlul „Connectionism”, primul dintre acestea fiind cel despre determinismul în inferența LLM. Aceste publicații oferă o perspectivă rară asupra activității interne a uneia dintre cele mai discrete companii de AI din Silicon Valley.
Compania promite mai multă deschidere față de public
Se urmărește publicarea regulată a codului și a rezultatelor cercetărilor. Accentul cade pe crearea unei culturi de cercetare solide și transparente. Această abordare deschisă ar putea reprezenta un avantaj important în atragerea de clienți și colaboratori.
Transparența este esențială în mediul actual, în care utilizatorii sunt din ce în ce mai conștienți de etica și responsabilitatea utilizării tehnologiei AI. Prin asumarea unei politici de deschidere, Thinking Machines Lab își propune să devină un lider în acest domeniu emergent.
Perspectivele și provocările viitoare
Această cercetare a Thinking Machines Lab oferă o privire detaliată asupra unui subiect esențial pentru evoluția inteligenței artificiale. Chiar dacă nu este clar încă ce produs va lansa compania, eforturile de a face modelele AI mai previzibile și mai ușor de controlat ar putea schimba modul în care tehnologia este folosită în industrie.
Rămâne de urmărit dacă soluțiile tehnice propuse vor funcționa la scară largă și dacă vor reuși să transforme aceste cercetări în produse viabile, care să justifice evaluarea de 12 miliarde de dolari a companiei.
În perioada următoare, comunitatea de specialiști va urmări cu interes evoluția Thinking Machines Lab și impactul pe care îl va avea asupra modului în care folosim și dezvoltăm inteligența artificială în diverse domenii, de la sănătate la industrie și educație.
În concluzie, progresul în tehnologia AI trebuie să fie însoțit de soluții care asigură o utilizare corectă și previzibilă a acestor sisteme. Cu o abordare deterministă propusă de Thinking Machines Lab, viitorul tehnologiei AI pare mai promitător, iar utilizatorii ar putea beneficia în curând de un sistem mult mai fiabil și eficient.
Sursa: financiarul.ro
