Motivul șocant pentru care un analist vrea interzicerea AI vinerea după-amiaza
Un analist vine cu o recomandare cel puțin neobișnuită pentru companii. Acesta sugerează interzicerea programelor de inteligență artificială în zilele de vineri după-amiaza, dar și în weekend. Motivul este simplu și, în același timp, îngrijorător: la început de weekend nu există suficienți oameni care să supravegheze activitățile programelor IA, care pot produce erori potențial periculoase.
Erori periculoase descoperite la Copilot
Dennis Xu, analist de cercetare la renumita firmă Gartner, a monitorizat îndeaproape programul de inteligență artificială Copilot de la Microsoft. Și ce a descoperit nu e deloc de neglijat. Programul a inventat unele lucruri, a expus parole și, cel mai grav, a dezvăluit e-mailuri confidențiale. Descoperirea a stârnit temeri serioase legate de securitate. Iar asta în condițiile în care utilizarea sa în medii corporative și guvernamentale devine tot mai frecventă.
V-ați fi gândit la așa ceva?
Avertismentul de la Sydney
Recomandarea a fost făcută în cadrul unui panel Gartner intitulat „Atenuarea celor mai importante 5 riscuri de securitate Microsoft 365 Copilot”, eveniment ce a avut loc în Sydney, Australia. E drept că avertismentul a fost descris ca fiind „pe jumătate în glumă, pe jumătate serios”, dar substratul rămâne unul cât se poate de real. Din cele 30 de minute alocate prezentării sale, Xu a dedicat nu mai puțin de 20 de minute exact acestei înclinații a Copilot de a expune date sensibile.
Un risc cunoscut, dar amplificat de IA
Analistul a explicat, care este mecanismul din spatele acestor scurgeri de informații. Nu e vorba de o vulnerabilitate complet nouă, ci de una exacerbată de noile tehnologii. „Copilot face documentele partajate excesiv mai accesibile. Acesta nu este un risc nou, ci un risc cunoscut, dar amplificat de inteligența artificială”, a avertizat Xu.
O problemă reală, așadar.
Numai că lucrurile nu se opresc aici. Concluzia experților prezenți la panel a fost că interdicția de vineri după-amiază ar trebui să fie impusă, de fapt, tuturor programelor cu inteligență artificială, nu doar celui dezvoltat de Microsoft. Practic, riscul este considerat unul generalizat pentru întreaga industrie.
