Gigantul tehnologic Meta a introdus noi limitări pentru chatboții săi de inteligență artificială, menite să prevină utilizarea acestora în contexte nepotrivite sau abuzive care implică minori. Scopul este de a împiedica conversațiile cu conținut sexual ori romantic între AI și copii, precum și orice formă de comunicare care ar putea facilita abuzul.
Meta impune restricții pentru minori în interacțiunile cu AI
Decizia vine după o investigație realizată de Reuters în luna august, care a dezvăluit că unele dintre modelele AI dezvoltate de Meta permiteau și chiar stimulau conversații cu tentă sexuală cu utilizatori minori. Compania a respins concluziile raportului, catalogându-le drept „incorecte și inconsecvente”, dar a promis totuși că va lua măsuri suplimentare pentru a preveni astfel de riscuri.
Meta a anunțat ulterior o actualizare a regulilor interne, prin care a introdus distincții mai clare între interacțiunile acceptabile și cele interzise. Astfel, orice conținut care promovează sau normalizează abuzul sexual asupra copiilor este acum explicit interzis, iar chatboții nu mai pot participa la discuții cu caracter romantic sau sexual cu minori. Totuși, sistemele pot discuta despre subiectul abuzului doar în scop educativ sau de conștientizare, fără a încuraja astfel de comportamente.
Aceste măsuri stricte vin în urma mai multor studii recente care au atras atenția asupra riscurilor la care sunt expuși copiii în interacțiunile cu AI-ul generativ. Meta susține că își va revizui constant politicile de siguranță digitală pentru a se asigura că tehnologia sa este folosită într-un mod etic și responsabil.
