Interzicerea IA rasistă și letală de la granițele Europei
Uniunea Europeană se află în etapele finale de elaborare a unei legislații inedite de acest fel pentru a reglementa utilizările dăunătoare ale inteligenței artificiale. Cu toate acestea, așa cum este în prezent, propunerea de lege, numită EU AI Act, conține un punct mort letal: nu interzice numeroasele utilizări dăunătoare și periculoase ale sistemelor AI în contextul aplicării legii în materie de imigrație.
Noi, o coaliție de organizații pentru drepturile omului, facem apel la legislatorii UE să se asigure că această legislație emblematică îi protejează pe toată lumea, inclusiv pe solicitanții de azil și pe alții aflați în mișcare la granițele Europei de tehnologiile de supraveghere periculoase și rasiste. Îi facem apel să se asigure că tehnologiile AI sunt folosite pentru #ProtectNotSurveil.
AI face frontierele mai mortale
Granițele Europei devin din ce în ce mai mortale pe zi ce trece. Tehnologiile intensive în date, inclusiv sistemele de inteligență artificială, sunt din ce în ce mai folosite pentru a face Fortress Europe impenetrabilă. Autoritățile de frontieră și de poliție folosesc analize predictive, evaluări ale riscurilor prin baze de date biometrice interoperabile colosale și drone dotate cu inteligență artificială pentru a supraveghea oamenii în mișcare și a-i îndepărta de granițele UE. De exemplu, agenția europeană de frontieră Frontex, care este acuzată că este complice la încălcări grave ale drepturilor omului la multe frontiere ale UE, este cunoscută că folosește diverse sisteme tehnologice bazate pe inteligență artificială pentru a facilita operațiunile de respingere violente și ilegale.
De la detectoare de minciuni la drone și alte sisteme bazate pe inteligență artificială, instrumentele de supraveghere a frontierelor s-au dovedit că împing oamenii către rute mai precare și mai mortale, îi dezactivează drepturile fundamentale la confidențialitate și le prejudiciază în mod nejustificat revendicările la statutul de imigrare. Aceste tehnologii sunt, de asemenea, cunoscute că criminalizează și profilează rasial persoanele aflate în mișcare și facilitează deportările ilegale care încalcă principiile protecției umanitare.
Actul UE AI poate rezista utilizării opresive a tehnologiei
Într-un moment în care statele membre ale UE se luptă pentru a elabora politici anti-migrație într-un afront la obligațiile lor legale interne și internaționale, limitarea și reglementarea utilizării inteligenței artificiale în controlul migrației este crucială pentru a preveni daunele.
Este, de asemenea, o oportunitate de neratat de a preveni acumularea de puteri mortale, inumane, în mâinile guvernelor autoritare – atât în UE, cât și în statele în care UE încearcă să-și exteriorizeze granițele.
Actul UE AI poate oferi linii roșii cheie și mecanisme de responsabilitate pentru a ajuta la protejarea drepturilor fundamentale ale persoanelor supuse sistemelor de IA în contextul controlului migrației. După cum se subliniază în modificările propuse de noi la Legea AI, acestea ar putea include interzicerea utilizării algoritmilor rasiști și a analizelor predictive pentru a eticheta oamenii drept „amenințări”, precum și „detectori de minciuni” bazați pe inteligență artificială dubioase și alte instrumente de recunoaștere a emoțiilor pentru a împinge ilegal. oameni departe de granițe. UE lucrează de mult timp pentru a-și proteja cetățenii de supravegherea biometrică în masă și se așteaptă ca astfel de protecții să facă parte din Actul final al UE AI. Aceste eforturi nu ar trebui să discrimineze pe baza naționalității și a ideilor rasiale de risc și ar trebui extinse pentru a include toți oamenii din Europa.
Putere pentru oameni, nu pentru sectorul privat
De asemenea, ne temem că lăsarea utilizării inteligenței artificiale în controlul migrației în sarcina statelor membre ale UE va duce la o cursă globală către tehnologii mai intruzive pentru a preveni sau a descuraja migrația – tehnologii care ar schimba fundamental sau, în cel mai rău caz, ar pune capăt vieții unor oameni reali.
Dacă Actul UE privind inteligența artificială nu reușește să regularizeze și să limiteze utilizarea tehnologiilor inteligenței artificiale în aplicarea migrației, actorii privați vor exploata rapid lacuna pentru a promova cu forță noi produse. Ei își vor trimite produsele la granițele noastre fără verificări adecvate, așa cum utilizările care vor intra în domeniul de aplicare al Legii AI devin supuse unor reglementări și bariere mai stricte la intrare.
Aceasta este o industrie profitabilă de miliarde de dolari. Frontex a cheltuit 434 de milioane de euro (476 de milioane de dolari) pe infrastructură IT și supraveghere de nivel militar, din 2014 până în 2020. Tehnologiile vor fi implementate și instruite în detrimentul drepturilor fundamentale ale oamenilor și vor fi reutilizate ulterior în alte contexte dincolo de controlul migrației, eludând controlul crucial din partea etapa de proiectare.
Am văzut deja actori privați – cum ar fi Palantir, G4S și mai puțin cunoscutul Buddi Ltd – profitând de dorința guvernelor de a avea o supraveghere sporită pentru a vinde tehnologie care facilitează practicile inumane la frontiere și încălcările drepturilor fundamentale ale persoanelor aflate în mișcare.
Mai este timp ca UE să facă ceea ce trebuie: să se asigure că utilizările inacceptabile ale inteligenței artificiale în contextul migrației sunt interzise și toate lacunele sunt închise, astfel încât standardele UE privind confidențialitatea și alte drepturi fundamentale să se aplice în mod egal tuturor.
Sursa – www.aljazeera.com
