Reclamele bazate pe conținut fals generat cu ajutorul inteligenței artificiale au devenit un fenomen de amploare în campaniile politice online. Un raport realizat de Tech Transparency Project (TTP) arată că, în Statele Unite, o mare parte din bugetele pentru publicitate politică pe platformele Meta — Facebook și Instagram — provin din campanii frauduloase care folosesc videoclipuri deepfake, unele dintre ele hiperrealiste.
Rețelele sociale, inundate de conținut fals. Utilizatorii cad pradă manipulării AI
Potrivit analizei, 63 de agenți de publicitate falși au cheltuit împreună aproape 49 de milioane de dolari, difuzând peste 150.000 de reclame în ultimele 12 luni. Acestea au vizat în special persoanele vârstnice și promovau oferte inexistente în domeniul sănătății, scrie Le Figaro.
Printre materialele distribuite s-au aflat și clipuri deepfake care modificau discursuri ale unor politicieni americani. Într-un caz devenit viral, Donald Trump apărea „promițând” americanilor cec-uri de 5.000 de dolari, deși mesajul video nu avea nicio legătură cu declarațiile reale făcute la Casa Albă.
Conform datelor TTP, șase dintre conturile analizate au investit individual peste 1 milion de dolari înainte de a fi închise sau suspendate de Meta. Cu toate acestea, aproape jumătate dintre agenții de publicitate identificați continuau să ruleze reclame chiar și după ce compania eliminase o parte dintre postările lor.
„Escrocii profită de tehnologia AI, de confuzia legată de beneficiile sociale și de slaba moderare a conținutului pentru a înșela utilizatorii”, avertizează organizația. Reprezentanții Meta au anunțat că dezvoltă noi „apărări tehnice” pentru a combate tacticile din ce în ce mai sofisticate folosite în campaniile frauduloase.
Deepfake-urile, noua armă a escrocilor online
Raportul TTP subliniază că fenomenul se înscrie într-o tendință mai amplă de creștere a fraudelor digitale, amplificate de accesul facil la instrumente de inteligență artificială.
Conform Comisiei Federale pentru Comerț (FTC), numărul plângerilor depuse de cetățenii americani în vârstă care au pierdut cel puțin 10.000 de dolari din cauza escrocilor s-a cvadruplat din 2020.
Într-un context electoral tensionat, utilizarea deepfake-urilor pentru manipulare și fraudă digitală devine o amenințare tot mai serioasă pentru integritatea informațională și siguranța online a utilizatorilor.
