Facebook on täynnä deepfake-mallin poliittisia mainoksia, mikä tekee alustasta kultakaivoksen huijareille
"Ainoa asia, joka on pahempaa kuin se, että näitä tekoälyvideoita käytetään amerikkalaisten huijaamiseen, on se, että Meta tienaa kymmeniä miljoonia dollareita näillä huijausmainoksilla."
Facebookin poliittinen mainosalue on yhä useammin deepfake-huijausten ja harhaanjohtavan sisällön leikkikenttä, ja jotkut alustan parhaista mainostajista tehtailevat videoita Yhdysvaltojen poliitikoista, joissa luvataan olemattomia valtion maksuja.
Tänä kesänä Valkoisen talon lehdistösihteerin Karoline Leavittin väärennetyissä videoissa väitettiin, että amerikkalaiset voisivat hakea 5 000 dollarin avustusshekkejä, ja käyttäjät ohjattiin Get Covered Today -nimiselle sivustolle. Samankaltaisilla väärennetyillä videoilla senaattorit Elizabeth Warren ja Bernie Sanders esittivät samanlaisia lupauksia. "Tämä ei ole kikka", Warrenin imitaatiossa todettiin, vaikka todellisuudessa se oli.
Tech Transparency Projectin uuden raportin mukaan ( The New York Timesin mukaan) 63 tällaista harhaanjohtavaa taktiikkaa käyttävää mainostajaa oli noin joka viides Facebookin 300:sta suurimmasta poliittisesta mainostajasta.
Yhdessä ne tekivät lähes 150 000 mainosta ja käyttivät lähes 49 miljoonaa dollaria viimeisten seitsemän vuoden aikana. Vaikka monet näistä tileistä on keskeytetty, yli puolet jatkoi uusien mainosten julkaisemista vielä tällä viikolla.
"Ainoa asia, joka on pahempaa kuin se, että näitä tekoälyvideoita käytetään amerikkalaisten huijaamiseen, on se, että Meta tienaa kymmeniä miljoonia dollareita näillä huijausmainoksilla", senaattori Warren sanoi ja vaati tiukempaa kuluttajansuojaa verkossa.
Meta, joka omistaa Facebookin, kieltää mainokset, jotka esiintyvät virkamiehinä tai käyttävät harhaanjohtavia käytäntöjä, ja väittää valvovansa näitä sääntöjä "tiukasti" ja lupaa investoida teknisiin suojauksiin. Kriitikot sanovat kuitenkin, että yhtiön valvonta on hidasta, pitkälti automatisoitua ja reaktiivista, ja se luottaa siihen, että käyttäjät tai tutkijat ilmoittavat huijauksista.
Tekoälytyökalujen yleistyminen on helpottanut harhaanjohtavien mainosten luomista, ja sosiaalisen median alustat ovat nykyään verkkopetosten ensisijainen väline, joka ohittaa puhelin- tai tekstiviestihuijaukset. Liittovaltion sääntelyviranomaiset ja hallitukset, kuten Singapore, painostavat Metaa lopettamaan ja uhkaavat sakoilla, jos foorumi ei toimi.
Metan mainostulot lähestyvät 160 miljardia dollaria vuodessa, ja Tech Transparency Projectin analyysi osoittaa, että lyhyen aikavälin voitot menevät usein alustan eheyden ja käyttäjien turvallisuuden edelle.
"Heiluri on heilahtanut kohti lyhytaikaisia tulonäkökohtia eikä alustan pitkän aikavälin terveyttä", sanoo Rob Leathern, entinen Meta-työntekijä ja verkkoluottamusasiantuntija. "Ehkä sen on jossain vaiheessa heilahdettava toiseen suuntaan."