Espanjan viranomaiset ovat antaneet varoituksen sen jälkeen, kun huijarit käyttivät TikTokissa tekoälyn luomia videoita esiintyäkseen Espanjan 20-vuotiaana kruununperijänä, prinsessa Leonorina, verkkohuijauksessa, jonka kohteena olivat sosiaalisen median käyttäjät.
Väärennetyillä tileillä näytetään realistisen näköisiä videoita "Leonorista", joissa luvataan tuhansia dollareita taloudellista apua muutaman sadan dollarin ennakkomaksua vastaan. Asturian prinsessasäätiön mukaan maksavilta uhreilta pyydetään sitten lisämaksuja ennen kuin huijarit katoavat.
Kaapattu kuva tekoälyn avulla luodusta huijauksellisesta TikTok-videosta, jossa väitetään esiintyvän prinsessa Leonoria.
Säätiö korostaa, ettei se eikä prinsessa Leonor pyöritä mitään ohjelmia, joissa tarjotaan rahaa, apurahoja tai henkilökohtaista taloudellista apua, ja kutsuu kaikkia tällaisia viestejä "täysin vääriksi". El País -lehden ( The Guardianin kautta) tekemän tutkimuksen mukaan huijaukseen liittyvät puhelinnumerot jäljitettiin Dominikaaniseen tasavaltaan, ja jotkut videot keräsivät yli miljoona katselukertaa.
Huolimatta TikTokin säännöistä, jotka kieltävät henkilöitymisen ja vilpillisen toiminnan, sanomalehti kertoi, että toistuvat valitukset väärennetyistä Leonor-tileistä hylättiin, ja foorumi sanoi, että sisältö ei rikkonut sen käytäntöjä. Tämä korostaa kasvavaa huolta tekoälypohjaisista imitaatiohuijauksista, sillä yhä realistisemmat väärennetyt videot vaikeuttavat käyttäjien mahdollisuuksia erottaa viralliset henkilöt hienostuneista huijauksista.
