Grok, Elon Muskin X:ssä, entisessä Twitterissä, käytetty tekoäly, on jäänyt kiinni useaan otteeseen "valehtelemisesta" kuvista, joissa on aliravittuja lapsia Gazassa. Tämä käy ilmi RTVE:n raportista, jossa viitataan ainakin kolmeen kertaan, jolloin käyttäjät kysyivät Grokilta Gazan nälkää näkevistä lapsista otettujen kuvien todenperäisyydestä, joissa aliravitsemuksen ja sairauden vaikutukset olivat hyvin näkyviä, ja X:n tekoäly sanoi virheellisesti, että kuvat eivät olleet Gazasta... vaikka ne olivatkin.
"@grok, miltä vuodelta nämä kuvat ovat?", kysyi Kristy4TRUMP vastauksena Yhdysvaltain senaattorin Bernie Sandersin viestiin viime heinäkuun 28. päivänä. "Nämä kuvat ovat vuodelta 2016, ja niissä näkyy aliravittuja lapsia sairaalassa Houdiedassa, Jemenissä, siellä käytävän sisällissodan keskellä. Ne eivät kuvaa Gazan nykyisiä tapahtumia", Grok sanoi.
<social>https://x.com/Shayan86/status/1950590940764393815</social>
Paitsi, että ne eivät olleet: nämä kuvat on otettu Gazassa 23. heinäkuuta, ja Associated Press on vahvistanut ne, ja ne on jakanut BBC:n tekoälyyn ja disinformaatioon erikoistunut toimittaja Shayan Sardarizadeh.
Toisaalla Grok sanoo, että kuva äidistä, joka kantaa vauvaa, jolla on muovipussi vaippana ja jonka ihon alla on pelkkää luuta, on Jemenin vuoden 2017 nälänhädästä, vaikka todellisuudessa kyseessä on Ahmed al-Arinin 21. heinäkuuta ottama kuva, jossa BBC jopa haastatteli hänen äitiään Hedaya al-Mutaa.
<social>https://x.com/grok/status/1948374632937185397</social>
Faktantarkistajat ovat toistuvasti havainneet, että Grok valehtelee kuvien todenperäisyydestä, jopa silloin, kun se kategorisesti väittää niiden olevan totta. Tämä osoittaa, että tekoälyn käyttäminen todentamisvälineenä on vaarallista, sillä se voi aiheuttaa entistä enemmän väärää tietoa. Jotkut asiantuntijat uskovat, että Grokin tapauksessa se johtuu siitä, että tekoäly käyttää X:llä koulutettuja kehotteita, sosiaalisessa verkostossa, jossa valeuutiset ja väärät tiedot kulkevat vapaasti.
RTVE:n pyytämät asiantuntijat neuvovat, että jos haluamme käyttää tekoälyä väärän tiedon torjumiseen, meidän on käytettävä useampaa kuin yhtä tekoälymallia eikä rajoituttava Grokiin, joka on tarkoituksella tehty"suodattamattomia vastauksia" varten ja koulutettu "olemaan poliittisesti korrekti". Se on monissa yhteyksissä aiheuttanut kiistaa siitä, että se on kallistunut Muskin omien poliittisten näkemysten suuntaan, lietsonut salaliittoteorioita, kuten "valkoisten kansanmurhaa", ja käyttänyt "särmikästä" ja "nokkelaa" sävyä.