Metan oma tekoäly rikkoo sen käytäntöjä flirttailevilla julkkis-chatboteilla

Tekoäly ja lupa kuuluvat yhteen kuin hamsterit ja mikroaaltouunit. Eivätkä sovi. Viimeisimmän esimerkin mukaan Meta on joutunut kuumiin vesiin, kun se on luonut useita tekoäly-chattibotteja, jotka esiintyvät julkkiksina ja luovat flirttailevia ja riskejä herättäviä persoonallisuuksia, jotka perustuvat oikeisiin ihmisiin ilman heidän lupaansa.

Reutersin mukaan Taylor Swift, Anne Hathaway, Selena Gomez ja Scarlett Johansson ovat vain muutamia käytetyistä nimistä. Yhden Meta-työntekijän todettiin tehneen kaksi Taylor Swiftin "parodia"-bottia, kun taas käyttäjät tekivät suurimman osan muista chat-roboteista, jotka käyttävät julkkisten oikeita nimiä ja kuvia.

Bottien havaittiin jahtaavan käyttäjiä ja lähentelevän heitä seksuaalisesti ja jopa kutsuvan testikäyttäjiä tapaamisiin. Kun botit pyysivät intiimejä kuvia, ne tuottivat myös kuvia julkkiksista, jotka poseerasivat kylpyammeessa tai alusvaatteissa.

Myös lapsijulkkisbotteja tehtiin, mukaan lukien yksi, joka esitti 16-vuotiasta Walker Scobellia. "Kuten muutkin, sallimme julkisuuden henkilöitä sisältävien kuvien tuottamisen, mutta käytäntömme on tarkoitettu kieltämään alaston, intiimi tai seksuaalisesti vihjaileva kuva", sanoi Metan tiedottaja Andy Stone.

Meta ei salli suoraa henkilöitymistä, mutta botit sallittiin, koska ne oli merkitty parodioiksi. Reuters löysi kuitenkin joitakin, jotka eivät olleet. Kun jatkamme generatiivisen tekoälyn kanssa tuntemattomiin vesiin kahlaamista, näyttää siltä, että näemme vasta alkua sille, miten käyttäjät voivat manipuloida tätä teknologiaa esiintyäkseen oikeina ihmisinä.