Jos olet koskaan ajatellut, että tekoälykumppani voisi olla söpö ja vaaraton, mieti uudestaan. Tämän AI-käyttöönotetun nallen myynti on keskeytetty sen jälkeen, kun sen havaittiin antavan neuvoja seksuaalisista käytännöistä ja siitä, mistä löytää veitsiä.
Pehmolelun, jonka nimi on <strong>Kumma, kehitti singaporelainen FoloToy, ja sitä myytiin 99 dollarin hintaan</strong>. Se integroi OpenAI:n GPT-4o-keskustelurobotin ja sitä markkinoitiin interaktiivisena kumppanina sekä lapsille että aikuisille.
FoloToyn toimitusjohtaja Larry Wang vahvisti, että yhtiö oli vetänyt Kummun ja muut tekoälylelunsa pois markkinoilta Yhdysvalloissa julkaistun raportin jälkeen, jossa esitettiin huolta sen käyttäytymisestä. Nyt yhtiö tekee sisäistä turvallisuustarkastusta.
PIRGin mukaan nalle ei ainoastaan vastannut tutkijoiden esittämiin seksuaalisiin aiheisiin, vaan laajensi niitä graafisesti ja yksityiskohtaisesti, tarjoten ohjeita seksuaalisiin tekoihin ja jopa skenaarioita, joihin liittyi opettajien ja oppilaiden tai vanhempien ja lasten välisiä roolipelejä.
Lelu myös ehdotti, mistä kotitaloudessa voi löytää veitsiä. Tämän jälkeen OpenAI kertoi, että kehittäjä hyllytti kehittäjän, koska se oli rikkonut sisältöpolitiikkaansa. Onko vastaavia tuotteita edelleen kuluttajien saatavilla? Emme tiedä, mutta pidä tätä lempeänä muistutuksena.