Malesiasta ja Indonesiasta on tullut ensimmäiset maat, jotka ovat estäneet Elon Muskin xAI-yhtiön rakentaman tekoäly-chatbotin Grokin käytön sen jälkeen, kun viranomaiset sanoivat, että sitä käytettiin seksualisoitujen kuvien tuottamiseen.
Molempien maiden sääntelyviranomaisten mukaan Grokin suojatoimet eivät onnistuneet estämään manipuloidun pornografisen sisällön luomista ja leviämistä, mukaan lukien kuvia, joissa on mukana naisia ja alaikäisiä. Indonesia ja sen jälkeen Malesia ryhtyivät viikonloppuna toimenpiteisiin ensimmäisenä, koska yksityisyys, ihmisarvo ja yleinen turvallisuus ovat vaarassa, kun todellisia kuvia muutetaan ilman suostumusta.
Indonesian viestintäministeri Meutya Hafid kutsui suostumuksettomia seksuaalisia deepfakeja vakavaksi ihmisoikeusloukkaukseksi ja varoitti, että tekoälyn väärinkäyttö on ylittämässä nykyiset suojatoimet. Virkamiesten mukaan ensimmäiset tarkistukset osoittivat, että Grokia voidaan helposti käyttää tavallisten kansalaisten yksiselitteisten kuvien valmistamiseen.
Malesian viestintäviranomainen viittasi chatbotin toistuvaan väärinkäyttöön ja sanoi, että se on jo antanut X Corp:lle ja xAI:lle huomautuksia, joissa vaaditaan tiukempaa valvontaa. Se sanoi, että pääsy pysyy estettynä, kunnes tehokkaat turvatoimet on otettu käyttöön väärinkäytösten estämiseksi.
Kaakkois-Aasian toimet lisäävät kasvavaa painetta muualla. Britannia on aloittanut tutkimuksen Grokista ja aikoo kieltää niin sanotut "alastomuussovellukset", ja myös Euroopan ja Intian sääntelyviranomaiset tarkkailevat tarkasti Muskin chatbotista on tullut maailmanlaajuinen testitapaus siitä, kuinka pitkälle hallitukset menevät tekoälyn tuottaman sisällön valvomiseksi.
