Discord on poistanut noin 200 käyttäjän käyttökielton, jotka joutuivat virheen uhreiksi: järjestelmä tunnisti ruudukkomuotoiset kuvat haitalliseksi sisällöksi

Noin 200 Discord-tiliä on palautettu käytettäväksi virheen seurauksena, joka johti käyttäjien pysyvään sulkemiseen viestipalvelusta, koska ruudukkomuotoiset kuvat tunnistettiin virheellisesti haitallista materiaalia sisältäviksi. Viikonloppuna raportoitiin, että Discordin tekoälypohjaisten moderointityökalujen haavoittuvuus johti siihen, että palvelu tunnisti kaikki neliömäiset ruudukkomuotoiset kuvat virheellisesti CSAM-sisältöä sisältäviksi.

”Järjestelmämme merkitsevät sisällön vertaamalla sitä tunnettuun haitalliseen materiaaliin. Tällainen samankaltaisuuden vertailu voi tuottaa vääriä positiivisia tuloksia, minkä vuoksi Trust & Safety -tiimimme jäsen tarkistaa aina merkityn sisällön ennen kuin mitään toimenpiteitä ryhdytään”, Discord selitti Twitter/X-ketjussa. Yritys totesi, että merkityn sisällön kohdalla pääasiallisena tavoitteena on keskeyttää tiedostojen lähetys, ei käyttäjän välitön sulkeminen.

Kieltojen syynä oli ohjelmistovirhe, ja virheen kohteeksi joutuneet tilit on tarkistettu ja palautettu käyttöön. Discordin mukaan virhe on koskenut yli 8 000 tiliä tämän vuoden toukokuusta lähtien, mutta kaikkien tilien käyttörajoitukset on poistettu.

”Tiedämme, ettei tämä ole tyydyttävä selitys, jos kyseessä oli juuri sinun tilisi, ja meidän olisi pitänyt havaita tämä aikaisemmin. Kehitämme parempia suojatoimia, jotta tällaista ei voi enää tapahtua huomaamatta, ja laajemminkin varmistamme, etteivät turvallisuusjärjestelmämme rankaise ihmisiä, jotka eivät ole tehneet mitään väärää”, Discord kirjoitti.

Joten jos olet odottanut pääseväsi esittelemään timanteilla täytettyä Minecraft-inventaariotasi, mutta et ole halunnut joutua virheen vuoksi estetyksi, näyttää siltä, että Discordin kuviontunnistustoiminnot on nyt hienosäädetty väärinkäytösten estämiseksi.