Redditin tekoäly-chatbot ehdottaa käyttäjille heroiinin kokeilua

Jos toivoit, että tekoälychatbotit voisivat korvata tohtori Googlen, Redditin uusin kokeilu osoittaa, että... ehkä ei vielä. Reddit Answers, alustan tekoälyavustaja, nousi hiljattain otsikoihin, kun se suositteli heroiinia kipulääkkeeksi.

Kuten 404Media uutisoi, outo neuvo tuli ilmi, kun terveydenhuollon työntekijä huomasi vastauksen moderaattoreille tarkoitetussa subredditissä. Eräässä vuorovaikutuksessa chatbot osoitti tähän viestiin: "Heroiini on ironisesti pelastanut henkeni näissä tapauksissa."

Toisessa kysymyksessä se jopa ehdotti kratomia, puu-uutetta, joka on laiton useissa osavaltioissa ja jonka FDA on merkinnyt "vakavien haittavaikutusten riskin vuoksi, mukaan lukien maksatoksisuus, kouristukset ja päihdehäiriöt".

Reddit Answers ei ole tavallinen tekoäly. Sen sijaan, että se tukeutuisi pelkästään kuratoituihin tietokantoihin, se hyödyntää Redditin valtavaa käyttäjien tuottamaa sisältöä. Se tekee siitä omituisen, joskus oivaltavan. Mutta se ei selvästikään ole aina turvallinen.

Reddit on alun perin ollut erillisellä välilehdellä, mutta nyt se on testannut vastauksia tavallisissa keskusteluissa, ja näin tämäkin episodi on jäänyt huomaamatta... tähän asti. Kun Redditin tekoäly-chatbot ehdottaa käyttäjille heroiinin kokeilua.

Raportin tultua julkisuuteen Reddit reagoi vähentämällä tekoälyn näkyvyyttä arkaluonteisten terveyteen liittyvien keskustelujen alla. Moderaattorit eivät itse voineet vaikuttaa neuvoihin, mikä korostaa sitä, kuinka kokeellinen työkalu on vielä.

Tämä ei tietenkään ole Redditin ensimmäinen tekoälyhäiriö. Myös muut botit, kuten Googlen AI Overviews ja ChatGPT, ovat antaneet kyseenalaisia terveysohjeita, kuten "vinkkejä", kuten myrkyttömän liiman käyttäminen pizzoissa, jotta juusto ei liukastuisi pois.

On selvää, että tekoälyt ovat viihdyttäviä, kun on kyse lääketieteellisistä neuvoista, mutta ihmisillä on edelleen yliote. Älä siis ehkä vielä kysy siltä lääketieteellisiä neuvoja.