Financial Timesin mukaan on pidetty kiireellinen kokous , sillä Amazon, joka irtisanoi viime vuonna 30 000 ihmistä, joutuu nyt pohtimaan, mitä seurauksia tekoälyn käyttämisestä monimutkaiseen koodaukseen on. Sanomalehdelle lähetettiin sisäinen muistio, joka paljastaa, että kaikki ei ole hyvin, sekä sähköpostimateriaalia, jossa Dave Treadwell, vanhempi varatoimitusjohtaja on joko muistion tai yhden sähköpostiviestin kirjoittaja, ja jossa pyydetään, että vanhempien insinöörien on nyt katsottava ja hyväksyttävä kaikki tekoälyn avulla tehdyt koodimuutokset.
Amazon piti kokouksen tutkiakseen, miksi heidän järjestelmissään on ollut kaatumisia tai "katkoksia", kuten sitä kutsutaan, ja vanhempia insinöörejä pyydettiin selvittämään, miksi. Generatiivinen tekoäly ottaa osan syyllisyydestä, ja suorassa sähköpostiviestissä henkilöstölle yhtiö myöntää suoraan ongelmat "sivuston ja siihen liittyvän infrastruktuurin saatavuudessa". Tähän liittyi muun muassa yli 10 000 asiakasta, jotka eivät pystyneet tekemään kassamaksuja sivustolta, sovellus ei toiminut ja suorastaan kaatui, ja Amazon Web Services on väitetysti jäljittänyt oman 13 tunnin kaatumisen tekoälykoodauksen käyttöön, eikä se ollut ainoa. Financial Timesin mukaan tämä johtui itse asiassa tekoälystä, nimittäin Amazonin omasta Kiro-koodausrobotista. Amazon antoi lausunnon, jossa se kiisti tämän täysin ja syytti sen sijaan pelkkää inhimillistä virhettä.
Alan analyytikot ovat huomauttaneet, että ongelmia syntyy, kun tekoäly ei ole enää vain apuväline, vaan se tekee aktiivisesti muutoksia, jotka maksavat Amazonin kaltaisille yrityksille paljon hyvin todellista rahaa tai käyttävät paljon ihmisten työaikaa, kuten tekoälyjärjestelmä Claude, joka on useaan otteeseen, osa aivan hiljattain, tuhonnut kokonaisia tietokantoja sekunnin murto-osassa miettimättä seurauksia.