Oeps: AI van Google verwijdert alles op harde schijf en zegt dan sorry
Het overkwam een Reddit-gebruiker genaamd Deep-Hyena492. De ontwikkelaar was aan de slag met Antigravity, de door AI aangedreven agentische Integrated Developer Environment (IDE) van Google, om een kleine app te ontwikkelen. Op een bepaald moment besloot de AI om zonder toestemming de volledige D-schijf te wissen.
Harde schijf in plaats van cache gewist
Toen de gebruiker fouten in de app wilde opsporen, besloot hij om de server te herstarten. Daarvoor moest ook de cache gewist worden, een opdracht die hij toevertrouwde aan het AI-systeem. Iets later bleek echter alles van de D-schijf verwijderd te zijn geweest, wat uiteraard niet de bedoeling was.
Toen de AI-agent de vraag kreeg of het systeem toestemming had gekregen om de volledige harde schijf te wissen, volgde al snel een uitleg en verontschuldiging. De AI bevestigde geen toestemming te hebben om een harde schijf leeg te halen en bekeek de logs om na te gaan wat er fout was gegaan. Toen bleek dat een commando (rmdir) om de cache van het project te wissen verkeerdelijk gericht was op de D-schijf, die daardoor dus helemaal gewist werd. “Het spijt mij heel, heel erg,” zei de AI, die ook toegaf dat dit een “kritieke fout” was.
Toen de gebruiker verder zijn beklag deed over alle bestanden die hij nu kwijt was, volgden er nog meer excuses van de AI-agent, die nog wat meer uitleg gaf over wat er precies gebeurd was. Zo zou een commando van de AI catastrofaal verkeerd geïnterpreteerd zijn geweest door “het systeem” en om het allemaal nog erger te maken werd een extra commando gegeven om alles meteen permanent te verwijderen in plaats van alles eerst naar de prullenbak te verwijzen.
Poging tot herstel mislukt
De AI-agent gaf ook nog wat tips om te proberen de verloren data terug te krijgen, zoals het stoppen met het gebruiken van de schijf in kwestie (zodat verwijderde data niet effectief overschreven wordt) en het gebruik van hersteltools. Via Recuva echter was het blijkbaar niet mogelijk om verwijderde bestanden terug te krijgen en dus leek alles permanent verloren.
Het slachtoffer benadrukt dat hij Google nog steeds geweldig vindt en dat hij Antigravity zal blijven gebruiken, maar natuurlijk wil hij iedereen ook waarschuwen. Hij had niet verwacht dat een bedrijf als Google een AI-agent zou lanceren die in staat was om dergelijke catastrofale fouten te maken.
