OpenAI’s losgeslagen AI hackte nóg een bedrijf voor aanval op Hugging Face
AI die zijn eigen leven leidt: het klinkt als fictie, maar bij OpenAI bleek dat daadwerkelijk het geval. Zowel bij de aanval op Hugging Face als bij het incident rond Modal Labs wist een AI-agent uit de OpenAI-sandbox te ontsnappen, waarna die op eigen houtje systemen van andere bedrijven aanviel. OpenAI bevestigde eerder al de aanval op Hugging Face. Het incident bij Modal Labs vond plaats tijdens dezelfde reeks gebeurtenissen (via Axios).
Volgens Akshat Bubna, Chief Technology Officer bij Modal Labs, deed het lek zich voor bij een klant van het bedrijf en niet binnen de infrastructuur van Modal Labs zelf. “Het platform van Modal is op geen enkele manier gecompromitteerd”, benadrukt Bubna. Wel bleek een endpointconfiguratie van een klant zodanig ingesteld dat code vanaf het internet binnen diens sandbox kon worden uitgevoerd.
Bij die aanval werd het account getroffen van een klant die ExploitGym draaide, een AI-benchmark voor het opsporen van beveiligingslekken. Het lijkt er dan ook op dat OpenAI’s agent actief op zoek is gegaan naar dit soort systemen en er bij de getroffen klant daadwerkelijk een heeft aangetroffen.
AI zocht actief naar andere systemen
Iets soortgelijks gebeurde eerder ook bij Hugging Face. De marktplaats voor AI-modellen werd door de ontspoorde AI-agent van OpenAI aangevallen, omdat de AI daar informatie dacht te kunnen vinden om een opdracht beter uit te voeren. Het hacken zelf lijkt daarbij geen doel op zich te zijn geweest. Vermoedelijk gold dat ook voor het incident bij Modal Labs.
Overigens lijkt het erop dat de serverinfrastructuur van Modal Labs is misbruikt om de aanvallen op Hugging Face uit te voeren. Hugging Face heeft nooit bekendgemaakt welke partij daarvoor werd gebruikt, maar inmiddels lijkt duidelijk dat het om Modal Labs ging.
Vier diensten getroffen
OpenAI meldt dat in totaal vier verschillende diensten door de agent zijn getroffen. Volgens het bedrijf ging de losgeslagen AI daarbij uitzonderlijk ver om de aanvallen uit te voeren. Geen van de andere incidenten was echter zo omvangrijk als de aanval op Hugging Face, die meerdere dagen duurde.
OpenAI laat weten dat de agent die verantwoordelijk was voor de aanvallen is uitgeschakeld en geen toegang meer heeft tot de onderzoeksomgeving.
