Eerste ransomware ontdekt die aangedreven wordt door AI
Het is beveiligingsfirma ESET die de ontdekking deed. De malware in kwestie gaat door het leven als PromptLock en gebruikt gpt-oss:20b, een model van OpenAI, om tijdens een aanval op maat gemaakte scripts te schrijven. Daarmee is PromptLock de eerste bekende ransomware die een LLM inzet als onderdeel van de aanvalsketen.
AI maakt ransomware minder voorspelbaar
Doorgaans volgt klassieke ransomware een vaste blauwdruk, waarbij een systeem wordt binnengedrongen, bestanden doorzocht en versleuteld worden, en een melding gedropt wordt om losgeld te eisen. PrompLock overgiet deze blauwdruk echter met een AI-saus die alles een stuk complexer maakt.
Zo kunnen scripts gegenereerd worden op basis van wat initieel op een geïnfecteerd systeem gevonden wordt. Daardoor kan de aanval veel gerichter en efficiënter doorgaan. Per aanval kan de werkwijze ook verschillen, wat het ook moeilijker maakt om zo’n aanval af te slaan. AI maakt malware immers minder voorspelbaar en het is net die voorspelbaarheid in de vorm van vaste patronen die een belangrijk deel van de verdediging uitmaken.
Voorts wordt AI hier ook gebruikt om na een succesvolle aanval veel persoonlijker contact te leggen met slachtoffers. Het AI-model gaat na wat voor systeem er precies gecompromitteerd is en welke bestanden geraakt zijn. In plaats van een standaardmelding te geven waarin om losgeld gevraagd wordt, kunnen specifieke details vermeld worden om slachtoffers duidelijk te maken dat de aanvallers weten wat ze in handen hebben, wat de dreiging eens zo reëel doet aanvoelen.
AI-model op externe server van aanvallers
Een opvallend detail is dat slachtoffers samen met de malware niet ook het hele AI-model, dat al snel tientallen gigabytes in beslag kan nemen, binnenhalen. Het AI-model wordt dus niet lokaal op het geïnfecteerde systeem gedraaid. In plaats daarvan wordt er een proxy of tunnel opgezet naar een externe server van de aanvallers waar het AI-model op draait.
Dit is tegenwoordig mogelijk omdat OpenAI recent zogenaamde open-weight modellen heeft gelanceerd, specifiek bedoeld om door gebruikers lokaal op eigen infrastructuur gedraaid te kunnen worden. Dat heeft duidelijke voordelen voor wie uitgebreid met AI aan de slag wil gaan, vaak ook in een bredere bedrijfscontext, maar het nadeel is dat ook cybercriminelen zo dus extra hulpmiddelen in handen krijgen.
Evolutie van malware
De ontdekking van ESET toont aan dat inmiddels de stap gezet is van AI die zelf malware schrijft naar malware die zelf AI gebruikt. Dat is een belangrijke evolutie, die ook meer en meer zal gaan opduiken als het om cyberveiligheid gaat. Enerzijds kan AI ingezet worden om dreigingen te detecteren, anderzijds kan AI ook misbruikt worden om ernstige dreigingen te creëren.
Het goede nieuws is, voorlopig, dat PromptLock slechts een proefconcept lijkt te zijn dat nog niet breed verspreid is geweest. Sommige functies die typisch zijn voor ransomware zouden in PromptLock ook nog niet actief zijn. Desondanks is het uitkijken geblazen, omdat PromptLock aantoont dat AI wel degelijk ingeschakeld kan worden om ransomware specifiek en malware in het algemeen een stuk complexer kan maken om te bestrijden. Cyberbeveiliging van de toekomst zal daar dan ook specifiek op afgestemd moeten worden.
