Check Point: ChatGPT kan ook malware namaken
Onderzoekers van Check Point Research vonden hiervoor signalen op hackforums. ChatGPT kan in de nabije toekomst (startende) cybercriminelen faciliteren door verschillende vormen van malware na te maken. Op een populair hackforum werd al een thread gevonden, genaamd ‘ChatGPT – Benefits of Malware’. In dat bericht schrijft een gebruiker over zijn experimenten om malware na te maken in AI-tool ChatGPT.
Gevaren van ChatGPT
Het gaat om malwarefamilies en -technieken die door onderzoekspublicaties worden uitgelicht. Juist omdat ze eerder zijn uitgelicht in rapporten kan ChatGPT soortgelijke apps namaken. Criminelen met minder technische bekwaamheid krijgen in dit bericht dus te zien hoe ze malware kunnen maken die ze direct kunnen inzetten. Hoewel het principe van zulke malware dus blootligt en malwarescanners de malware waarschijnlijk kunnen blokkeren, is dit nog slechts het begin.
Dat zien we ook in een tweede voorbeeld dat de beveiligingsonderzoekers geven. Op het forum laat gebruiker USDoD namelijk weten een meerlaagse versleutelingstool te hebben gemaakt en ‘daar een beetje hulp van ChatGPT/OpenAI’ voor te hebben gebruikt. Het wijst er dus op dat ChatGPT ingezet kan worden om een volledig malwarebestand te maken, maar ook als ontwikkelhulp voor bestaande projecten van kwaadwillenden dient. Criminelen met beperkte codeerkennis krijgen zo de nodige hulp om hun projecten af te ronden. Net een moderne vorm van Stackoverflow.
Hoewel een versleutelingsprotocol in de basis niet schadelijk is, kan het wel worden ingezet bij ransomware om computers van op afstand te versleutelen. Hoe sterk de versleuteling is van de code die ChatGPT schrijft, is niet bekend. De kwaadwillende schrijft dat de versleuteling gebaseerd is op de Blowfish- en Twofish-sleutels en het RSA-protocol.
Opstapje naar zwaardere tools
Duidelijk is wel dat de geschreven code niet bijzonder complex is. Toch kan dit een opstapje vormen naar een toekomst waarin ChatGPT een belangrijke rol speelt voor cybercriminelen. “Hoewel de tools die we nu zien vrij eenvoudig zijn, is het slechts een kwestie van tijd voordat meer geavanceerde bedreigingsactoren de manier verbeteren waarop ze op AI-gebaseerde tools gebruiken”, schrijven de onderzoekers van CPR.
Daarnaast is het aan OpenAI, overheden en de samenleving om te bepalen of we de risico’s die ChatGPT oplevert vinden opwegen tegen de voordelen. De tool kan immers ook helpen bij het creëren van goedaardige code en daarmee ontwikkelprocessen versnellen of ontwikkelaars uit de brand helpen als ze vastzitten met een probleem.
