Eén klik kon Copilot gevoelige info laten lekken vanuit je bedrijf
Microsoft Copilot is opnieuw in opspraak gekomen na de ontdekking van een ernstige beveiligingsfout die gevoelige bedrijfsdata kon lekken. Daar was blijkbaar slechts één klik voor nodig. Cybersecurity-experts waarschuwen dat de kwetsbaarheid onder de naam SearchLeak aantoont hoe populair AI-toepassingen zijn bij hackers (via Mashable).
Volgens onderzoekers van Varonis Threat Labs kon een aanvaller Copilot misbruiken om gevoelige informatie los te weken bij bedrijven en organisaties. Het gaat onder meer om e-mails, agenda-afspraken, documenten en zelfs twee-factor-authenticatiecodes. Doordat het ging om een misbruik van de Enterprise-tak van Microsoft, kon het zelfs gaan om OneDrive-bestanden, SharePoint-documenten of andere bedrijfsdata. Dat hing af van hoe M365 binnen de organisatie was verweven.
Enorm simpel
Als je de verschillende stappen van de aanval opsomt, valt op hoe simpel het allemaal is. De aanvaller moest enkel een schijnbaar normale Microsoft-link sturen naar zijn slachtoffer. Klikte die laatste erop, dan deed Copilot de rest. Dat gebeurde volledig automatisch en zonder verdere interactie van de gebruiker. Omdat de link afkomstig leek van een vertrouwd Microsoft-domein, hielden de phishingfilters of beveiligingstools de aanval niet tegen.
De instructie voor de aanval (bv. ‘haal e-mailtitels op en verwerk ze in een link voor een afbeelding’) zat verborgen in de URL. Copilot deed gewoon wat gevraagd werd. Normaliter moet er dan al een beveiliging in werking treden. Als de AI-assistent HTML aanmaakt, zet het die code in een kader, zodat de browser dat herkent als tekst en niet als code. Er is echter één probleem: dat gebeurt pas als Copilot klaar is met ‘nadenken’. Terwijl de assistent werkt aan zijn antwoord, staat die HTML-code daar gewoon vrij in.
Om de gewenste data binnen te krijgen, liet de aanvaller de afbeeldingslink via zijn eigen domein lopen. Daarvoor maakt de aanval gebruik van de Zoek met afbeelding-functie van Bing als proxyserver, dus als ’tussenpersoon’. Dat is Microsofts eigen zoekmachine en was dus ook niet problematisch voor Copilot. Daarna kon de aanvaller gewoon zijn serverlogs bekijken om alle nodige info te verzamelen.
Doordat de AI-toepassing werkt met gebruikersrechten, heeft het toegang tot e-mails, bestanden, Teams-gesprekken en andere bedrijfsgegevens. Dat maakt Copilot zo kwetsbaar en vervolgens interessant voor hackers. SearchLeak is niet de eerste kwetsbaarheid die misbruikt wordt.
Intussen heeft Microsoft de kwetsbaarheid gepatcht via een server-side update. Als gebruiker of bedrijf moet je dus zelf geen actie ondernemen. Volgens de onderzoekers zijn er bovendien geen aanwijzingen dat de kwetsbaarheid al effectief benut was in een aanval.
