Enorm datalek naar openbare AI door Gemeente Eindhoven
De gemeente had zelf een analyse gedaan naar de hoeveelheid data die zijn medewerkers naar Copilot of ChatGPT hadden gestuurd. Dat heeft het op 23 oktober gemeld bij de Autoriteit Persoonsgegevens, zo meldt het zelf. In een steekproef van 23 september tot 23 oktober zijn verschillende soorten bestanden met persoonlijke info over de inwoners en de medewerkers gevonden.
Hoe groot het datalek exact is, kan de gemeente Eindhoven zelf niet zeggen. De steekproef gaat maar over één maand, maar ook daarvoor hadden medewerkers de Copilot-chat of ChatGPT gebruikt om data met persoonlijke gegevens te verwerken. Uiteraard zou zoiets via beveiligde kanalen moeten gebeuren en niet via een publieke AI-toepassing. Nu zijn tal van gevoelige gegevens gelekt. De omvang moet gigantisch zijn, want de gemeente is door de hoeveelheid aan gegevens niet in staat om de getroffen mensen rechtstreeks te informeren.
De vraag is natuurlijk wat er met die info zal gebeuren. In het beste geval gebruikt ChatGPT dit voor AI-training. In het slechtste geval puzzelen mensen met slechte intenties al die gegevens bijeen en misbruiken ze die info. De gemeente acht die kans klein, maar ze is niet onbestaande. Eindhoven heeft een externe partij ingeschakeld om verdere stappen te zetten en de omvang van het lek beter in kaart te brengen.
Oplossingen gezocht
Het probleem kwam ook al aan bod in de gemeenteraad. Intussen heeft Eindhoven de toegang tot openbare AI-sites als ChatGPT geblokkeerd. Daardoor kunnen medewerkers nu enkel nog interne AI-tools gebruiken. Het heeft eveneens een (nogal naïeve) poging ondernomen om OpenAI te verzoeken de geüploade bestanden te verwijderen. Daarnaast houdt het het dataverkeer naar externe websites beter in het oog. Opleidingen en een gedragscode om met AI om te gaan zijn ook al geïnstalleerd.
De burgemeester duidt erop dat “het gebruik van AI mogelijkheden biedt om ons werk efficiënter te doen. Vanuit die optiek is het positief dat medewerkers kansen zien en met AI aan de slag gaan.” Dat de medewerkers al die gevoelige info hebben gelekt om de dienstverlening te verbeteren, zal niet iedereen even leuk vinden, kunnen we ons inbeelden.
Gevoelig datalek
De info zou onder meer jeugdproblematiek bevatten, maar ook mentale problemen. Er zouden enorm veel namen en zelfs foto’s tussen zitten. Mensen met financiële en andere problemen komen met naam en toenaam in de dossiers voor. Dat dit aanzet tot misbruik bij mensen met minder goede bedoelingen, behoeft geen tekeningetje. Dit schandaal geldt hopelijk als bewijs voor openbare diensten in België en Nederland dat ze voorzichtiger moeten omspringen met de gegevens die ze in handen hebben. Een dergelijk datalek kan namelijk overal voorkomen.
