Australische overheid lekt duizenden persoonsgegevens via ChatGPT
Een onderaannemer heeft de gegevens zonder medeweten van de Australische overheid naar ChatGPT geüpload. Concreet ging het om een Excel-bestand met ruim 12.000 rijen en tien kolommen, met daarin namen, adressen, e-mailadressen, telefoonnummers, informatie over de gezondheid van mensen en andere persoonlijke gegevens van inwoners van de staat Nieuw-Zuid-Wales.
Tot 3.000 mensen getroffen
Analyse van het Excel-bestand wijst uit dat er van maximaal 3.000 mensen gegevens zijn gelekt. Binnen een week krijgen zij bericht over het datalek en welke gegevens van hen zijn gelekt. Bij de overheidsinstantie zijn bovendien nieuwe richtlijnen opgesteld over AI-gebruik die soortgelijke gevallen in de toekomst moeten voorkomen.
De genoemde persoonsgegevens zijn inmiddels al een tijdje in handen van OpenAI. De ex-onderaannemer, die werkte voor het Resilient Homes Program (RHP) om huizen bestendiger te maken tegen overstromingen, uploadde het Excel-bestand in maart naar ChatGPT. Waarom het bestand naar ChatGPT is geüpload, heeft de overheid niet bekendgemaakt, al ligt het voor de hand dat de onderaannemer de dataverwerking wilde versnellen.
Met prompt-engineering data terughalen
Dat het zo lang heeft geduurd voordat de Australische overheid met uitsluitsel kwam, heeft er volgens de instantie mee te maken dat het bestand nauwkeurig moest worden nagekeken. Zo wist men precies welke data zonder toestemming naar de AI-chatbot is geüpload. Vervolgens zijn getroffen burgers daarvan op de hoogte gesteld.
Dat de data naar ChatGPT is geüpload, betekent niet dat de gegevens ook onmiddellijk ‘op straat’ liggen. Voor dat kan gebeuren, zou de AI-gigant die data moeten gebruiken om zijn systemen te trainen. En zelfs dan zijn de gegevens niet direct toegankelijk. Het is wel mogelijk dat je in de toekomst, met de juiste prompts, een deel van de data kan terugvinden. Mocht deze informatie ooit op het darkweb terechtkomen, dan probeert de overheid van Nieuw-Zuid-Wales dat ook te achterhalen. Het darkweb wordt namelijk actief gemonitord op de gelekte gegevens.
Dit verhaal speelt zich nu af in Australië, maar het is net zo goed mogelijk dat een aannemer in België of Nederland per ongeluk gegevens uploadt naar ChatGPT. Strenge richtlijnen over AI-gebruik zijn daarom meer dan noodzakelijk.
