OpenAI: Chinese overheid gebruikt ChatGPT voor surveillanceplannen
Volgens het bedrijf vroegen gebruikers het AI-model onder meer om plannen te helpen opstellen voor het volgen van Oeigoeren en andere ‘hoog-risicogroepen’, en om promotiemateriaal te maken voor software die sociale media scant op politieke of religieuze inhoud. Beide accounts werden door OpenAI geblokkeerd.
Het rapport beschrijft hoe dergelijke verzoeken zouden passen binnen de bredere strategie van de Chinese overheid om AI te integreren in bestaande controlemechanismen. China gebruikt al jaren geavanceerde camera- en gezichtsherkenningstechnologie, maar zou volgens OpenAI nu AI willen inzetten om die systemen slimmer en efficiënter te maken, bijvoorbeeld om reisbewegingen te analyseren of afwijkend gedrag te detecteren. De Chinese overheid ontkent de beschuldigingen en stelt dat haar AI-beleid gericht is op “veiligheid, innovatie en inclusiviteit”.
Het rapport waarschuwt dat AI steeds vaker wordt ingezet om toezicht en onderdrukking slimmer en efficiënter te maken. Tegelijk roept het vragen op over OpenAI’s eigen toezicht, aangezien het bedrijf die chats enkel kon ontdekken door gebruikersactiviteit te monitoren. Dit is iets wat volgens de gebruiksvoorwaarden ook mag, maar voor velen aanvoelt als indringend.
OpenAI en het Amerikaanse leger
Het bericht van OpenAI voelt een beetje hypocriet aan. Toen CNN vroeg of OpenAI weet had van Amerikaanse militaire of inlichtingendiensten die ChatGPT gebruiken voor hackoperaties, gaf het bedrijf geen direct antwoord. Het verwees enkel naar zijn beleid om AI “in te zetten ter ondersteuning van democratische waarden”.
Toch blijkt uit documenten van het US Cyber Command dat het Amerikaanse leger actief onderzoekt hoe AI kan worden gebruikt voor zowel defensieve als offensieve cyberoperaties, waaronder het opsporen van kwetsbaarheden in buitenlandse software. In juni 2025 kreeg OpenAI bovendien een contract van 200 miljoen dollar van het Amerikaanse ministerie van Defensie om “generatieve AI in te zetten voor nationale veiligheidstaken.”
