Europees Parlement verbiedt AI voor real-time gezichtsscans
Gisteren stemde het Europees Parlement voor de Artificial Intelligence Act, beter gekend als de AI Act. De wetgeving moet duidelijke regels naar voren schuiven voor het gebruik van AI-systemen in Europa. Hoewel we al een beeld kunnen vormen van de beperkingen die in de wet ingebouwd zullen zitten, is de wetgeving nog niet rond. Later dit jaar zou de finale wet echter gestemd kunnen worden.
De Europese Commissie deed in april 2021 een eerste wetsvoorstel met betrekking tot AI – nog voor de opkomst van generatieve modellen als GPT. Inmiddels wordt generatieve AI meegenomen in de bepalingen van de wet. Zo zullen AI-bedrijven zoals OpenAI transparanter moeten zijn op meerdere vlakken. Content die door AI gegenereerd werd hoort daar een vermelding van te krijgen. AI-bedrijven krijgen bovendien ook de verantwoordelijkheid om ervoor te zorgen dat modellen niets illegaals kunnen zeggen.
AI-bedrijven zullen bovendien ook moeten aangeven waar hun product de mosterd precies haalt. Werd een model getraind aan de hand van auteursrechtelijk beschermd materiaal? Dan is het verplicht om een samenvatting te publiceren van dat materiaal.
Niet-generatieve AI
Ook niet-generatieve AI-systemen vallen onder de AI Act. Denk daarbij vooral aan machine learning en AI-systemen die mensen in categorieën verdelen op basis van sociale klasse. Zulke systemen worden met de AI Act volledig verboden. Een AI-systeem gebruiken voor gezichtsherkenning? Ook dat mag niet meer in de publieke ruimte: enkel in overheidsgebouwen kan het nog. Biometrische systemen, zoals gezichtsscans, worden over de hele lijn verboden. Het parlement bekeek enkele uitzonderingen waarbij gezichtsscans mochten ingezet worden voor het opsporen van terroristen en vermiste kinderen. Die voorstellen raakten echter niet voorbij het Europees Parlement. Wat wel mogelijk blijft is het toepassen van biometrische identificatie after the fact. Dat mag enkel bij zware misdrijven en na goedkeuring door de rechtbank.
Eind dit jaar zou de Europese Commissie, na beraad met de lidstaten, met een definitieve wet moeten komen. Momenteel wordt er dus nog aan het stuk wetgeving gesleuteld. In 2026 zou de wetgeving in werking treden.
