Europese AI Act neemt laatste horde in wetgevingstraject
Met een grote meerderheid stemden Europarlementariërs medio maart in met de AI-verordening. Die kan nu definitief worden omgezet in wetgeving, nu ook de Europese Raad heeft ingestemd. In de Raad zetelen alle Europese regeringsleiders en gekozen staatshoofden. Hoewel de wet nu groen licht krijgt, betekent dit niet dat de wet meteen in werking treedt. Eerst moet het wetsvoorstel in het Europese Staatsblad worden gepubliceerd. Twintig dagen daarna treedt een termijn van twee jaar in werking waarna de AI-verordening definitief op Europees niveau wordt gehandhaafd.
Beperkingen voor gezichtsherkenning
In de Europese AI-verordening ligt sterk de nadruk op gezichtsherkenning. Concreet gaat het om regels die bedrijven beperken in het gebruik van AI voor gezichtsherkenning. Zo is het bedrijven onder de AI-verordening verboden gezichtsherkenningsdatabases te ontwikkelen op basis van data van openbare platformen of beveiligingscamera’s. Ook verbiedt de AI-wetgeving emotieherkenning op scholen en de werkvloer. AI-diensten mogen verder geen sociale scores geven, voorspellend politiewerk doen of menselijk gedrag manipuleren.
Er worden wel uitzonderingen voorzien voor politiediensten. Echter, ook voor hen geldt dat het gebruik van biometrische identificatiesystemen is gebonden aan strenge regels. Die systemen mogen ze enkel uit de kast halen in uitputtend opgesomde en nauwkeurig omschreven situaties, schreef het EP eerder. Voor real-time gezichtsherkenning hebben handhavingsinstanties verder steeds gerechtelijke of administratieve toestemming nodig.
Risicobeperkingen voor AI
De AI-verordening voorziet ook in kaders voor risicovolle AI-diensten, die schade kunnen aanrichten aan “de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie en de rechtsstaat.” Daarvoor geldt dat bedrijven de risico’s van AI moeten in kaart brengen en vastleggen. Ook moet er een logboek worden aangelegd, en moeten de systemen ‘transparant en accuraat’ zijn.
De mate van beperkende maatregelen, heeft steeds te maken met de AI-risicoklasse. Voor AI-systemen met een hoog risico, gelden strenge maatregelen. Omgekeerd hoeven AI-applicaties met een beperkt risico slechts beperkte inzage te geven in de werking van hun systemen.
