De goedkeuring van de AI Act is een eerste stap: de uitdagingen komen nog

Afgelopen woensdag gaf het Europees Parlement groen licht voor de AI Act, een maatregelenpakket dat artificiële intelligentie (AI) aan voorwaarden bindt. Het is de eerste keer dat AI op zo’n gedetailleerde en verregaande manier maatregelen opgelegd krijgt. De wetgeving is nog niet helemaal af, maar wordt na een aantal tekstcorrecties in mei gepresenteerd.  

Risico’s van AI minimaliseren 

Nadat de tekst gepresenteerd wordt zal het 6 maanden duren voordat toepassingen met hoog risico uitgefaseerd moeten zijn. Weer een half jaar later worden de regels voor AI-toepassingen met een algemeen doel – lees: generatieve AI-tools zoals ChatGPT – van kracht. Dat gaat gepaard met flink wat uitdagingen en vooral de vraag hoe de wetgeving gehandhaafd zal worden. Volgens Alois Reitbauer, Chief Technology Strategist bij Dynatrace, vormt die vraag een van de meest voorname uitdagingen voor de nieuwe wetgeving: “Het is onmogelijk voor organisaties om hieraan te voldoen als men het niet eerst eens is over wat een AI-model inhoudt. De EU zal er dus allereerst voor moeten zorgen dat dit duidelijk is gedefinieerd. Wordt de machine learning die gebruikt wordt in onze mobiele telefoons of slimme thermostaten bijvoorbeeld geclassificeerd als een AI-systeem?”, stelt hij zichzelf de vraag. 

Uit de tekst zoals die er nu ligt, blijkt voornamelijk dat Europa de risico’s van AI wil minimaliseren. Daardoor worden toepassingen die personen proberen te manipuleren, kwetsbare bevolkingsgroepen viseren en sociale scores kennen verboden: het risico van die toepassingen is simpelweg te hoog. “In feite kan je met AI om het even wat doen, maar we moeten ervoor zorgen dat het de waarden van onze samenleving weerspiegelt”, vat Trustworthy AI Specialist bij SAS Josefin Rosén de wetgeving samen. Daarbij stipt ze het belang van data aan: “Data is de basis van alles. Als de input van een AI-model van slechte kwaliteit is, dan zal de output hetzelfde zijn. We moeten de kwaliteit van onze data beoordelen en verzekeren dat de data inclusief en representatief is voor alle betrokken partijen. Daarnaast moeten we opvolgen waar de data vandaan komt en hoe informatie gebruikt wordt, zodat we begrijpen waarom AI bepaalde beslissingen neemt”. Daarvoor is voortdurende controle nodig, zodat gecontroleerd kan worden of AI-systemen het goed blijven doen.  

Lichtend voorbeeld of blok aan het been? 

De Europese AI Act mag dan eerder revolutionair zijn, toch wordt gevreesd dat de EU zich achteruit zal steken op vlak van AI. Alois Reitbauer pleit ervoor dat de EU “nieuwe controles in evenwicht brengt met investeringen die onderzoek aanmoedigen naar use cases voor AI die kunnen helpen bij het oplossen van ’s werelds meest urgente uitdagingen”. Dat Europa momenteel de enige regio is waar AI aan regels gebonden is, verhoogt die nood alleen maar. De gevolgen van de AI Act zullen echter tot ver buiten Europa voelbaar zijn. Kalliopi Spyridaki, Chief Privacy Strategist EMEA & Asia Pacific bij SAS, stipt aan dat ook niet-Europese spelers er alle belang bij hebben om zich aan de wetten te houden: “Betrouwbare AI zal in Europa niet alleen een wettelijke vereiste zijn, maar ook wereldwijd een strategische keuze vormen voor organisaties die concurrentieel en verantwoord willen blijven. AI-ontwikkelaars die technologieën bouwen in overeenstemming met de EU AI Act, zullen binnen de Europese Unie uiteindelijk zelfs een concurrentieel voordeel halen”. 

Dat is mogelijk niet de enige manier waarop de AI Act ook buiten Europa effect zal hebben. Spyridaki trekt een lijn tussen de AI Act en de GDPR: “Net zoals bij de GDPR kreeg de aanpak van de EU veel kritiek te slikken, uit vrees dat het innovatie zou afremmen. Intussen heeft elk land in de wereld echter een GDPR-achtige wetgeving. Nu neemt Europa opnieuw het voortouw met het eerste wetgevend kader dat specifiek op AI gericht is. Of dit hetzelfde domino-effect zal veroorzaken, valt nog af te wachten, maar het zal zeker een drijvende kracht zijn voor de markt”. Aliki Foinikopoulou, Senior Director EU Government Affairs & Public Policy bij Salesforce, hoopt op hetzelfde. Daar klinkt het dat het belangrijk is dat “meer jurisdicties doorgaan met het definiëren en implementeren van verantwoordelijke, veilige, op risico’s gebaseerde en wereldwijd toepasbare AI-beleidskaders die burgers en bedrijven beschermen, en tegelijkertijd innovatie aanmoedigen”. 

Bijsturing vereist 

Met de goedkeuring van de AI Act zette het Europees Parlement een historische stap die bepalend zal zijn voor hoe de brede samenleving naar AI kijkt en erover denkt. De technologie zelf roept nog heel wat vraagtekens op en evolueert continu. Zo moest Europa eind 2022 de wettekst bijsturen om ook chatsystemen zoals ChatGPT, die toen plots opdoken, in de verordening op te nemen. De huidige AI Act is dan ook slechts een eerste stap, en er zullen er nog veel volgen. Dat zal nodig zijn om een evenwicht te vinden tussen innovatie, individuele rechten van gebruikers en het waarborgen van het ethische karakter van AI wereldwijd.