Europese Commissie wil verbod op AI voor toezicht

Dat meldt techsite The Verge in een bericht. Volgens een gelekt wetsvoorstel, dat eerst door Politico werd opgemerkt, zou er een verbod komen op enkele toepassingen. Zo wil de Europese Commissie het niet meer mogelijk maken om de technologie te gebruiken voor sociale kredietscores en toezicht op grote groepen mensen. Het lijkt alsof de Europese Unie zich hiermee duidelijk wil profileren ten opzichte van de Verenigde Staten en China.

EU vs AI

Het verbod zou enkel verschijnen voor toepassingen die een “hoog risico” inhouden. Het gebruik van AI voor andere toepassingen, zoals industrie en landbouw, blijft onaangeroerd. AI-toepassingen die zich richten op biometrische identificatiesystemen van op afstand, werving van banen, het toekennen van visa, kredietwaardigheid, of het toekennen van asiel zouden volgens het document onder ‘hoog risico’ horen. Ook willen ze systemen op basis van sociaal krediet, zoals ze in China reeds aanwezig zijn, hiermee voorkomen.

“Het gebruik van kunstmatige intelligentie met als doel het toezicht van willekeurige natuurlijke personen moet verboden worden als het op een algemene manier wordt toepast op alle personen zonder onderscheid”, zo stelt het document van de Europese Commissie.

Uitzonderingen

Er zou wel ruimte zijn voor uitzonderingen. Zo zouden landen deze wel kunnen inschakelen bij heel erge misdrijven. Mits beperkingen in tijd en ruimte zou gezichtsherkenning zo wel mogen worden toegepast.

De lidstaten zullen zelf organen moeten opstarten die de AI-systemen testen en, indien nodig, aanduiden als risicovol. Bedrijven die de wetgeving niet opvolgen, kunnen voor 20 miljoen euro of 4% van hun omzet beboet worden. Er wordt in het document ook geopperd om een Europese Raad voor Kunstmatige Intelligentie in het leven te roepen.

We moeten nog steeds melden dat het hier om een gelekt bericht gaat. Er is dus nog niets bevestigd, waardoor we het voorlopig nog even moeten afwachten. Indien het wetsvoorstel echt blijkt, dan zal het ook nog eerst door het Europees Parlement moeten worden goedgekeurd. De kans is groot dat er tijdens dat proces ook aanpassingen worden gemaakt. Er wordt wel verwacht dat er volgende week op 21 april een officiële aankondiging volgt. Dan zou het door Margrethe Vestager naar verluidt worden voorgelegd.