Amazon wil gezichtsherkenning aan banden leggen

Technologiegigant Amazon kwam vorig jaar onder vuur te liggen omdat het zijn controversiële gezichtsherkenningstechnologie had doorgegeven aan de Amerikaanse ordediensten. Daarnaast raakte ook bekend dat de cloud softwareversie van Amazon vooroordelen vertoont en discrimineert op basis van huidskleur.

De Amerikaanse Unie voor burgerrechten (ACLU) toonde aan dat de software leden van het Amerikaanse Congres verkeerdelijk linkte met een database van politiefoto’s. Saillant detail was dat een groot deel van de verkeerd gelinkte mensen een donkere huidskeur hadden.

Michael Punke, Amazon’s vicepresident voor globaal beleid, verdedigde vandaag de betrouwbaarheid van de technologie, maar waarschuwde er tegelijkertijd ook voor: “We ondersteunen de moties voor een gepaste nationale richtlijn die de individuele burgerrechten beschermt, maar er ook voor zorgt dat overheden transparant zijn bij het gebruik van gezichtsherkenningstechnologie.”

Daarnaast wil Amazon ook graag gestandaardiseerde tests zien voor de technologie, en stelt de technologiegigant voor dat gezichtsherkenning enkel gebruikt mag worden als het in 99 procent van de gevallen accuraat is.

Gezichtsherkenningstechnologie is een van de meer controversiële AI-technologieën. Tegenstanders waarschuwen voor het privacyrisico dat de technologie inhoudt, en Google liet eerder al weten dat het geen gezichtsherkenning zou gebruiken tot er beslist is over een gepast kader. Vooral thema’s als bevooroordeelde algoritmen en privacy zijn van belang.

Kom hier meer te weten over AI en gezichtsherkenning:

Eerder werd al aangetoond wat voor catastrofale gevolgen de technologie kan hebben. Zo raakte Microsoft in 2015 verwikkeld in een heus schandaal nadat bekend raakte dat hun gezichtsherkenningstechnologie personen met een donkere huidskleur labelde als gorilla’s.

In China begon het Ministerie van Openbare Veiligheid in 2015 met de missie om elke Chinese burger te kunnen herkennen door middel van gezichtsherkenningstechnologie, wat bezorgdheid omtrent individuele privacy oproept.