Goede of slechte AI? In 4 stappen naar een betrouwbaar algoritme
Door: Joline Jammaers (Analytical Consultant) & Kaat Tastenhoye (Customer Advisor & Data Scientist), SAS.
Toen Amazon enkele jaren geleden een rekruteringstool op basis van AI ontwikkelde, hoopte het bedrijf dat de technologie zou helpen bij het selecteren van de meest interessante profielen. Wat het niet had voorzien, is dat de tool vrouwelijke kandidaten bij voorbaat zou uitsluiten. Een paar jaar later nam de regering van de Nederlandse premier Mark Rutte ontslag toen bleek dat een algoritme 26.000 gezinnen onterecht van fraude had beschuldigd. En recent nog kregen enkele Amerikaanse advocaten een boete, nadat ze in de rechtszaal informatie hadden gebruikt die verzonnen was door Chat GPT.
Goede versus slechte AI
Zeker in het voorbije jaar is het aantal incidenten met AI razendsnel toegenomen. De grens tussen goed en kwaad kan bij het gebruik van een algoritme flinterdun zijn. AI heeft het potentieel om ons leven op tal van manieren te verbeteren, maar we moeten op elk moment alert blijven voor discriminatie en misbruik. Niemand kan er bijvoorbeeld iets op tegen hebben dat een AI-tool op de luchthaven terroristen zou identificeren voor ze op een vliegtuig stappen. Maar je wil natuurlijk niet dat dezelfde tool ook onschuldige passagiers op basis van hun huidskleur zou tegenhouden.
Of stel dat een bank AI gebruikt om kredietscores te berekenen en zo voorkomt dat je een lening zou afsluiten die je onmogelijk kunt afbetalen. Terwijl zo’n tool heel wat mensen zal helpen om de juiste lening te vinden, mag je als single vrouw bij het berekenen van die scores uiteraard niet automatisch uit de boot vallen. Nog een laatste voorbeeld: wie regelmatig naar Netflix kijkt, weet dat het algoritme van de streamingdienst programma’s voorstelt op basis van je kijkgeschiedenis. Handig, maar wat je natuurlijk niet wil, is dat de kinderen hierdoor ongepaste inhoud te zien zouden krijgen.
AI doet veel dingen goed, maar we moeten ons bewust zijn dat een algoritme evenzeer tot negatieve resultaten kan leiden. Daarom is het zo belangrijk dat we over de hele levenscyclus van AI aandacht besteden aan de betrouwbaarheid van de technologie.
Betrouwbare en ethisch correcte AI
Betrouwbare AI draait om de ontwikkeling van AI-systemen die transparant, eerlijk, verantwoord en ethisch zijn – met focus op het vertrouwen van de gebruiker en het beperken van risico’s en bias. Eigenlijk zouden we bij de start van een project met AI altijd twee vragen moeten stellen. Kunnen we het doen? En zo ja, moeten we het dan ook doen? Bijvoorbeeld: kunnen we een model ontwikkelen dat over enkele jaren accuraat kan voorspellen wanneer we gaan sterven? Mogelijk wel. Maar wat is de toegevoegde waarde voor jezelf en voor de maatschappij? Je kunt het vergelijken met de tv-serie Black Mirror die de schaduwzijde van technologie laat zien. Zover mogen we het niet laten komen.
De Europese Unie heeft een voortrekkersrol genomen in het uitwerken van een ethisch kader voor de ontwikkeling van betrouwbare AI. Samen met 350 stakeholders werd de “Assessment List for Trustworty Artificial Intelligence” (ALTAI) op punt gesteld. Deze tool vertaalt AI-principes naar een toegankelijke en dynamische checklist die ontwikkelaars helpt om de betrouwbaarheid van hun model te evalueren op basis van 7 vereisten.
De vier pijlers van een betrouwbaar model
In de checklist van de EU vinden we vier belangrijke aspecten terug die we de pijlers van een betrouwbaar AI-systeem mogen noemen: privacy, bias, explainability en governance. De juiste technologie zorgt ervoor dat ontwikkelaars al tijdens het bouwen van een AI-oplossing worden aangespoord om rekening te houden met elk van deze pijlers. In het kader van privacy is data masking bijvoorbeeld een techniek die gevoelige data verbergt of garandeert dat een persoon niet identificeerbaar is op basis van de informatie.
Daarnaast is bias een obstakel waar we doorheen de volledige levensloop van een model over moeten waken. Bias kan bijvoorbeeld optreden in de data en zo bepaalde doelgroepen discrimineren. Denk aan het eerder genoemde rekruteringsmodel van Amazon dat geen enkele vrouw weerhield voor een job bij de technologiereus. De oorzaak hiervoor lag bij de data waarop het model getraind is. Zo bleek dat historisch gezien bijna uitsluitend mannen waren aangeworven voor vergelijkbare jobs. Niet enkel in data, maar ook in je modellen en in beslissingen kan bias sluipen. De juiste technologie biedt technieken om die bias tijdig op te sporen en zo veel mogelijk te vermijden.
De derde pijler is ‘explainability’, ofwel de mogelijkheid om te interpreteren hoe een AI-systeem tot een bepaald resultaat is gekomen. Als een bank op basis van een berekening door AI bijvoorbeeld beslist om een aanvraag tot een lening te weigeren, dan moet de klant hier ook een verklaring voor kunnen krijgen. En tot slot moeten we de betrouwbaarheid van een AI-model doorheen de volledige cyclus blijven volgen (governance). Een model kan vandaag immers ethisch verantwoord zijn of geen bias vertonen, maar je weet nooit zeker of dat over enkele maanden nog steeds het geval zal zijn.
Naarmate we steeds vaker gebruik maken van AI, zal vermoedelijk ook het aantal incidenten toenemen. Het is de taak van ontwikkelaars en bedrijven om te waken over de betrouwbaarheid van modellen en het vertrouwen van de gebruiker te winnen. Wacht daarom niet tot het fout gaat, maar hou al vanaf de ontwikkelingsfase van een systeem rekening met de pijlers van betrouwbare AI. En gebruik bij voorkeur technologie die je stimuleert om over deze aspecten na te denken. AI biedt ontelbaar veel voordelen voor bedrijven en voor ons privéleven. Laten we daarom inzetten op de veiligheid en betrouwbaarheid van deze technologie, zodat we de mogelijkheden optimaal kunnen omarmen.
Dit artikel is geschreven door Joline Jammaers (Analytical Consultant) & Kaat Tastenhoye (Customer Advisor & Data Scientist) van SAS. Onze redactie is niet verantwoordelijk voor de inhoud.
