Generatieve AI? Let op deze 6 valkuilen
Generatieve AI (GAI) kan impact hebben op elk aspect van ons leven. GAI systemen zijn gebaseerd op methoden die al lang bestaan, zoals deep learning en reinforcement learning. Digital twins, synthetische datageneratie en grote taalmodellen kunnen we ook als GAI beschouwen. Wel nieuw is dat tools zoals ChatGPT AI plots toegankelijker maken en je geen data scientist moet zijn om er voordeel uit te halen.
Toch mogen we niet vergeten dat technologie zonder de juiste controle ook misbruik in de hand kan werken. SAS levert al decennialang vernieuwende technologie en stelt zich de volgende ethische vragen: als we iets kunnen, betekent het dan ook dat we het zouden moeten doen? En tot op welk niveau? Voor je investeert in GAI, moet je voordelen en risico’s tegen elkaar afwegen.
Dit zijn zes zaken om rekening mee te houden:
1. Zet mensen altijd op de eerste plaats
Ook al zijn GAI-tools met de beste bedoelingen ontwikkeld, we moeten de menselijke impact constant opvolgen. Begrijpen alle betrokkenen hoe de tool de organizatie kan helpen? Strookt het gebruik met de ethische principes van het bedrijf? Wat is de impact op lange termijn?
2. Zorg voor transparantie
Transparantie is cruciaal voor ethisch gebruik. Communiceer daarom over de manier waarop het bedrijf een GAI-tool wil gebruiken, wat de risico’s zijn en hoe de tool beslissingen kan ondersteunen. Kunnen menselijke experts de output van GAI uitleggen? Wat zijn de risico’s van GAI-gegenereerde content? Moet je aangeven dat content door GAI geproduceerd is?
3. Wees je bewust van de beperkingen
De meeste tools komen met gebruiks-aanbevelingen om veiligheid en betrouwbaarheid te waarborgen. GAI staat nog in z’n kinderschoenen en veel systemen hebben daardoor beperkingen die de nauwkeurigheid van de resultaten beïnvloeden. Ga daarom na of een tool voldoende getraind is op data voor een specifieke case. Waar liggen de limieten en zijn er vangrails ingebouwd?
4. Hou rekening met privacy en security
Naarmate gebruikers GAI meer vertrouwen, riskeren ze onbedoeld gevoelige informatie openbaar te maken. Denk aan artsen die ChatGPT gebruiken voor aantekeningen over een patiënt. Of ontwikkelaars die via GitHub Copilot bedrijfseigen data met een model delen. Besef dat elke input in een systeem permanent is en niet privé zal blijven. Ga dus na welke informatie een algoritme niet mag verspreiden en hoe aanvallers er misbruik van kunnen maken.
5. Waak over bias en inclusiviteit
Net zoals mensen is GAI gevoelig voor vooroordelen. Als we die bias niet identificeren, kan dat gevolgen hebben voor kwetsbare gemeenschappen. Verantwoorde innovatie houdt rekening met verschillende perspectieven en ervaringen om de inclusiviteit van de technologie te garanderen.
6. Neem je verantwoordelijkheid
Organisaties die GAI gebruiken en ontwikkelen zijn verantwoordelijk voor het identificeren en beperken van negatieve effecten van beslissingen gebaseerd op AI-aanbevelingen. Ga daarom na hoe de resultaten worden opgevolgd. Is het mogelijk om feedback te geven? En op welk moment worden er mensen betrokken bij het nemen van de beslissing?
Voor een ethisch gebruik van GAI moeten we dus de balans zoeken tussen innovatie en het beschermen van de samenleving. Wie duurzaam innoveert, bewandelt het pad naar GAI daarom best met een gezonde mix van nieuwsgierigheid en gematigdheid.
