Twitter gaat ‘racistische en discriminerende’ algoritmes onderzoeken
Het socialemediaplatform heeft op zijn blog een nieuw plan aangekondigd om de neutraliteit van zijn algoritmes te onderzoeken. Het gaat voor alle duidelijkheid om onbedoelde schade die de automatische systemen kunnen veroorzaken. “We voeren een diepgaande analyse om het bestaan van mogelijk schadelijk algoritmes op te sporen”, zegt Twitter.
Onbedoeld racisme?
Zo is er het algoritme dat verantwoordelijk is voor het bijsnijden van afbeeldingen. Dat krijgt de kritiek bevooroordeeld te zijn tegenover mensen met een lichtere huidskleur. Daarnaast gaat Twitter zijn aangeraden content evalueren, met onder meer “een eerlijke beoordeling van de aanbevolen content in de Home-tijdlijn voor uiteenlopende bevolkingsgroepen” en “een analyse van de naar boven gehaalde berichten voor verschillende politieke ideologieën, verspreid over zeven landen”.
Het is niet duidelijk wat het resultaat gaat zijn van zo’n onderzoek en of het veel impact gaat hebben op de gebruikservaring binnen het platform. Twitter geeft wel aan dat het bereid is, afhankelijk van zijn bevindingen, om een aantal aspecten te veranderen. Daarnaast zegt het bedrijf ook “simpelweg belangrijke discussies te willen blijven houden over de manier waarop we machine learning bouwen”.
Meer controle
Twitter-CEO Jack Dorsey zei eerder al voorstander te zijn van een soort marktplaats voor algoritmes. Daarbij zouden gebruikers zelf kunnen bepalen welke algoritmes ze willen gebruiken. In zijn mededeling zegt het bedrijf dan ook “zulke ideeën te beginnen verkennen”.
De morele discussie vindt plaats in tijden waarbij ook andere sociale media, zoals Facebook en YouTube, door beleidsmakers onder druk gezet worden voor meer transparantie. Die trend kreeg een extra duw in de rug door de bestorming van het Capitool, begin dit jaar. Zo gaan er nu stemmen op om platformen te verplichten om hun algoritmes te laten controleren op (on)bedoelde discriminatie.
