Twitter-algoritme voor foto-cropping is ‘racistisch’
Eind september vorig jaar doken de eerste meldingen op van het ‘racistische’ algoritme. Het gaat voor alle duidelijkheid om onbedoelde neveneffecten van het algoritme. Dat zou er vaker voor kiezen om blanken mensen in beeld te brengen. Bovendien worden zij minder vaak ‘onthoofd’ door een slechte cropping. Twitter kondigde vorige maand aan dat het de discriminerende algoritmes gaat onderzoeken en aanpassen waar mogelijk.
Vastgesteld probleem
Nieuw onderzoek toont dat er wel degelijk wat aan de hand is. Twitter vergeleek niet alleen de resultaten van zijn algoritme bij de keuze voor blanke of donkere mensen, maar ook op basis van gender. De resultaten zijn licht afwijkend. Er is een klein verschil van 8 procent, in het voordeel van vrouwen. Blanken kregen een voordeel van 4 procent tegenover mensen met een andere huidskleur.
Daarnaast was er bij het croppen van vrouwelijke foto’s geen sprake van seksisme. Slechts drie procent van de foto’s zoemde in op een ander lichaamsdeel dan het gezicht. Gebeurde dat toch, dan werd er niet ongepast ingezoomd. Het algoritme leek daarbij te focussen op teksten en nummers op de kledij.
‘Racistische’ cropping
Jack Dorsey en co gaven een mogelijke verklaring voor het ‘racistische’ gedrag van het cropping-algoritme. De berekeningen zouden een voorkeur hebben voor afbeeldingen met een hoog contrast, al zegt Twitter er wel bij dat dat geen excuus mag zijn. “Machine learning is fundamenteel beperkt omdat het menselijke handelingen vervangt. Het verhindert persoonlijke expressie van eigen identiteit en waarden. Het staart zich op een normatieve manier blind op welk gedeelte van een afbeelding het belangrijkste is”, aldus het socialemediabedrijf.
“Een van onze conclusies is dat niet alles op Twitter geschikt is om door een algoritme te laten beoordelen. Het croppen van foto’s wordt duidelijk best overgelaten aan mensen”, klinkt het. Om dat euvel aan te pakken heeft het bedrijf zijn image previews op Android en iOS laten aanpassen naar full-size. Er zijn nog meer veranderingen op til om ongelukkige cropping te vermijden.
