De Nederlandse dating-app Breeze heeft aangevraagd bij het College voor de Rechten van de Mens om zijn algoritme aan te passen. Nu hoeft een bedrijf daar normaliter niet voor naar het College, maar in dit geval gaat het om een heikel punt: discriminatie. Het wil dat zwarte mensen en mensen van een niet-Nederlandse afkomst net zo vaak voorbij komen als witte mensen en mensen van Nederlandse afkomst.
Breeze
De app wilde eerst checken met het College voor de Rechten van de Mens of dat wel mocht. Zou het immers geen voorkeursbeleid zijn? Het College is er heel helder over: ‘Zeker niet, je moet zelfs je app aanpassen.’ De app Breeze heeft een zelflerend algoritme, waardoor soms de mensen achter de app zelf geen notie hebben van hoe het algoritme in elkaar zit. Wel weten ze welke ingrediënten het gevoed krijgt: profielinformatie en like-gedrag. Vooral dat laatste speelt waarschijnlijk een grote rol bij het voorstellen van nieuwe mensen.
In ieder geval kwam er vanuit gebruikers commentaar: waarom zie ik geen diverse selectie aan potentiële matches? Breeze denkt daarom dat mensen met een donkere huidskleur of een niet-Nederlandse afkomst daarom afhaken en Breeze niet meer willen gebruiken. Waarschijnlijk, zo denkt Breeze, berekent het algoritme een lagere matchingskans bij deze mensen en dat maakt dat ze minder snel voorbij komen bij anderen. Minder matches: dat wil natuurlijk niemand, maar dat is bij die mensen waarschijnlijk wel de realiteit.
Discriminatie
Niet oké, waardoor het nu het een en ander wil implementeren om het wel een gemixte groep potentiële matches te maken in plaats van dat er voornamelijk witte mensen voorbij komen. Bovendien wil Breeze natuurlijk niet alleen maar witte mensen en mensen met een Nederlandse afkomst op de app. Daarom wil het het mogelijk discriminerende algoritme wat aanpakken, en het College gaat daar volledig in mee.
Het schrijft: “Het hebben van persoonlijke voorkeuren voor mensen met een bepaalde etnische afkomst met wie je op date wilt, hoeft op zichzelf uiteraard geen discriminatie te zijn. Maar zelfs als je rekening houdt met het feit dat mensen een voorkeur hebben voor mensen met eenzelfde etniciteit, dan nog zou de matchingscore van mensen met een donkere huidskleur of van niet-Nederlandse afkomst vermoedelijk hoger moeten zijn dan die nu is. Zo is alsnog sprake van indirect onderscheid.”

Even vaak voorgesteld
De maatregelen die Breeze moet treffen om indirect onderscheid tussen mensen te voorkomen, ziet het College niet als voorkeursbeleid. “De gebruikers zouden hierdoor namelijk geen bevoorrechte positie krijgen, maar zij zouden alleen voor een dreigende achterstelling worden gecompenseerd. Gebruikers met een donkere huidskleur of niet-Nederlandse afkomst zouden dan immers niet relatief vaker worden voorgesteld, maar “slechts” even vaak als de andere gebruikers.”
Loop jij hier ook tegenaan als je dating-apps gebruikt: dat je het gevoel hebt dat je vooral dezelfde soort mensen voorbij ziet komen en kleur mist? Laat het nu achter in de reacties.
Reacties
Inloggen of registreren
om een reactie achter te laten
Vreemd. Als ik val op blanke vrouwen en die dus vaker een like geef, zou het dan niet logisch zijn dat ik vaker blanke vrouwen zie langskomen?
Waarschijnlijk ben je dan niet woke genoeg ?