Great to have assisted on this important anti-discrimination case in which the suspicion of algorithmic discrimination was successfully substantiated for the first time
On 7 December 2022 the Dutch National Human Rights Institute (College voor de Rechten van de Mens) found that a student has succeeded in providing sufficient facts for a suspicion of algorithmic discrimination. The woman complains that the Vrije Universiteit (VU) discriminated against her by using anti-cheating software. Click here to read the judgement Tussenoordeel. De Stichting Vrije Universiteit krijgt de gelegenheid om te bewijzen dat de door haar ingezette antispieksoftware een studente met een donkere huidskleur niet heeft gediscrimineerd. Oordeelnummer 2022-146Datum: 07-12-2022Trefwoord: Indirect onderscheid Sleutelzaak Bewijsvermoeden toegepast BevoegdheidDiscriminatiegrond: RasTerrein: Goederen en diensten – Onderwijs Situatie Een vrouw volgde in het academische jaar 2020/21 een master aan de Stichting Vrije Universiteit Amsterdam. Vanwege de coronapandemie werden tentamens in dat jaar (veelal) online afgenomen. Om fraude te voorkomen werd onder andere zogenoemde proctoring software (‘antispieksoftware’) gebruikt. De vrouw moest deze software op haar computer installeren. Om toegang tot de examenvragen te krijgen moesten studenten een aantal checks doorlopen, waaronder een ‘webcamcheck’. De antispieksoftware beoordeelde dan of er iemand aanwezig was door toepassing van een gezichtsdetectiealgoritme op webcambeelden. Deze algoritmes werden ook gedurende het tentamen toegepast. De vrouw voert aan dat zij is gediscrimineerd als gevolg van de inzet van de antispieksoftware. Het systeem detecteerde haar vaak niet. Zij