Great to have assisted on this important anti-discrimination case in which the suspicion of algorithmic discrimination was successfully substantiated for the first time

Date

On 7 December 2022 the Dutch National Human Rights Institute (College voor de Rechten van de Mens) found that a student has succeeded in providing sufficient facts for a suspicion of algorithmic discrimination. The woman complains that the Vrije Universiteit (VU) discriminated against her by using anti-cheating software. 

Click here to read the judgement

Tussenoordeel. De Stichting Vrije Universiteit krijgt de gelegenheid om te bewijzen dat de door haar ingezette antispieksoftware een studente met een donkere huidskleur niet heeft gediscrimineerd.

Oordeelnummer 2022-146
Datum: 07-12-2022
Trefwoord: Indirect onderscheid Sleutelzaak Bewijsvermoeden toegepast Bevoegdheid
Discriminatiegrond: Ras
Terrein: Goederen en diensten – Onderwijs

Situatie

Een vrouw volgde in het academische jaar 2020/21 een master aan de Stichting Vrije Universiteit Amsterdam. Vanwege de coronapandemie werden tentamens in dat jaar (veelal) online afgenomen. Om fraude te voorkomen werd onder andere zogenoemde proctoring software (‘antispieksoftware’) gebruikt.

De vrouw moest deze software op haar computer installeren. Om toegang tot de examenvragen te krijgen moesten studenten een aantal checks doorlopen, waaronder een ‘webcamcheck’. De antispieksoftware beoordeelde dan of er iemand aanwezig was door toepassing van een gezichtsdetectiealgoritme op webcambeelden. Deze algoritmes werden ook gedurende het tentamen toegepast.

De vrouw voert aan dat zij is gediscrimineerd als gevolg van de inzet van de antispieksoftware. Het systeem detecteerde haar vaak niet. Zij kreeg dan meldingen als ‘face not found’ of ‘room too dark’. Daarnaast is zij verschillende keren door de software uit de online tentamenomgeving verwijderd, waarna ze opnieuw moest inloggen (een zogenoemde ‘herstart’). Deze gebeurtenissen leverden haar veel stress en een gevoel van onveiligheid op. De vrouw vermoedt dat deze gebeurtenissen te maken hebben met haar huidskleur: het is algemeen bekend dat gezichtsdetectiealgoritmes slechter presteren op mensen met een donkere huidskleur. De vrouw vindt verder dat de universiteit haar discriminatieklacht over deze software onzorgvuldig heeft behandeld.

De Vrije Universiteit stelt dat van discriminatie geen sprake is. Zij heeft navraag gedaan bij de leverancier. Die ontkent dat sprake is van enige discriminatie door de software. De leverancier heeft een externe partij gevraagd onderzoek te doen en deze heeft niets gevonden dat daarop duidt. De universiteit heeft verder de loggegevens bekeken en daaruit blijkt niet dat de vrouw uitzonderlijk lang over het inloggen heeft gedaan. Ook heeft de vrouw niet uitzonderlijk vaak te maken gekregen met ‘herstarts’. Zij heeft dus niet meer of andere problemen ondervonden dan andere studenten.

De universiteit heeft ook geen andere meldingen gekregen van studenten die, vanwege hun huidskleur, problemen hadden met het systeem. Voor zover er problemen waren, is het aannemelijker dat dit kwam door technische omstandigheden, zoals een instabiele internetverbinding. Als het College zou vinden dat sprake is van onderscheid, dan meent de universiteit dat dat onderscheid niet verboden is. De universiteit mocht immers de software gebruiken om fraude tegen te gaan als een noodmaatregel ten tijde van corona. De universiteit vindt verder dat zij de ingediende discriminatieklacht wel voortvarend en serieus heeft behandeld.

Beoordeling

Ontvankelijkheid

In deze zaak staan de ‘gedragingen’ van software centraal. Het College overweegt echter dat het gelijkebehandelingsrecht ook op zulke gedragingen van toepassing is. De universiteit heeft er immers voor gekozen om de antispieksoftware in te zetten bij het surveilleren van tentamens. Als blijkt dat de software daarbij onderscheid maakt, dan komt dat voor rekening van de universiteit. De vrouw is daarom ontvankelijk in haar klacht.

Is er sprake van onderscheid?

In het gelijkebehandelingsrecht geldt een verlichte bewijslast. Dit betekent dat diegene die stelt dat sprake is van onderscheid feiten moet aandragen die dat onderscheid kunnen doen vermoeden. Het College oordeelt dat de vrouw daarin is geslaagd vanwege twee redenen.

Een: partijen zijn het erover eens dat de vrouw hinder heeft ondervonden van de antispieksoftware.
Twee: er is academisch onderzoek dat aantoont dat gezichtsdetectiesoftware over het algemeen slechter presteert op personen met een donkere huidskleur.

Samen zijn deze feiten voldoende voor een vermoeden van indirect onderscheid op grond van ras.

Als er een vermoeden van onderscheid is, dan moet de universiteit bewijzen dat zij niet in strijd met de wet heeft gehandeld. Het College overweegt dat de universiteit daar onvoldoende bewijs voor heeft aangedragen. Het onderzoek van de externe partij die softwareleverancier heeft ingeschakeld kan niet worden geraadpleegd. De vergelijkingen die de universiteit heeft gemaakt waaruit zou blijken dat de vrouw niet uitzonderlijk vaak problemen ondervond zijn niet compleet. Zo is bijvoorbeeld de gemiddelde inlogtijd van andere studenten niet onderzocht. Daarnaast is het de vraag of deze andere studenten zich in vergelijkbare omstandigheden bevonden als de vrouw.

Het College wil de universiteit echter nog in de gelegenheid stellen om voor het College controleerbare of verifieerbare gegevens en documenten in te brengen die bewijzen dat geen sprake is geweest van onderscheid. Daarvoor krijgt de universiteit tien weken de tijd. Tot die tijd zal het College haar definitieve oordeel of sprake is geweest van discriminatie en of de klachtbehandeling zorgvuldig is geweest aanhouden.

Tussenoordeel

Het College voor de Rechten van de Mens:

  • stelt vast dat de vrouw voldoende feiten heeft aangevoerd waaruit een vermoeden kan worden afgeleid dat de Stichting Vrije Universiteit met de inzet van antispieksoftware voor het surveilleren van tentamens indirect onderscheid heeft gemaakt op grond van ras.
  • stelt de Stichting Vrije Universiteit in de gelegenheid om haar stelling dat zij geen onderscheid heeft gemaakt binnen 10 weken nader te onderbouwen.
  • houdt iedere verdere beoordeling aan.

Tussenoordeel
2022-146

Datum: 7 december 2022

Dossiernummer: 2022-0344

Tussenoordeel in de zaak van

[. . . .]
wonende te [. . . .], verzoekster

tegen

Stichting Vrije Universiteit
gevestigd te Amsterdam, verweerster
 

1 Verzoek

Verzoekster vraagt het College om te beoordelen of verweerster verboden onderscheid op grond van ras heeft gemaakt door voor het online surveilleren van tentamens tijdens de coronapandemie de software van Proctorio te gebruiken, en door haar discriminatieklacht hierover onzorgvuldig te behandelen.
 

2 Verloop van de procedure

2.1 Het College heeft kennis genomen van de volgende stukken:

  • verzoekschrift van 15 juli 2022, ontvangen op dezelfde dag;
  • nadere stukken van verzoekster van 29 juli 2022;
  • verweerschrift van 28 september 2022;
  • nadere stukken van verzoekster van 5 oktober 2022

2.2 Het College heeft de zaak ter zitting behandeld op 12 oktober 2022. Partijen zijn verschenen. Verzoekster werd bijgestaan door [. . . .] en [. . . .] ((mede)-oprichters Racism and Technology Center). Verweerster werd vertegenwoordigd door mr. I.A. Hoen, advocaat, die werd vergezeld door [. . . .] (senior jurist Vrije Universiteit Amsterdam) en [. . . .] (E-support/IT Vrije Universiteit Amsterdam).

2.3 Het College heeft partijen op 25 oktober 2022 geïnformeerd dat hij een tussenoordeel zal vellen over de vraag of verzoekster voldoende feiten heeft aangedragen om te kunnen spreken van een vermoeden van onderscheid in de zin van artikel 10, eerste lid, Algemene wet gelijke behandeling (AWGB). Daarover buigt het College zich in het onderhavige oordeel. Het College velt zijn definitieve oordeel nadat partijen in de gelegenheid zijn geweest op dit tussenoordeel te reageren en waar nodig nadere stukken over te leggen. Het definitieve oordeel zal eveneens antwoord geven op de vraag of de discriminatieklacht van verzoekster door verweerster zorgvuldig is behandeld. 


3 Feiten

3.1 Verzoekster volgde in het academische jaar 2020/21 de opleiding Bioinformatics and Systems Biology aan de universiteit van verweerster. In dat jaar werden vanwege de coronapandemie tentamens (veelal) online afgenomen. Voor bepaalde tentamens was het verplicht dat studenten op hun computer de proctoringsoftware (‘antispieksoftware’) van Proctorio installeerden.

3.2 Om toegang te krijgen tot zo’n tentamen moesten studenten inloggen in een online omgeving. Het werd studenten aangeraden vijftien minuten voor de officiële aanvangstijd van het tentamen in te loggen. Vervolgens konden zij toegang krijgen tot de examenvragen door op een startknop te klikken, waarna de proctoringsoftware een technische systeemcheck uitvoerde, gevolgd door een verificatieproces.

3.3 Het verificatieproces bestond uit (1) het scannen van de studentenpas, (2) een webcamcheck waarbij via de webcam een aantal foto’s werden gemaakt om te controleren of er een gezicht waarneembaar is, en (3) een video opname van het bureau of de werkplek van de student. Tijdens het tentamen registreert de proctoringsoftware muisbewegingen en andere schermhandelingen van de student (via ‘scherm delen’) en maakt het audio-opnames van eventuele spraak die op de werkplek van de student wordt waargenomen (via de microfoon van de computer) en video-opnames van bewegingen die worden waargenomen (via de webcam van de computer).

3.4 De software maakt gebruik van gezichtsdetectiealgoritmes om te beoordelen of een student in beeld is.

3.5 Na afloop van het tentamen wordt elke student een ‘suspicion score’ toegekend om aan te geven welke opnames door de surveillanten nader moeten worden bekeken.
 

4 Standpunt verzoekster

Verzoekster stelt dat verweerster haar heeft gediscrimineerd op grond van ras, omdat verweerster bij het afnemen van tentamens gebruik heeft gemaakt van de proctoringsoftware van Proctorio. De proctoringsoftware maakt gebruik van gezichtsdetectiealgoritmes. Van dergelijke software is aangetoond dat deze personen met een donkere huidskleur slechter waarneemt dan personen met een witte huidskleur. Verzoekster heeft dat ook ervaren: de software had moeite om haar tijdens het verificatieproces te herkennen. Zij kreeg regelmatig de melding ‘face not found’ of ‘room too dark’. Zij verloor daardoor veel tijd en moest daardoor extra maatregelen nemen, zoals het gebruik van een felle lamp die recht in haar gezicht scheen. Daarnaast is zij verschillende keren door de software uit de online tentamen-omgeving verwijderd, althans is de verbinding met die tentamen-omgeving verbroken, waarna ze het verificatieproces opnieuw moest doorlopen. Deze gebeurtenissen leverden haar veel stress en een gevoel van onveiligheid op.
 

5 Standpunt verweerster

Verweerster bestrijdt dat sprake is van discriminatie. Zij heeft zich veel moeite getroost om de claims van verzoekster te verifiëren. Allereerst heeft zij navraag gedaan bij de softwareleverancier. Deze ontkent dat de software minder goed zou werken bij mensen met een donkere huidskleur. Proctorio heeft ook een onafhankelijke audit laten doen die bevestigt dat haar software naar behoren functioneert. Daarnaast heeft verweerster de loggegevens van verzoekster bekeken. Daaruit blijkt niet dat verzoekster uitzonderlijk lang over het verificatieproces heeft gedaan, of uitzonderlijk veel problemen zou hebben ondervonden. Andere studenten hadden vergelijkbare problemen. Gelet op de werking van de software lijken de problemen die verzoekster heeft ervaren veeleer in een instabiele internetverbinding te zitten. Ten slotte voert verweerster aan dat zij geen andere meldingen over inlogproblemen van studenten met een donkere huidskleur heeft gekregen dan die van verzoekster. Mocht het College toch oordelen dat er sprake is van (een vermoeden van) onderscheid, dan is het gemaakte onderscheid hoogstens indirect van aard en gerechtvaardigd door het legitieme belang om fraude bij tentaminering tegen te gaan tegen de achtergrond van de coronapandemie. Het gebruik van de proctoringsoftware was daarbij zowel passend als noodzakelijk.
 

6 Beoordeling

Valt de klacht en het handelen van verweerster onder de reikwijdte van de gelijkebehandelingswetgeving?


6.1 Op grond van de artikel 7, eerste lid, in samenhang met artikel 1 AWGB is het verboden om onderscheid te maken op grond van ras bij het aanbieden van of goederen en diensten en het uitvoeren van overeenkomsten ter zake.

6.2 Het begrip ras in de AWGB moet overeenkomstig het Internationaal Verdrag inzake de uitbanning van alle vormen van rassendiscriminatie ruim worden uitgelegd. Het begrip omvat tevens huidskleur, afkomst en nationale of etnische afstamming (zie ook: Kamerstukken II 1990/91, 22 014, nr. 3, p. 13).

6.3 Het College stelt vast dat verweerster een instelling is die hoger onderwijs aanbiedt en in dat kader tentamens afneemt. In de coronaperiode heeft verweerster gekozen om voor het surveilleren van (sommige van deze) tentamens gebruik te maken van de proctoringsoftware van Proctorio. Dit handelen valt onder de reikwijdte van artikel 7, eerste lid, onder c, AWGB. De klacht van verzoekster ziet erop dat de door verweerster gebruikte software haar vanwege haar donkere huidskleur minder goed detecteert. Hierdoor heeft zij stress en uitsluiting ervaren. Dit betreft een potentieel onderscheid op grond van ras.

6.4 Uit voorgaande vaststelling vloeit voort dat de gelijkebehandelingswetgeving van toepassing is op het handelen van verweerster en dat verzoekster ontvankelijk is in haar verzoek om een oordeel. Volledigheidshalve merkt het College op dat het feit dat het vermeende onderscheid hier door de software wordt gemaakt, geleverd door een externe partij, niet afdoet aan de plichten van verweerster die voortvloeien uit de gelijkebehandelingswetgeving. Verweerster heeft een eigen verantwoordelijkheid om ervoor te zorgen dat de middelen die het inzet geen verboden onderscheid maken (vergelijk in dat kader, in de context van arbeid, College voor de Rechten van de Mens 27 augustus 2020, 2020-76).

Is er sprake van onderscheid op grond van ras?

6.5 Onder onderscheid wordt zowel direct als indirect onderscheid verstaan. Er is sprake van direct onderscheid op grond van ras als een persoon op grond van ras op een andere wijze wordt behandeld dan een ander in een vergelijkbare situatie wordt, is of zou worden behandeld. Er is sprake van indirect onderscheid op grond van ras als een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een bepaald ras in vergelijking met andere personen bijzonder treft (artikel 1, eerste lid, AWGB).

6.6 De bewijslastverdeling is neergelegd in artikel 10, eerste lid, AWGB. Deze houdt in dat het aan verzoekster is om feiten aan te voeren die onderscheid op grond van ras kunnen doen vermoeden. Als zij hierin slaagt ligt het op de weg van verweerster om te bewijzen dat zij niet in strijd met de AWGB heeft gehandeld.

6.7 Verzoekster voert in dat verband het volgende aan. Zij heeft ervaren dat zij pas enige tijd na de officiële aanvang van het tentamen heeft kunnen beginnen met het beantwoorden van tentamenvragen, omdat zij maar met moeite door de verificatieprocedure van de proctoringsoftware kwam. Bovendien is zij door het systeem meerdere keren uit het tentamen verwijderd, of is althans de verbinding met de tentamen-omgeving verbroken, en moest zij opnieuw inloggen (de zogenoemde ‘herstart’). Daarbij kreeg zij mededelingen als ‘face not found’ en ‘room too dark’. Ter zitting heeft verzoekster gepreciseerd dat zij deze problemen steeds ondervond bij de gezichtsdetectie; de overige checks, waaronder de deskscan en de scan van de studentenpas verliepen zonder problemen. Dit onderschrijft, aldus verzoekster, dat de technische- en omgevingsomstandigheden op haar werkplek in principe voldoende waren, maar dat de software vooral moeite had haar gezicht te detecteren vanwege haar donkere huidskleur. Het is bovendien een feit van algemene bekendheid dat gezichtsdetectiesoftware slechter presteert bij personen met een donkere huidskleur. Dat is in academisch onderzoek meermalen aangetoond. Als laatste voert verzoekster aan dat een student voor specifiek de proctoringsoftware van Proctorio op basis van eigen onderzoek heeft aangetoond dat deze slechter presteert op donkere gezichten. Verschillende serieuze media-outlets hebben dit onderzoek vervolgens geverifieerd, aldus verzoekster.

6.8 Verweerster stelt daartegenover dat uit de loggegevens niet blijkt dat verzoekster uitzonderlijk lang over het inloggen heeft gedaan: gemiddeld slechts zo een 2,2 minuten, met een enkele uitschieter naar boven. Verzoekster heeft daar als zodanig ook geen nadeel van ondervonden, omdat deze tijd niet werd afgetrokken van de tijd die een student had voor het maken van het tentamen. Ook het aantal herstarts was beperkt: drie op de tien tentamens waarover verzoekster heeft geklaagd. Ook andere studenten kampten met deze problemen; verzoekster was in zoverre ook niet uitzonderlijk. Slechts een keer was sprake van een relatief lange herstart (17 minuten), maar daaraan zijn door de examinatoren geen voor verzoekster nadelige consequenties aan verbonden. Het is onwaarschijnlijk dat de problemen die verzoekster ondervond aan de gezichtsdetectie te wijten zijn; veeleer zal er sprake zijn geweest van een instabiele internetverbinding. Het ontbreken van een gezicht bij de video-opnames gedurende een tentamen was, gelet op de softwareinstellingen, geen reden om toegang tot het tentamen te ontzeggen maar eerder reden voor een melding (‘vlaggetje’) aan de surveillanten van een potentieel ‘verdachte’ handeling. Deze beoordeelden de opnames vervolgens handmatig. Verweerster wijst er verder op dat Proctorio een onafhankelijke audit heeft laten uitvoeren waaruit blijkt dat de gezichtsdetectiesoftware niet slechter presteert op personen met een donkere huidskleur. De resultaten van deze audit worden naar verwachting dit najaar publiek gemaakt.

6.9 Het College overweegt als volgt. Allereerst kan uit de jurisprudentie van het Europees Hof van de Rechten van de Mens worden afgeleid dat bij vermeend onderscheid als in het onderhavige geval de focus dient te liggen op de vraag of en in hoeverre huidskleur een rol heeft gespeeld bij problemen bij verificatieprocessen of (bijvoorbeeld) de kans om handmatig gecontroleerd te worden (bijvoorbeeld als gevolg van een hoger aantal ‘vlaggetjes’). De proctoringsoftware is immers bedoeld om potentiële gevallen van fraude te detecteren en signaleren. Een eventueel gemaakt onderscheid in dat kader is naar zijn aard nadelig. Het al dan niet beperkte aantal minuten dat verzoekster aan vertraging heeft ondervonden in absolute zin of het vermeend gebrek aan materieel nadelige consequenties vanwege het feit dat de tentamenduur werd verlengd is in zoverre niet relevant (vergelijk EHRM 18 oktober 2022, ECLI:CE:ECHR:2022:1018JUD000021519 (Basu tegen Duitsland)).

6.10 Ten tweede heeft het Hof van Justitie van de Europese Unie geoordeeld dat in het belang van de effectiviteit van de gelijkebehandelingswetgeving de bewijslast zo moet worden geïnterpreteerd dat kennelijk onderscheid gestaafd kan worden onder verwijzing naar algemene(re) gegevens ‘in het geval niet van de betrokkene kan worden verwacht dat [zij] nauwkeurigere gegevens (…) overlegt, omdat dergelijke gegevens moeilijk toegankelijk of zelfs niet beschikbaar zijn voor die persoon.’ (HvJEU 3 oktober 2019, C-274/18 ECLI:EU:C:2019:828 (Schuch-Ghannadan), r.o. 54).

6.11 Het College constateert dat zo een geval hier voorligt. Een persoon die toezicht ondergaat van software die gezichtsdetectiealgoritmes toepast op videobeelden heeft geen effectieve mogelijkheid om de daadwerkelijke werking van de software te verifiëren of op te vragen. Bovendien heeft verweerster aangegeven dat eventuele meldingen van de software met betrekking tot ‘verdachte’ gebeurtenissen – zoals bijvoorbeeld dat een student (vermeend) uit beeld zou zijn – weliswaar werden gelogd maar dat deze logs niet aan afnemers van het tentamen werden verstrekt. Verzoekster had dus geen inzicht in de eventuele meldingen die de software in haar geval heeft geregistreerd en kon deze dus ook niet koppelen aan een bepaalde gebeurtenis of handeling (of juist het ontbreken daarvan) harerzijds. Gegeven deze situatie acht het College het aangewezen en gerechtvaardigd om betrouwbare informatie die betrekking heeft op het functioneren van procteringsoftware in het algemeen aan te merken als gegevens die het vermoeden van onderscheid op grond van ras kunnen vestigen.

6.12 Het College overweegt dat tussen partijen niet in geschil is dat verzoekster verschillende keren hinder heeft ondervonden van de proctoringsoftware. Daarnaast ontwaart het College, anders dan verweerster ter zitting heeft bepleit, in gepubliceerd academisch onderzoek naar het functioneren van gezichtsdetectiealgoritmes een consistent beeld van een minder goed presteren van deze algoritmes ten aanzien van personen met bepaalde persoonskenmerken, waaronder het hebben van een donkere huidskleur (zie e.g. J. Buolamwini and T. Gebru, ‘Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification’, 81 Proceedings of Machine Learning Research (2018) 77-91 en H. F. Menezes, A. S. C. Ferreira, E. T. Pereira and H. M. Gomes, ‘Bias and Fairness in Face Detection’, 2021 34th SIBGRAPI Conference on Graphics, Patterns and Images (SIBGRAPI), 2021, pp. 247-254).

6.13 De ervaringen van verzoekster en de gegevens uit de gepubliceerde wetenschappelijke onderzoeken naar het functioneren van gezichtsdetectiesoftware, brengen het College in dit geval tot het oordeel dat er voldoende aanwijzingen zijn voor een vermoeden van onderscheid op grond van ras. Het College acht het aannemelijk dat de door de proctoringsoftware van Proctorio toegepaste gezichtsdetectiealgoritmes op foto- of videobeelden zoals deze worden geregistreerd door een webcam en de consequenties die daaraan door de software worden verbonden, in de praktijk in het bijzonder personen met een donkere huidskleur zullen treffen. Dit betekent niet dat andere studenten niet om andere redenen vergelijkbare nadelen hebben kunnen ondervinden, maar wel dat er een aanmerkelijke kans is dat in het geval van personen zoals verzoekster de huidskleur (mede) een rol heeft gespeeld.

6.14 Nu er sprake is van een vermoeden van indirect onderscheid ligt het op de weg van verweerster om te bewijzen dat zij niet in strijd met de AWGB heeft gehandeld.

6.15 Met betrekking tot feiten die verweerster heeft aangedragen, overweegt het College als volgt. Kort gezegd, beargumenteert verweerster dat uit de data die zij heeft niet blijkt dat verzoekster meer last zou hebben gehad van de proctoringsoftware dan andere studenten. Het College stelt echter enerzijds vast dat het de vraag is hoeverre het relevant is om in algemene zin met andere studenten te vergelijken. Zij bevinden zich mogelijk niet in vergelijkbare (technische) omstandigheden als verzoekster. Daarnaast stelt het College vast dat van de vergelijkingen die verweerster maakt niet compleet zijn. Zo stelt het College vast dat de gemiddelde tijd die het verzoekster heeft gekost om in te loggen, 2,2 minuten, in de overgelegde stukken niet is afgezet tegen de gemiddelde inlogtijd, en de spreiding daarin, van de andere studenten die deelnamen aan dezelfde set tentamens. Dit geldt evenzeer voor het (gemiddeld) door andere studenten ervaren herstarts en de duur daarvan. Dit is nog afgezien van het feit dat niet is vast te stellen of de problemen die andere studenten ervoeren mogelijkerwijs door andere factoren werden veroorzaakt.

6.16 Het College merkt daarnaast op dat verweerster weliswaar heeft gewezen op een door een externe partij uitgevoerde onafhankelijke audit op de software van Proctorio, maar dat de resultaten daarvan niet publiekelijk beschikbaar zijn. Bij het leveren van tegenbewijs kan niet worden volstaan met een verwijzing naar resultaten die niet kunnen worden geverifieerd.

6.17 Het College wil verweerster de gelegenheid geven om haar stelling dat geen sprake is van (verboden) onderscheid nader te onderbouwen door middel van voor het College controleerbare of verifieerbare gegevens en documenten, bijvoorbeeld door het door haar genoemde auditrapport alsnog in te brengen. Daarbij vraagt het College verweerster in het bijzonder nader in te gaan op de vraag of en in hoeverre de vermoede onderscheid makende effecten het gevolg zijn van de door de software toegepaste algoritmes dan wel technische beperkingen die samenhangen met het gebruik van videobeelden verkregen via webcams. Verweerster krijgt hiervoor 10 weken de tijd. Verzoekster zal daarna nog in de gelegenheid worden gesteld op eventueel nieuw overgelegde stukken te reageren. Tot die tijd houdt het College iedere verdere beoordeling aan.


7 Tussenoordeel

Het College voor de Rechten van de Mens

  • stelt vast dat [. . . .] voldoende feiten heeft aangevoerd waaruit een vermoeden kan worden afgeleid dat de Stichting Vrije Universiteit met de inzet van Proctorio-software voor het surveilleren van tentamens indirect onderscheid heeft gemaakt op grond van ras.
  • stelt de Stichting Vrije Universiteit in de gelegenheid om haar stelling dat zij geen onderscheid heeft gemaakt binnen tien weken nader te onderbouwen.
  • houdt iedere verdere beoordeling aan

Aldus gegeven te Utrecht op 7 december 2022 door mr. dr. J.P. Loof, voorzitter, mr. R. Grimbergen en mr. G. Lieuw, leden van het College voor de Rechten van de Mens, in tegenwoordigheid van mr. dr. A. Hoogenboom, secretaris.



mr. dr. J.P. Loof
mr. dr. A. Hoogenboom