our track record

On 7 December 2022 the Dutch National Human Rights Institute (College voor de Rechten van de Mens) found that a student has succeeded in providing sufficient facts for a suspicion of algorithmic discrimination. The woman complains that the Vrije Universiteit (VU) discriminated against her by using anti-cheating software. Click here to read the judgement Tussenoordeel. De Stichting Vrije Universiteit krijgt de gelegenheid om te bewijzen dat de door haar ingezette antispieksoftware een studente met een donkere huidskleur niet heeft gediscrimineerd. Oordeelnummer 2022-146Datum: 07-12-2022Trefwoord: Indirect onderscheid Sleutelzaak Bewijsvermoeden toegepast BevoegdheidDiscriminatiegrond: RasTerrein: Goederen en diensten – Onderwijs Situatie Een vrouw volgde in het academische jaar 2020/21 een master aan de Stichting Vrije Universiteit Amsterdam. Vanwege de coronapandemie werden tentamens in dat jaar (veelal) online afgenomen. Om fraude te voorkomen werd onder andere zogenoemde proctoring software (‘antispieksoftware’) gebruikt. De vrouw moest deze software op haar computer installeren. Om toegang tot de examenvragen te krijgen moesten studenten een aantal checks doorlopen, waaronder een ‘webcamcheck’. De antispieksoftware beoordeelde dan of er iemand aanwezig was door toepassing van een gezichtsdetectiealgoritme op webcambeelden. Deze algoritmes werden ook gedurende het tentamen toegepast. De vrouw voert aan dat zij is gediscrimineerd als gevolg van de inzet van de antispieksoftware. Het systeem detecteerde haar vaak niet. Zij

Op 1 juni 2021 wees het Hof Amsterdam arrest in de zaak over het gebruik door de UvA van het online surveillance programma Proctorio. Klik hier en bekijk de uitspraak op uitspraken.rechtbank.nl De Centrale Studenten Raad had onder andere voorgelegd of het gebruik van het programma voldoet aan het noodzakelijkheids-, doelbindings- en dataminimalisatie vereiste van de AVG. Het ging daarbij vooral over de roomscan, eyetracking, gezichtsherkenning, gedragscontrole en geautomatiseerde identificatie, voor wat betreft toestemming voor het verwerken van bijzondere persoonsgegevens en beveiliging.  Het hof besloot dat het gebruik van het programma tijdens de COVID 19 lockdown maatregelen voldoet aan de AVG en het EVRM (ov 3.3.2 (met typo art het art 6 lid 1 sub e AVG betreft), ov 3.4.1 en ov 3.5.2 Indien de noodzaak van online tentaminering komt te vervallen dan ontstaat wel een geheel ander debat dan thans gevoerd). Hiermee hebben studenten een grote stap gezet in het debat omtrent online proctoring.  Hieronder volgen kanttekeningen over de argumentatie van het hof, die dus in z’n geheel het kader van een voorlopige voorziening tijdens de lockdown moet worden gelezen. De studenten hebben nog een stukje gewonnen in dat de UvA duidelijk verantwoordelijk wordt gesteld voor het gebruik van de

Good to see how the students in the University Council of Erasmus University Rotterdam used their rights to seek legal advice on the use of #proctoring to forge discussions with all stakeholders leading to better mutual understanding and temporary solutions during the COVID measures. My colleague Wilco Brussee and I are glad we could help towards a broadly carried interim measure. Shout out to Bram Heesen Jasper Klasen Luca Kriese Wouter van Dam and all others who worked tirelessly to make this happen.

Het ministerie van onderwijs heeft op 2 maart jl. bevestigd dat on campus tentamens organiseren mogelijk is sinds de zomer van vorig jaar, zolang de richtlijnen van het RIVM worden gevolgd. Toch zijn er faculteiten die daar ternauwernood gebruik van maken en waarbij al een heel jaar eigenlijk alleen online met proctoring wordt getentamineerd. Ook zijn er die on campus tentamens alsnog met online proctoring programma’s monitoren in plaats van middels traditionele surveillance. Dit terwijl nog weinig duidelijk is over de bescherming van persoonsgegevens die door die programma’s worden verwerkt en bewaard. Lees in dit NRC artikel meer over waarom er zorgen zijn over online proctoring.

In European Law Blog  about the widespread use of online technologies across European Higher Education Institutions (HEIs) is shaking the foundations of our education system. Van Londen comments about recent case law in NL and DPA decisions in Norway and Denmark. Comment Sofie van Londen: Great read. The date for the decision in appeal in the UVA case is now set for 30 March. In the meantime the Norwegian DPA came down on an algorithm used by the IB grading system being biased and the Danish DPA allowed University of Copenhagen use of ProctorExam in so far as only used for live monitoring deciding that the university had considered each course exam to be subjected to this method, informed students appropriately and taken sufficient security measures and that live proctoring was the least invasive in the then circumstances April/start of pandemic). This last element is interestingly opposed to the view of the summary decision in Amsterdam, in which Proctorio’s computerized review was deemed less intrusive than live review. Missing 2 step authorization was a point of the Danish DPA’s concern. Again, this was not seen as an issue in the UVA case. In a recent development, in NL 2step authorization in edutech was