Programvara som övervakar eleverna under test vidmakthåller ojämlikhet och kränker deras integritet

Foto av Iris Wang på Unsplash

Coronavirus-pandemin har varit en välsignelse för testproktörbranschen. Ungefär ett halvdussin företag i USA hävdar att deras programvara exakt kan upptäcka och förhindra fusk i onlinetester. Examen , HonorLock , Proctorio , ProctorU , Svar och andra har vuxit snabbt sedan högskolor och universitet gick över till fjärrklasser.

Även om det inte finns någon officiell sammanställning, är det rimligt att säga att miljontals algoritmiskt testade tester sker varje månad runt om i världen. Proctorio berättade för New York Times i maj hade verksamheten ökat med 900 % under de första månaderna av pandemin, till den punkt där företaget genomförde 2,5 miljoner tester över hela världen bara i april.

Jag är en universitetsbibliotekarie och jag har sett effekterna av dessa system på nära håll. Min egen arbetsgivare, University of Colorado Denver, har ett kontrakt med Proctorio.

Det har blivit tydligt för mig att algoritmisk proctoring är en modern övervakningsteknik som förstärker vit överhöghet, sexism, förmåga och transfobi. Användningen av dessa verktyg är ett intrång i elevernas integritet och ofta en kränkning av medborgerliga rättigheter.

Om du är en student som tar ett algoritmiskt proctorat test, så fungerar det så här: När du börjar börjar programvaran spela in din dators kamera, ljud och de webbplatser du besöker. Den mäter din kropp och tittar på dig under hela provet, spårar dina rörelser för att identifiera vad den anser vara fuskbeteenden. Om du gör något som programvaran anser vara misstänkt, kommer det att varna din professor att se inspelningen och ge dem en färgkodad sannolikhet för ditt akademiska misskötsel.

Beroende på vilket företag som tillverkade programvaran kommer den att använda någon kombination av maskininlärning, AI och biometri (inklusive ansiktsigenkänning, ansiktsdetektering eller ögonspårning) för att göra allt detta. Problemet är att ansiktsigenkänning och detektion har visat sig vara det rasist , sexistisk , och transfobisk över , och över , och över om igen.

I allmänhet har tekniken en mönster för att förstärka strukturellt förtryck tycka om rasism och sexism . Nu dyker samma fördomar upp i testprogram för proctoring som skadar marginaliserade studenter oproportionerligt mycket.

En svart kvinna på mitt universitet berättade en gång för mig att när hon använde Proctorios testproctoring-programvara, fick det henne alltid att lysa mer ljus i ansiktet. Programvaran kunde inte validera hennes identitet och hon nekades tillgång till tester så ofta att hon var tvungen att gå till sin professor för att göra andra arrangemang. Hennes vita kamrater hade aldrig detta problem.

Liknande typer av diskriminering kan inträffa om en student är trans eller icke-binär. Men om du är en vit cis-man (som de flesta av utvecklarna som tillverkar mjukvara för ansiktsigenkänning), kommer du förmodligen att klara dig.

Även elever med barn straffas av dessa system. Om du någonsin har försökt svara på e-postmeddelanden medan du tar hand om barn, vet du hur omöjligt det kan vara att få ens några oavbrutna minuter framför datorn. Men flera proctoring-program kommer att flagga ljud i rummet eller någon som lämnar kamerans syn som skändlig. Det betyder att studenter med medicinska tillstånd som måste använda badrummet eller administrera medicin ofta skulle anses vara lika misstänkta.

Utöver alla sätt som proctoringprogramvara kan diskriminera studenter, är algoritmisk proctoring också en betydande intrång i integriteten. Dessa produkter filmar elever i deras hem och kräver ofta att de gör rumsskanningar, vilket innebär att man använder sin kamera för att visa sin omgivning. I många fall kan professorer när som helst komma åt sina studenters inspelningar och till och med ladda ner dessa inspelningar till sina personliga maskiner. De kan också se varje elevs plats baserat på deras IP-adress.

Sekretess är avgörande för bibliotekarier som mig eftersom kunder litar på oss med sina uppgifter. Efter 9/11, när Patriot Act bemyndigade USA:s Department of Homeland Security att få tillgång till bibliotekets beskyddare i sitt sökande efter terrorister började många bibliotekarier använda programvara som raderade en beskyddares register när en bok lämnats tillbaka. Produkter som kränker människors integritet och diskriminerar dem går emot min professionell etos , och det är djupt oroande att se sådana produkter ivrigt adopteras av institutioner för högre utbildning.

Denna iver skulle vara något mer förståelig om det fanns några bevis för att dessa program faktiskt gjorde vad de påstår. Såvitt jag vet finns det inte en enda referentgranskad eller kontrollerad studie som visar att proctoringprogramvara effektivt upptäcker eller förhindrar fusk. Med tanke på att universiteten är stolta över att fatta evidensbaserade beslut är detta en uppenbar förbiseende.

Som tur är finns det rörelser på gång till förbjud proctoring programvara och förbjuda ansiktsigenkänningsteknik på campus , såväl som kongressens lagförslag att förbjuda den amerikanska federala regeringen att använda ansiktsigenkänning. Men även om ansiktsigenkänningsteknik förbjöds, kan proctoring-mjukvara fortfarande existera som ett program som spårar elevernas ögon och kroppsrörelser. Även om det kanske är mindre rasistiskt, så skulle det vara det fortfarande diskriminera mot personer med funktionsnedsättning, ammande föräldrar och personer som är neuroatypiska. Dessa produkter kan inte reformeras; de borde överges.

Fusk är inte det hot mot samhället som testproktörföretag skulle få dig att tro. Det späder inte på värdet av examina eller försämrar institutionellt rykte, och studenter försöker inte fuska sig till att bli din kirurg . Tekniken uppfann inte villkoren för fusk och det kommer inte att vara det som stoppar det. Det bästa vi inom högre utbildning kan göra är att börja med den radikala idén om litar på eleverna . Låt oss välja medkänsla framför övervakning.

Shea Swauger är en akademisk bibliotekarie och forskare vid University of Colorado Denver.

Dölj