Kunstmatige intelligentie verandert snel de manier waarop we het menselijk potentieel evalueren, maar de ondoorzichtige aard ervan vormt een aanzienlijk risico. De huidige trend van het inzetten van ‘black box’ AI-systemen in het onderwijs – waar het besluitvormingsproces verborgen is – ondermijnt het vertrouwen en de verantwoordelijkheid. Net zoals passagiers het verdienen om te begrijpen hoe een vliegtuig functioneert, moeten studenten en docenten zien hoe AI-aangedreven beoordelingen tot hun conclusies komen. Dit is niet alleen een kwestie van eerlijkheid; het is een fundamentele vereiste voor betekenisvol leren en gelijke kansen.
Het probleem met ondoorzichtige AI
De aantrekkingskracht van AI bij testen ligt in het vermogen om beoordelingen te personaliseren en vragen af te stemmen op individuele interesses (een sportfan die statistieken gebruikt, een astronoom die planeten analyseert). Maar dit maatwerk creëert een paradox: Als elke student een unieke test aflegt, hoe kunnen we dan garanderen dat de scores vergelijkbaar zijn? Zonder transparantie riskeert dit het creëren van willekeurige normen en het versterken van bestaande ongelijkheden.
Het gevaar is dat propriëtaire AI-modellen, gedreven door commerciële belangen, kunnen fungeren als geheime poortwachters voor educatieve en professionele kansen. Dit staat in direct contrast met de wetenschappelijke nauwkeurigheid van gevestigde onderwijsmetingen, die prioriteit geven aan open toegang tot methoden en gegevens. Als je geen uitlegbaarheid eist, betekent dit dat je een systeem accepteert waarin AI de uitkomsten bepaalt zonder rechtvaardiging.
Wetenschappelijke degelijkheid vereist transparantie
De OESO stelt dat de validiteit – de nauwkeurigheid en betekenis van een beoordeling – niet iets is dat je uiteindelijk moet controleren; het moet vanaf het begin worden ingebouwd. Geldigheid is niet langer een statische eigenschap; het is een dynamische discussie over een leerling in context. Een door AI aangedreven leestoets is ongeldig als de resultaten ervan verkeerd worden geïnterpreteerd of misbruikt, zoals het oneerlijk categoriseren van een leerling op basis van één enkele score.
Uitlegbaarheid is de sleutel om ervoor te zorgen dat dit niet gebeurt. Studenten verdienen het om te begrijpen waarom ze een bepaalde score hebben gekregen (een 78 op een essay bijvoorbeeld). Feedback zonder begrip is nutteloos. Net zoals we voedingsetiketten op voedsel verwachten, hebben we ‘beoordelingsetiketten’ nodig die het ontwerp, de score en de beperkingen van door AI aangedreven tests gedetailleerd beschrijven. De Internationale Testcommissie beveelt uitleg in eenvoudige taal aan leerlingen en gezinnen aan.
Eerlijkheid en het vermijden van schade
AI-systemen nemen vooroordelen over van de gegevens waarop ze zijn getraind, waardoor eerlijkheid een cruciale zorg wordt. Technologie kan nieuwe barrières opwerpen: een spraakscorende AI moet bijvoorbeeld plaats bieden aan dove studenten. Het principe ‘geen schade berokkenen’ moet voorop staan.
Zoals het Handbook for Assessment in the Service of Learning benadrukt, moet elke test bewijzen dat deze niet alleen accuraat is, maar ook veilig, effectief en rechtvaardig. Dit vereist een rigoureus geldigheidsargument dat potentiële vooroordelen aanpakt en een eerlijke toegang tot kansen garandeert.
Naar een digitaal openbaar plein
Wij staan op een kruispunt. Accepteren we een toekomst die wordt gedomineerd door gepatenteerde ‘zwarte dozen’ die in stilte de paden van leerlingen bepalen, of bouwen we een ‘digitaal openbaar plein’ waar het ontwerp van beoordelingen open, transparant en onderwerp van discussie is? Innovatie zonder uitlegbaarheid is onverantwoord.
De waarde van een beoordeling is niet alleen de nauwkeurigheid ervan; het gaat erom hoe nuttig de inzichten zijn voor leerlingen en docenten. Het is tijd om te eisen dat AI-leveranciers ‘hun werk laten zien’ en ervoor zorgen dat het verhaal van AI in het onderwijs er een is van openheid, wetenschappelijke nauwkeurigheid en verdiend vertrouwen.
De toekomst van AI in het onderwijs hangt af van onze bereidheid om prioriteit te geven aan transparantie, eerlijkheid en wetenschappelijke validiteit – en niet alleen aan technologische vooruitgang. Alleen dan kunnen we de kracht van AI benutten zonder de principes van gelijke kansen en betekenisvol leren op te offeren.
