Ik las een kop over voorgestelde wetgeving in North Carolina om generatieve AI te gebruiken om de testscores van studenten te verhogen. Op diezelfde dag bereikte ik de helft van Robert Wrights The God Test. Ik moest pauzeren. Het boek legt een concept uit dat ondergeschikte doelen wordt genoemd. Het kwam hard aan.
Wright leent een gedachte-experiment van Nick Bostrom van de Universiteit van Oxford. Je geeft een AI de opdracht om de productie van paperclips te maximaliseren. De machine stelt geen vragen. Het rekent gewoon uit. Het realiseert zich dat de beste manier om meer paperclips te krijgen, is door alle beschikbare materie erin om te zetten. Zelfs de materie in menselijke lichamen.
Dat is een verkeerde uitlijning. Mensen definiëren een doel op hoog niveau. De AI creëert een keten van ondergeschikte doelen om dat doel te bereiken. Experts noemen dit instrumentele convergentie.
Denk aan algoritmen voor sociale media. Ze willen betrokkenheid. Ze ontdekten dat verontwaardiging en ontzag de schermen in de gaten houden. Ze dienen dus verontwaardiging en ontzag. Het resultaat is niet alleen dat er meer advertenties worden weergegeven. Het gaat om diepe sociale en politieke verdeeldheid. Onbedoelde gevolgen van niet-gecontroleerde optimalisatie.
Scholen worden met dezelfde druk geconfronteerd. Politieke eisen voor hogere prestaties. De natuurlijke reactie is om te delegeren aan AI-aangedreven tools. Deze systemen bepalen de tussenstappen om de scores te verhogen.
Wat kan er misgaan?
De stagnatie van de prestaties van studenten
Kijk naar de NAEP-gegevens. De afgelopen zes tot acht jaar kunnen het beste worden omschreven als stagnerend of afnemend. De breuk vond plaats na 2019.
Uit NCES-gegevens blijkt dat de lees- en wiskundescores voor 9-jarige leerlingen tussen 2020 en mei 2022 zijn gedaald. Het lezen is met 5 punten gedaald. Wiskunde viel 7 punten. Ze bleven laag.
Dit is geen klein wiebeltje. Het heeft jaren van vooruitgang uitgewist. De prestaties zijn in 2024 teruggevallen naar niveaus die in tientallen jaren niet meer zijn gezien.
Nationale rapporten bevestigen dat de scores voor alle geteste cijfers onder het niveau van vóór de pandemie blijven. Het lezen ging nog steeds achteruit in de groepen 4 en 8. Wiskunde in de achtste klas was in wezen vlak. Het systeem heeft het verloren terrein niet herwonnen. Op sommige gebieden blijft het uitglijden.
Analisten noemen het een ‘verloren decennium’. Een lange periode van vastgelopen vooruitgang.
Ik controleerde gegevens voor Californië, New York en Texas. Deze staten hebben een buitensporige impact op de nationale scores. Het patroon hield stand.
Californië zag verbeteringen van 2003 tot 2019. Daarna stagneerde de situatie na de pandemie. Scores daalden en bleven laag. In 2024 bedroeg de vaardigheid voor lezen in het 4e leerjaar 29%. 35% voor wiskunde. 28% voor lezen in groep 8. En 25% voor wiskunde in groep 8.
New York zag er vlakker uit, maar op sommige plekken zwakker. Bescheiden winst vanaf 2022. Maar de scores blijven achter bij de cijfers van vóór de pandemie. Het lezen in groep 8 lag vijf punten onder het niveau van 2022 en 28 punten onder het niveau van 2019. Op zijn best een gedeeltelijke rebound.
Texas was gemengd maar zacht. Winst in wiskunde in het 4e leerjaar. Glijdt bij het lezen. Dalingen in vakken van groep 8. Nog steeds onder het eerdere momentum. Geen brede terugkeer naar de trends die we vóór de crisis zagen.
Als ouders en politici zich zorgen maken over deze cijfers, moet er iets veranderen.
De mechanismen van slechte subdoelen
Het punt van Wright is verontrustend. De AI streeft het primaire doel trouw na. Het selecteert ondergeschikte doelen die mensen nooit bedoeld hebben.
Het is niet kwaadaardig. Het is gewoon optimalisatie. Er worden methoden gebruikt die we niet expliciet hebben verboden.
Stuart Russell, auteur van Human Compatible, stelt dat de uitdaging is om AI niet slim genoeg te maken. Het maakt het onzeker genoeg om te vragen: “Wat wil je eigenlijk?”
AI maakt optimalisatie sneller. Moeilijker te herkennen. Uitgebreider.
Denk eens aan de wet van Goodhart. Een Britse econoom heeft het bedacht. Het stelt dat zodra een maatregel een doelstelling wordt, deze niet langer een goede maatregel is.
Door het systeem te spelen, wordt het getal vervormd. Het gedrag op de korte termijn piekt. Het doel wordt bereikt. Het onderliggende doel wordt gemist.
Als het voortbestaan van een school afhangt van toetsscores, verschuift het lesgeven richting de toets. Het diepere leren verdwijnt. De score gaat omhoog. Begrijpen niet.
Hier ziet u hoe ondergeschikte doelen eruit zien als de primaire richtlijn het verhogen van gestandaardiseerde testscores is.
Geen van deze vereist kunstmatige algemene intelligentie. Een optimalisatiesysteem kan ze vandaag nog aanbevelen. Velen waren er al sinds No Child Left Behind in 2001.
8 ondergeschikte doelen die een AI zou kunnen kiezen
1. Leer alleen wat getest wordt
Maximaliseer instructieminuten over geteste inhoud. Al het andere is inefficiënt. De wetenschap krimpt. Sociale studies vervagen. Kunst, muziek en gym worden geschrapt. Onderzoeksprojecten verdwijnen. Klassikale discussies worden vervangen door repetitieve oefeningen.
2. Optimaliseer voor de gemakkelijkst te verbeteren leerlingen
Wijs middelen toe waar de winst statistisch gezien het gemakkelijkst is. De optimalisatie-engine weet dat niet alle leerlingen de naald evenveel bewegen. De focus verschuift naar studenten net onder niveau. Degenen met ernstige leerbehoeften krijgen minder aandacht. Leerlingen Engels die langdurige ondersteuning nodig hebben, krijgen geen prioriteit. Hoogbegaafde leerlingen die al hoog scoren worden genegeerd.
3. Elimineer productieve strijd
Verhoog het percentage juiste antwoorden onmiddellijk. Uit onderzoek blijkt dat gewenste moeilijkheidsgraad het leren op lange termijn bevordert. Een AI ziet het anders. Het biedt meer tips. Het stelt makkelijkere vragen. Het zorgt voor reacties. Studenten krijgen AI-hulp voordat ze zelfs maar met het probleem worstelen.
4. Personaliseer voor compliance, niet voor nieuwsgierigheid
Verhoog de voltooiingspercentages. Volgzame studenten voltooien opdrachten en scoren beter. Dus stimuleert de AI studenten naar kortere taken. Minder onderzoeken met een open einde. Zeer gestructureerde lessen. Onmiddellijke beloningen. Nieuwsgierigheid is inefficiënt. Naleving is meetbaar.
5. Verminder de instructievariabiliteit
Standaardiseer de levering. Leraren verschillen van nature. Sommigen improviseren. Ze vertellen verhalen. Ze pauzeren voor actuele gebeurtenissen. Een AI zoekt consistentie. Het beschouwt variabiliteit als ruis. Het verzacht de eigenaardigheden die ervoor zorgen dat leren vaak blijft hangen.
6. Ontmoedig het nemen van intellectuele risico’s
Maximaliseer de kans op correcte antwoorden. Creatief werk is rommelig. Debatten zijn onvoorspelbaar. Vragen van studenten zijn chaotisch. Instructie verschuift naar zekerheid. Onderzoek is riskant. Fouten verlagen het gemiddelde.
7. Optimaliseer de aanwezigheid, niet de betrokkenheid
Houd leerlingen fysiek aanwezig. Aanwezigheid voorspelt prestatie. Het systeem maakt dus gebruik van geautomatiseerde berichten. Stimulansen. Toezicht. Gedragsmatige duwtjes. Het verhoogt de aanwezigheidsstatistieken zonder ervoor te zorgen dat echt leren in de ruimte plaatsvindt.
8. Onderdruk activiteiten met vertraagde uitbetalingen
Geef prioriteit aan onmiddellijke, meetbare rendementen. Debat, schrijven, zelfstandig lezen, projectmatig leren. Deze betalen zich in jaren terug. Een AI die wordt beloond voor de resultaten van dit voorjaar, beschouwt ze als slechte investeringen. Ze worden bezuinigd om snelle overwinningen te financieren.
Het menselijke element
Ik zie nog een ondergeschikt doel. Als de AI constateert dat directeuren, leraren of ouders obstakels zijn, kan deze zich op hen richten.
Niet om macht. Maar omdat het beïnvloeden van mensen de scores verhoogt.
Het kan wijzigingen in het hoofdschema aanbevelen. Herschikkingen van personeel. Verplichte bijles. Disciplinebeleid wordt aangepast. De oudercommunicatie was op deze doelen gericht. Professionele ontwikkeling ontworpen om deze af te dwingen.
Allemaal perfect afgestemd op het hoofddoel.
Deze strategieën zijn niet irrationeel. Veel scholen doen dit al onder politieke druk. AI ontdekt ze gewoon sneller. Volgt ze consequenter. Optimaliseert ze met volharding die geen enkele menselijke beheerder kan evenaren.
Het gevaar is niet de sinistere AI. Het is het trouw nastreven van onze eigen gebrekkige prikkels. Dezelfde prikkels die de afgelopen tien jaar voor stagnatie hebben gezorgd.
Ik gebruik ook ondergeschikte doelen. Soms leiden ze tot succes. Vaak tot ongenoegen.
Er is een scène in Out of Africa. Karen Blixen krijgt eindelijk de relatie die ze wilde. Het vervullen van het verlangen geeft haar niet het leven dat ze zich had voorgesteld. Oscar Wilde formuleerde het beter.
“Toen de goden ons wilden straffen, verhoorde hij onze gebeden.”
AI is geen god. Maar het geeft ons enorme kracht om onze doelen te bereiken. We moeten voorzichtig zijn met de manier waarop we onze bevelen verwoorden. Een slecht gespecificeerde primaire richtlijn geeft de AI toestemming om middelen te gebruiken die we nooit hadden bedoeld.
Dat levert problemen op voor docenten. En studenten.
