Ich habe eine Schlagzeile über einen Gesetzesvorschlag in North Carolina gelesen, der den Einsatz generativer KI zur Verbesserung der Testergebnisse von Schülern vorsieht. Am selben Tag erreichte ich die Hälfte von Robert Wrights „The God Test“. Ich musste innehalten. Das Buch erklärt ein Konzept namens untergeordnete Ziele. Es hat hart getroffen.
Wright leiht sich ein Gedankenexperiment von Nick Bostrom von der Universität Oxford. Sie geben einer KI den Auftrag, die Produktion von Büroklammern zu maximieren. Die Maschine stellt keine Fragen. Es wird nur berechnet. Es wird erkannt, dass der beste Weg, mehr Büroklammern zu erhalten, darin besteht, alle verfügbaren Materialien in solche umzuwandeln. Sogar die Materie im menschlichen Körper.
Das ist eine Fehlausrichtung. Der Mensch definiert ein übergeordnetes Ziel. Die KI erstellt eine Kette untergeordneter Ziele, um dieses Ziel zu erreichen. Experten nennen dies instrumentelle Konvergenz.
Denken Sie an Social-Media-Algorithmen. Sie wollen Engagement. Sie fanden heraus, dass Empörung und Ehrfurcht die Bildschirme im Auge behalten. Sie dienen also Empörung und Ehrfurcht. Das Ergebnis ist nicht nur, dass mehr Anzeigen geschaltet werden. Es gibt tiefe soziale und politische Gräben. Unbeabsichtigte Folgen einer unüberwachten Optimierung.
Auch Schulen stehen unter dem gleichen Druck. Politische Forderungen nach höherer Leistung. Die natürliche Reaktion besteht darin, an KI-gestützte Tools zu delegieren. Diese Systeme bestimmen die Zwischenschritte zur Steigerung der Punktzahl.
Was könnte schief gehen?
Die Stagnation der Schülerleistungen
Schauen Sie sich die NAEP-Daten an. Die letzten 6 bis 8 Jahre lassen sich am besten als stagnierend oder rückläufig beschreiben. Der Bruch erfolgte nach 2019.
NCES-Daten zeigen, dass die Lese- und Mathematikergebnisse von 9-jährigen Schülern zwischen 2020 und Mai 2022 gesunken sind. Die Lesekompetenz sank um 5 Punkte. Mathe fiel um 7 Punkte. Sie blieben niedrig.
Das ist kein kleines Wackeln. Es hat jahrelange Fortschritte zunichte gemacht. Bis 2024 sank die Leistung auf ein seit Jahrzehnten nicht mehr erreichtes Niveau.
Nationale Berichte bestätigen, dass die Werte in allen getesteten Klassen unter dem Niveau vor der Pandemie bleiben. In den Klassen 4 und 8 waren die Leseleistungen immer noch rückläufig. In der achten Klasse war die Mathematikleistung im Wesentlichen flach. Das System hat den verlorenen Boden nicht wieder gut gemacht. An manchen Stellen rutscht es immer wieder.
Analysten sprechen von einem „verlorenen Jahrzehnt“. Eine lange Strecke des ins Stocken geratenen Fortschritts.
Ich habe die Daten für Kalifornien, New York und Texas überprüft. Diese Staaten haben übergroße Auswirkungen auf die nationalen Ergebnisse. Das Muster hielt.
Kalifornien verzeichnete von 2003 bis 2019 Verbesserungen. Dann kam es nach der Pandemie zum Stillstand. Die Ergebnisse fielen und blieben unten. Im Jahr 2024 lag die Lesekompetenz der 4. Klasse bei 29 %. 35 % für Mathematik. 28 % für das Lesen in der 8. Klasse. Und 25 % für Mathematik in der 8. Klasse.
New York sah flacher, aber stellenweise schwächer aus. Bescheidene Zuwächse ab 2022. Die Ergebnisse bleiben jedoch hinter den Werten vor der Pandemie zurück. Die Lesekompetenz der 8. Klasse lag fünf Punkte unter dem Niveau von 2022 und 28 Punkte unter dem Niveau von 2019. Bestenfalls teilweiser Rebound.
Texas war gemischt, aber weich. Fortschritte in Mathematik der 4. Klasse. Ausrutscher beim Lesen. Rückgänge in den Fächern der 8. Klasse. Immer noch unter dem früheren Momentum. Keine breite Rückkehr zu den Trends, die wir vor der Krise gesehen haben.
Wenn Eltern und Politiker sich um diese Kennzahlen kümmern, muss sich etwas ändern.
Die Mechanismen schlechter Unterziele
Wrights Standpunkt ist beunruhigend. Die KI verfolgt treu das primäre Ziel. Es wählt untergeordnete Ziele aus, die Menschen nie beabsichtigt hatten.
Es ist nicht böswillig. Es ist nur eine Optimierung. Es werden Methoden verwendet, die wir nicht ausdrücklich verboten haben.
Stuart Russell, Autor von Human Compatible, argumentiert, dass die Herausforderung darin besteht, KI nicht intelligent genug zu machen. Es macht es unsicher genug, um zu fragen: „Was willst du eigentlich?“
KI beschleunigt die Optimierung. Schwerer zu erkennen. Umfassender.
Betrachten Sie Goodharts Gesetz. Ein britischer Ökonom hat es geprägt. Es besagt, dass eine Maßnahme, sobald sie zum Ziel wird, keine gute Maßnahme mehr ist.
Das Spielen des Systems verzerrt die Zahl. Kurzfristige Verhaltensspitzen. Das Ziel ist erreicht. Das zugrunde liegende Ziel wird verfehlt.
Wenn das Überleben einer Schule von Testergebnissen abhängt, verlagert sich der Unterricht auf den Test. Tiefergehendes Lernen verschwindet. Die Punktzahl steigt. Verstehen nicht.
So sehen untergeordnete Ziele aus, wenn die primäre Richtlinie darin besteht, standardisierte Testergebnisse zu erhöhen.
Keines davon erfordert künstliche allgemeine Intelligenz. Ein Optimierungssystem kann sie heute empfehlen. Viele davon gab es bereits nach „No Child Left Behind“ im Jahr 2001.
8 untergeordnete Ziele, die eine KI wählen könnte
1. Lehren Sie nur, was getestet wurde
Maximieren Sie die Unterrichtsminuten zu getesteten Inhalten. Alles andere ist ineffizient. Die Wissenschaft schrumpft. Sozialkunde verblasst. Kunst, Musik und Sport werden gekürzt. Anfrageprojekte verschwinden. Die Diskussion im Klassenzimmer wird durch Wiederholungsübungen ersetzt.
2. Optimieren Sie für die Schüler, die sich am einfachsten verbessern können
Ordnen Sie Ressourcen dort zu, wo die Gewinne statistisch gesehen am einfachsten sind. Die Optimierungsmaschine weiß, dass nicht alle Schüler die Nadel gleichermaßen bewegen. Der Fokus verlagert sich auf Schüler, die knapp unter ihrem Leistungsniveau liegen. Personen mit hohem Lernbedarf erhalten weniger Aufmerksamkeit. Englischlerner, die langfristige Unterstützung benötigen, werden nachrangig behandelt. Begabte Schüler, die bereits gute Ergebnisse erzielen, werden ignoriert.
3. Eliminieren Sie produktive Kämpfe
Erhöhen Sie sofort den Prozentsatz richtiger Antworten. Untersuchungen haben ergeben, dass wünschenswerte Schwierigkeiten das langfristige Lernen fördern. Eine KI sieht das anders. Es bietet weitere Hinweise. Es stellt einfachere Fragen. Es bildet ein Gerüst für Reaktionen. Schüler erhalten KI-Hilfe, bevor sie sich überhaupt mit dem Problem auseinandersetzen.
4. Personalisieren Sie aus Gründen der Compliance, nicht aus Neugier
Erhöhen Sie die Abschlussquoten. Konforme Schüler erledigen Aufgaben und schneiden besser ab. Die KI drängt die Schüler also zu kürzeren Aufgaben. Weniger offene Ermittlungen. Sehr strukturierter Unterricht. Sofortige Belohnungen. Neugier ist ineffizient. Compliance ist messbar.
5. Reduzieren Sie die Unterrichtsvariabilität
Standardisieren Sie die Lieferung. Lehrer sind von Natur aus unterschiedlich. Manche improvisieren. Sie erzählen Geschichten. Sie halten inne für aktuelle Ereignisse. Eine KI strebt nach Konsistenz. Es betrachtet Variabilität als Rauschen. Es glättet die Macken, die das Lernen oft behindern.
6. Entmutigen Sie das Eingehen intellektueller Risiken
Maximieren Sie die Wahrscheinlichkeit richtiger Antworten. Kreative Arbeit ist chaotisch. Debatten sind unvorhersehbar. Studentenfragen sind chaotisch. Der Unterricht verlagert sich in Richtung Gewissheit. Erkundung ist riskant. Fehler senken den Durchschnitt.
7. Optimieren Sie die Anwesenheit, nicht das Engagement
Sorgen Sie dafür, dass die Schüler physisch anwesend sind. Anwesenheit sagt Erfolg voraus. Daher verwendet das System automatisierte Nachrichten. Anreize. Überwachung. Verhaltensschübe. Es steigert die Anwesenheitsstatistik, ohne sicherzustellen, dass echtes Lernen im Raum stattfindet.
8. Unterdrücken Sie Aktivitäten mit verzögerter Auszahlung
Priorisieren Sie sofortige, messbare Renditen. Debatte, Schreiben, unabhängiges Lesen, projektbasiertes Lernen. Diese amortisieren sich in Jahren. Eine KI, die für die Ergebnisse dieses Frühjahrs belohnt wird, betrachtet sie als schlechte Investition. Es reduziert sie, um schnelle Erfolge zu finanzieren.
Das menschliche Element
Ich sehe noch ein untergeordnetes Ziel. Wenn die KI feststellt, dass Schulleiter, Lehrer oder Eltern Hindernisse darstellen, kann sie diese gezielt ins Visier nehmen.
Nicht für Macht. Sondern weil die Beeinflussung von Menschen die Punktzahl erhöht.
Möglicherweise werden Änderungen des Masterplans empfohlen. Personalumschichtungen. Verpflichtende Nachhilfe. Änderungen der Disziplinarpolitik. Die Elternkommunikation konzentrierte sich auf diese Ziele. Professionelle Entwicklung, die darauf abzielt, sie durchzusetzen.
Alles perfekt auf das Hauptziel abgestimmt.
Diese Strategien sind nicht irrational. Viele Schulen machen sie bereits unter politischem Druck. KI entdeckt sie einfach schneller. Verfolgt sie konsequenter. Optimiert sie mit einer Beständigkeit, die kein menschlicher Administrator erreichen kann.
Die Gefahr liegt nicht in einer finsteren KI. Es ist die treue Verfolgung unserer eigenen fehlerhaften Anreize. Dieselben Anreize, die im letzten Jahrzehnt für die Stagnation gesorgt haben.
Ich verwende auch untergeordnete Ziele. Manchmal führen sie zum Erfolg. Oftmals zum Unmut.
Es gibt eine Szene in Jenseits von Afrika. Karen Blixen bekommt endlich die Beziehung, die sie wollte. Die Erfüllung dieses Wunsches beschert ihr nicht das Leben, das sie sich vorgestellt hat. Oscar Wilde hat es besser ausgedrückt.
„Als die Götter uns bestrafen wollten, erhörte er unsere Gebete.“
KI ist kein Gott. Aber es verleiht uns immense Kraft, unsere Ziele zu erreichen. Wir müssen vorsichtig sein, wie wir unsere Befehle formulieren. Eine schlecht spezifizierte Primäranweisung gibt der KI die Erlaubnis, Mittel zu verwenden, die wir nie beabsichtigt hatten.
Das bedeutet Ärger für die Lehrer. Und Studenten.
