Czytałem nagłówek o projekcie ustawy w Karolinie Północnej, który miałby wykorzystywać generatywną sztuczną inteligencję do poprawy osiągnięć uczniów. Tego samego dnia dotarłem do połowy książki Roberta Wrighta „Test Boga”. Musiałem zrobić pauzę.
W książce opisano koncepcję celów podrzędnych. Zrobiła na mnie duże wrażenie.
Wright cytuje eksperyment myślowy Nicka Bostroma z Uniwersytetu Oksfordzkiego. Instruujesz sztuczną inteligencję, aby zmaksymalizowała produkcję spinaczy biurowych. Maszyna nie zadaje pytań. Ona tylko kalkuluje. Zdaje sobie sprawę, że najlepszym sposobem na zdobycie większej liczby spinaczy jest przekształcenie w nie całej dostępnej materii. Łącznie z materią budującą ciała ludzkie.
Nazywa się to niewspółosiowością. Ludzie wyznaczają wspólny cel, a sztuczna inteligencja tworzy łańcuch celów podrzędnych, aby go osiągnąć. Eksperci nazywają to konwergencją instrumentalną.
Pomyśl o algorytmach mediów społecznościowych. Ich celem jest zaangażowanie. Odkryli, że oburzenie i podziw przyciągają uwagę widzów na ekranie. Dlatego też dostarczają treści, które wywołują te emocje. Rezultatem jest nie tylko większa liczba wyświetleń reklam, ale głębokie podziały społeczne i polityczne. Niezamierzone konsekwencje niekontrolowanej optymalizacji.
Szkoły stoją przed podobną presją. Polityczne żądania poprawy osiągnięć. Naturalną reakcją jest delegowanie tych zadań narzędziom opartym na sztucznej inteligencji. Systemy te określą etapy pośrednie w celu podniesienia wyników.
Co może pójść nie tak?
Stagnacja osiągnięć uczniów
Spójrz na dane NAEP. Ostatnie 6-8 lat najlepiej opisać jako okres stagnacji lub pogorszenia. Zmiana nastąpiła po 2019 roku.
Dane NCES pokazują, że wyniki z czytania i matematyki 9-letnich uczniów spadły między 2020 r. a majem 2022 r. Czytanie spadło o 5 punktów. Matematyka – na 7. Poziom pozostał niski.
To nie jest małe wahanie. Lata postępu zostały wymazane. Do 2024 r. stopy procentowe powróciły do poziomów nienotowanych od dziesięcioleci.
Sprawozdania krajowe potwierdzają, że we wszystkich uzyskanych ocenach wyniki pozostają poniżej poziomu sprzed pandemii. Czytanie w klasach czwartych i ósmych nadal spadało. Matematyka w klasie 8 pozostała praktycznie niezmieniona. System nie przywrócił utraconych pozycji. W niektórych obszarach sytuacja ulega dalszemu pogorszeniu.
Analitycy nazywają to „straconą dekadą”. Długi okres stagnacji postępu.
Sprawdziłem dane dla stanów Kalifornia, Nowy Jork i Teksas. Państwa te mają nieproporcjonalny wpływ na wskaźniki krajowe. Wzór został zachowany.
Kalifornia odnotowała wzrost w latach 2003–2019. Potem nastąpiła stagnacja po pandemii. Punkty spadły i nigdy nie wróciły. W 2024 r. biegłość w czytaniu w czwartej klasie wyniosła 29%, w matematyce 35%, w czytaniu w ósmej klasie 28% i w matematyce w ósmej klasie 25%.
Nowy Jork wyglądał na bardziej stabilny, choć w niektórych obszarach słabszy. Nieznaczny wzrost w stosunku do 2022 r. Wyniki są jednak odbiegające od poziomów sprzed pandemii. Wyniki czytania w ósmej klasie wynoszą pięć punktów poniżej poziomu z 2022 r. i 28 punktów poniżej poziomu z 2019 r. Tylko częściowy powrót do zdrowia.
Teksas wykazał mieszane, ale słabe wyniki. Rozwój matematyki w klasie czwartej. Spadek czytelnictwa. Spadek przedmiotów w klasie 8. Poziom jest poniżej poprzednich trendów. Nie ma powszechnego powrotu do tendencji, które obserwowaliśmy przed kryzysem.
Jeśli rodzicom i decydentom zależy na tych wskaźnikach, coś musi się zmienić.
Zła mechanika podbramkowa
Główna teza Wrighta jest niepokojąca. Sztuczna inteligencja realizuje swój główny cel w dobrej wierze. Wybiera podrzędne cele, których ludzie nigdy nie przewidywali.
Nie jest to złośliwy zamiar. To po prostu optymalizacja. Stosuje metody, których wyraźnie nie zabroniliśmy.
Stuart Russell, autor książki Human Kompatybilny, argumentuje, że problemem jest to, że sztuczna inteligencja nie jest wystarczająco inteligentna. Problem polega na tym, że nie jest on na tyle pewny, że może zapytać: „Czego naprawdę chcesz?”
AI przyspiesza optymalizację. Coraz trudniej to zauważyć. Jego wpływ staje się bardziej wszechstronny.
Pamiętaj o prawie Goodharta. Został on sformułowany przez brytyjskiego ekonomistę. Mówi się: gdy jakiś środek stanie się celem, przestaje być dobrym środkiem.
Manipulowanie systemem zniekształca liczby. Zachowanie krótkoterminowe dramatycznie wzrasta. Cel został osiągnięty. Jednak podstawowy cel został pominięty.
Jeśli przetrwanie szkoły zależy od wyników testów, nauka skupia się na samych testach. Głębokie uczenie się zanika. Punkty rosną. Zrozumienie materiału – nie.
Tak wyglądają cele podrzędne, gdy główną dyrektywą jest poprawa wyników standardowych testów.
Żaden z tych kroków nie wymaga sztucznej inteligencji ogólnej. Systemy optymalizacyjne mogą je już dziś polecać. Wiele z nich zostało wprowadzonych po wprowadzeniu ustawy Żadne dziecko nie zostało pozostawione w 2001 roku.
8 podrzędnych celów, do których może się odwołać sztuczna inteligencja
1. Ucz tylko tego, co jest sprawdzone
Maksymalizuj liczbę godzin nauki na materiale, który ma być testowany. Wszystko inne jest nieskuteczne. Ogranicza się naukę nauk przyrodniczych. Zanikają nauki społeczne, plastyka, muzyka i wychowanie fizyczne. Zanikają projekty badawcze. Dyskusje na zajęciach zastępuje się ćwiczeniami powtórzeniowymi (ćwiczeniami).
2. Optymalizuj pracę z uczniami, których wyniki najłatwiej poprawiają się
Alokuj zasoby tam, gdzie statystycznie najłatwiej jest osiągnąć wzrost. Silnik optymalizacyjny wie, że nie wszyscy uczniowie mają jednakowy wpływ na wynik. Uwaga zostaje skupiona na uczniach znajdujących się tuż poniżej poziomu biegłości. Osobom o znaczących potrzebach edukacyjnych poświęca się mniej uwagi. Osoby uczące się języka angielskiego, które potrzebują długoterminowego wsparcia, tracą priorytet. Utalentowani uczniowie z wysokimi wynikami są ignorowani.
3. Wyeliminuj produktywne zmagania z materiałem
Natychmiast zwiększ odsetek poprawnych odpowiedzi. Badania mówią, że „pożądana trudność” buduje długoterminową naukę. AI widzi to inaczej. Daje więcej wskazówek. Zadaje łatwiejsze pytania. Stanowi rusztowanie dla odpowiedzi. Uczniowie otrzymują pomoc AI jeszcze zanim zaczną samodzielnie rozwiązywać problem.
4. Personalizuj naukę pod kątem wydajności, a nie ciekawości
Zwiększ odsetek wykonanych zadań. Występujący uczniowie wykonują zadania i uzyskują lepsze wyniki. Dlatego sztuczna inteligencja kieruje uczniów do krótszych zadań. Mniej otwartych dochodzeń. Bardziej zorganizowane lekcje. Natychmiastowe nagrody. Ciekawość jest nieskuteczna. Wydajność jest mierzalna.
5. Zmniejsz zmienność nauczania
Standaryzuj dostawę. Nauczyciele są z natury inni. Niektórzy improwizują. Niektórzy ludzie opowiadają historie. Niektórzy robią przerwę, aby omówić bieżące wydarzenia. AI szuka konsekwencji. Zmienność postrzega jako szum. Wygładza cechy, które często pomagają w nauce materiału.
6. Nie zachęcaj do ryzyka intelektualnego
Maksymalizuj prawdopodobieństwo poprawnych odpowiedzi. Praca twórcza jest chaotyczna. Debaty są nieprzewidywalne. Pytania uczniów nie mają struktury. Uczenie się zmierza w stronę pewności. Badania są ryzykowne. Błędy obniżą Twój średni wynik.
7. Optymalizuj ruch, a nie zaangażowanie
Trzymaj uczniów fizycznie w szkole. Obecność pozwala przewidzieć wyniki w nauce. Dlatego system wykorzystuje komunikaty automatyczne. Zachęty. Monitorowanie. Bodźce behawioralne. Podnosi statystyki frekwencji, nie zapewniając rzeczywistego uczenia się w klasie.
8. Pomiń działania z opóźnioną nagrodą
Nadaj priorytet natychmiastowym i wymiernym wynikom. Debata, pisanie, samodzielne czytanie, nauka oparta na projektach. Metody te procentują latami. Sztuczna inteligencja, nagrodzona wynikami tej wiosny, postrzega je jako złą inwestycję. Obcina je, aby sfinansować szybkie zwycięstwa.
Czynnik ludzki
Widzę kolejny podrzędny cel. Jeśli sztuczna inteligencja odkryje, że dyrektorzy, nauczyciele lub rodzice stanowią przeszkodę, może zacząć działać przeciwko nim.
Nie ze względu na władzę. Ale ponieważ wywieranie wpływu na ludzi zwiększa wyniki.
Może zalecić zmiany w planie zajęć. Redystrybucja personelu. Obowiązkowe zajęcia dodatkowe. Korekty polityki dyscyplinarnej. Komunikacja z rodzicami skupiona na tych celach. Rozwój zawodowy ukierunkowany na ich realizację.
Wszystko to idealnie pasuje do głównego zadania.
Strategie te nie są irracjonalne. Wiele szkół już z nich korzysta pod naciskiem politycznym. Sztuczna inteligencja po prostu szybciej je wykrywa. Realizuje je bardziej konsekwentnie. Optymalizuje je z trwałością, której nie może dorównać żaden administrator.
Niebezpieczeństwem nie jest złowroga sztuczna inteligencja. Polega ona na dążeniu w dobrej wierze do własnych, błędnych bodźców. Te same zachęty, które pozostały w stagnacji przez ostatnią dekadę.
Sam wykorzystuję cele podrzędne. Czasem prowadzą do sukcesu. Często – ku niezadowoleniu.
Jest taka scena w filmie „Pożegnanie z Afryką”*. Karen Blixen w końcu ma taki związek, jakiego pragnie. Spełnienie życzenia nie daje jej życia, jakie sobie wyobrażała. Najlepiej ujął to Oscar Wilde:
„Kiedy bogowie chcą nas ukarać, wysłuchują naszych modlitw”.
AI nie jest bogiem. Ale daje nam ogromną siłę do osiągnięcia naszych celów. Musimy uważać na to, jak formułujemy nasze polecenia. Źle zdefiniowana dyrektywa główna daje AI pozwolenie na użycie środków, których nigdy nie planowaliśmy.
To oznacza kłopoty dla nauczycieli. I dla studentów.
