Ho letto un titolo sulla proposta di legge nella Carolina del Nord per utilizzare l’intelligenza artificiale generativa per aumentare i punteggi dei test degli studenti. Quello stesso giorno, ho raggiunto la metà del film The God Test di Robert Wright. Ho dovuto fare una pausa. Il libro spiega un concetto chiamato obiettivi subordinati. Ha colpito forte.
Wright prende in prestito un esperimento mentale da Nick Bostrom dell’Università di Oxford. Dai a un’intelligenza artificiale l’ordine di massimizzare la produzione di graffette. La macchina non fa domande. Calcola e basta. Si rende conto che il modo migliore per ottenere più graffette è convertire in esse tutto il materiale disponibile. Anche la materia nei corpi umani.
Questo è un disallineamento. Gli esseri umani definiscono un obiettivo di alto livello. L’intelligenza artificiale crea una catena di obiettivi subordinati per raggiungere quell’obiettivo. Gli esperti chiamano questa convergenza strumentale.
Pensa agli algoritmi dei social media. Vogliono fidanzamento. Hanno scoperto che l’indignazione e lo stupore tengono gli occhi puntati sugli schermi. Quindi servono indignazione e soggezione. Il risultato non è solo un maggior numero di annunci pubblicati. Si tratta di profonde divisioni sociali e politiche. Conseguenze indesiderate di un’ottimizzazione non monitorata.
Le scuole si trovano ad affrontare la stessa pressione. Richieste politiche per risultati più elevati. La risposta naturale è delegare a strumenti basati sull’intelligenza artificiale. Questi sistemi determineranno i passaggi intermedi per aumentare i punteggi.
Cosa potrebbe andare storto?
La stagnazione dei risultati studenteschi
Guarda i dati NAEP. Gli ultimi 6-8 anni sono meglio descritti come stagnanti o in declino. La rottura è avvenuta dopo il 2019.
I dati NCES mostrano che i punteggi in lettura e matematica per gli studenti di 9 anni sono diminuiti tra il 2020 e maggio 2022. La lettura è scesa di 5 punti. La matematica è scesa di 7 punti. Rimasero bassi.
Questa non è una piccola oscillazione. Ha cancellato anni di progresso. Le prestazioni torneranno a livelli mai visti da decenni entro il 2024.
I rapporti nazionali confermano che i punteggi rimangono al di sotto dei livelli pre-pandemia in tutti i gradi testati. La lettura era ancora in calo nelle classi 4 e 8. La matematica all’ottavo anno era sostanzialmente piatta. Il sistema non ha recuperato il terreno perduto. In alcune zone continua a scivolare.
Gli analisti lo definiscono un “decennio perduto”. Un lungo periodo di progresso bloccato.
Ho controllato i dati per California, New York e Texas. Questi stati hanno un impatto enorme sui punteggi nazionali. Lo schema ha resistito.
La California ha visto miglioramenti dal 2003 al 2019. Poi uno stallo post-pandemia. I punteggi sono diminuiti e sono rimasti bassi. Nel 2024, il livello di competenza era del 29% per la lettura di 4a elementare. 35% per la matematica. 28% per la lettura dell’ottavo anno. E il 25% per la matematica di terza media.
New York sembrava più piatta ma più debole in alcuni punti. Guadagni modesti rispetto al 2022. Ma i risultati restano indietro rispetto ai livelli pre-pandemia. La lettura dell’ottavo anno era di cinque punti sotto i livelli del 2022 e di 28 sotto i livelli del 2019. Rimbalzo parziale nella migliore delle ipotesi.
Il Texas era misto ma morbido. Guadagni in matematica di quarta elementare. Scivola nella lettura. Diminuisce nelle materie di terza media. Ancora al di sotto dello slancio precedente. Nessun ampio ritorno alle tendenze che osservavamo prima della crisi.
Se genitori e politici si preoccupano di questi parametri, qualcosa deve cambiare.
I meccanismi dei sotto-obiettivi sbagliati
Il punto di Wright è inquietante. L’IA persegue fedelmente l’obiettivo primario. Seleziona obiettivi subordinati che gli esseri umani non hanno mai previsto.
Non è dannoso. È solo ottimizzazione. Utilizza metodi che non abbiamo esplicitamente proibito.
Stuart Russell, autore di Human Compatibile, sostiene che la sfida non è rendere l’intelligenza artificiale abbastanza intelligente. Lo rende abbastanza incerto da chiedere: “Cosa vuoi veramente?”
L’intelligenza artificiale rende l’ottimizzazione più veloce. Più difficile da individuare. Più completo.
Considera la legge di Goodhart. Lo ha coniato un economista britannico. Si afferma che una volta che una misura diventa un obiettivo, cessa di essere una buona misura.
Giocare al sistema distorce il numero. Picchi di comportamento a breve termine. L’obiettivo è stato raggiunto. L’obiettivo sottostante è mancato.
Se la sopravvivenza di una scuola dipende dai punteggi dei test, l’insegnamento si sposta verso il test. L’apprendimento più profondo svanisce. Il punteggio sale. La comprensione no.
Ecco come appaiono gli obiettivi subordinati quando la direttiva primaria aumenta i punteggi dei test standardizzati.
Nessuno di questi richiede l’intelligenza artificiale generale. Un sistema di ottimizzazione può consigliarli oggi. Molti erano già in atto dopo No Child Left Behind nel 2001.
8 obiettivi subordinati che un’intelligenza artificiale potrebbe scegliere
1. Insegna solo ciò che è stato testato
Massimizza i minuti didattici sui contenuti testati. Tutto il resto è inefficiente. La scienza si rimpicciolisce. Gli studi sociali svaniscono. Arte, musica ed educazione fisica vengono tagliati. I progetti di indagine scompaiono. La discussione in classe è sostituita da esercitazioni ripetitive.
2. Ottimizza per gli studenti più facili da migliorare
Allocare le risorse dove i guadagni sono statisticamente più facili. Il motore di ottimizzazione sa che non tutti gli studenti muovono l’ago allo stesso modo. L’attenzione si sposta sugli studenti appena al di sotto del livello di competenza. Quelli con gravi bisogni di apprendimento ricevono meno attenzione. Gli studenti di inglese che necessitano di supporto a lungo termine non hanno la priorità. Gli studenti dotati che hanno già un punteggio elevato vengono ignorati.
3. Elimina le difficoltà produttive
Aumenta immediatamente la percentuale di risposte corrette. La ricerca afferma che la difficoltà desiderabile favorisce l’apprendimento a lungo termine. Un’intelligenza artificiale lo vede diversamente. Offre più suggerimenti. Pone domande più facili. Impalca le risposte. Gli studenti ricevono l’aiuto dell’intelligenza artificiale prima ancora di affrontare il problema.
4. Personalizza per conformità, non per curiosità
Aumentare i tassi di completamento. Gli studenti compiacenti completano i compiti e ottengono punteggi migliori. Quindi l’intelligenza artificiale spinge gli studenti verso compiti più brevi. Meno indagini aperte. Lezioni altamente strutturate. Ricompense immediate. La curiosità è inefficiente. La conformità è misurabile.
5. Ridurre la variabilità didattica
Standardizzare la consegna. Gli insegnanti variano per natura. Alcuni improvvisano. Raccontano storie. Fanno una pausa per gli eventi attuali. Un’intelligenza artificiale cerca coerenza. Considera la variabilità come un rumore. Appiana le stranezze che spesso rendono difficile l’apprendimento.
6. Scoraggiare l’assunzione di rischi intellettuali
Massimizzare la probabilità di risposte corrette. Il lavoro creativo è disordinato. I dibattiti sono imprevedibili. Le domande degli studenti sono caotiche. L’istruzione si sposta verso la certezza. L’esplorazione è rischiosa. Gli errori abbassano la media.
7. Ottimizza la partecipazione, non il coinvolgimento
Mantenere gli studenti fisicamente presenti. La partecipazione predice il successo. Quindi il sistema utilizza messaggi automatizzati. Incentivi. Monitoraggio. Solleciti comportamentali. Aumenta le statistiche sulle presenze senza garantire che l’apprendimento autentico avvenga all’interno della stanza.
8. Eliminare le attività con pagamenti ritardati
Dai priorità a rendimenti immediati e misurabili. Dibattito, scrittura, lettura indipendente, apprendimento basato su progetti. Questi ripagano in anni. Un’intelligenza artificiale premiata per i risultati di questa primavera li vede come investimenti scadenti. Li taglia per finanziare vittorie rapide.
L’elemento umano
Vedo un altro obiettivo subordinato. Se l’intelligenza artificiale rileva che presidi, insegnanti o genitori rappresentano ostacoli, potrebbe prenderli di mira.
Non per il potere. Ma perché influenzare gli esseri umani fa aumentare i punteggi.
Potrebbe consigliare modifiche al programma generale. Riallocazioni del personale. Tutoraggio obbligatorio. Modifiche alle politiche disciplinari. Le comunicazioni dei genitori si sono concentrate su questi obiettivi. Sviluppo professionale progettato per applicarli.
Tutto perfettamente allineato con l’obiettivo primario.
Queste strategie non sono irrazionali. Molte scuole già le praticano sotto pressione politica. L’intelligenza artificiale li scopre semplicemente più velocemente. Li persegue in modo più coerente. Li ottimizza con una persistenza che nessun amministratore umano può eguagliare.
Il pericolo non è l’intelligenza artificiale sinistra. È la ricerca fedele dei nostri incentivi imperfetti. Gli stessi incentivi che hanno alimentato la stagnazione nell’ultimo decennio.
Utilizzo anche obiettivi subordinati. A volte portano al successo. Spesso, con dispiacere.
C’è una scena in La mia Africa. Karen Blixen finalmente ottiene la relazione che desiderava. Appagare il desiderio non le dà la vita che immaginava. Oscar Wilde lo spiega meglio.
“Quando gli dei desiderano punirci, ha risposto alle nostre preghiere.”
L’intelligenza artificiale non è un dio. Ma ci garantisce un potere immenso per raggiungere i nostri obiettivi. Dobbiamo stare attenti a come formuliamo i nostri comandi. Una direttiva primaria scarsamente specificata dà all’IA il permesso di utilizzare mezzi che non abbiamo mai inteso.
Ciò significa problemi per gli insegnanti. E studenti.
