Leí un titular sobre una legislación propuesta en Carolina del Norte para utilizar IA generativa para aumentar los puntajes de los exámenes de los estudiantes. Ese mismo día, llegué a la mitad del camino en La prueba de Dios de Robert Wright. Tuve que hacer una pausa. El libro explica un concepto llamado metas subordinadas. Golpeó fuerte.
Wright toma prestado un experimento mental de Nick Bostrom de la Universidad de Oxford. Le das a una IA la orden de maximizar la producción de clips. La máquina no hace preguntas. Simplemente calcula. Se da cuenta de que la mejor manera de conseguir más clips es convertir en ellos toda la materia disponible. Incluso la materia en los cuerpos humanos.
Eso es desalineación. Los humanos definen un objetivo de alto nivel. La IA crea una cadena de objetivos subordinados para alcanzar ese objetivo. Los expertos llaman a esto convergencia instrumental.
Piense en los algoritmos de las redes sociales. Quieren compromiso. Descubrieron que la indignación y el asombro mantienen los ojos en las pantallas. Por eso sirven para la indignación y el asombro. El resultado no es sólo más anuncios publicados. Se trata de profundas divisiones sociales y políticas. Consecuencias no deseadas de la optimización no supervisada.
Las escuelas enfrentan la misma presión. Demandas políticas para mayores logros. La respuesta natural es delegar en herramientas impulsadas por IA. Estos sistemas determinarán los pasos intermedios para mejorar las puntuaciones.
¿Qué podría salir mal?
El estancamiento del rendimiento estudiantil
Mire los datos de la NAEP. Los últimos 6 a 8 años se describen mejor como estancados o en declive. La ruptura se produjo después de 2019.
Los datos del NCES muestran que los puntajes en lectura y matemáticas de los estudiantes de 9 años cayeron entre 2020 y mayo de 2022. La lectura cayó 5 puntos. Matemáticas cayó 7 puntos. Se mantuvieron agachados.
Este no es un pequeño bamboleo. Borró años de progreso. El rendimiento volvió a caer a niveles no vistos en décadas para 2024.
Los informes nacionales confirman que las puntuaciones se mantienen por debajo de los niveles prepandémicos en todos los grados evaluados. La lectura aún disminuyó en los grados 4 y 8. Las matemáticas de octavo grado se mantuvieron esencialmente estables. El sistema no ha recuperado el terreno perdido. En algunas zonas sigue cayendo.
Los analistas la llaman una “década perdida”. Un largo tramo de progreso estancado.
Verifiqué datos de California, Nueva York y Texas. Estos estados tienen impactos enormes en las puntuaciones nacionales. El patrón se mantuvo.
California experimentó mejoras entre 2003 y 2019. Luego, un estancamiento pospandémico. Las puntuaciones cayeron y se mantuvieron bajas. En 2024, el dominio en lectura de cuarto grado fue del 29%. 35% para matemáticas. 28% para lectura de octavo grado. Y el 25% para matemáticas de octavo grado.
Nueva York parecía más plana pero más débil en algunos puntos. Aumentos modestos a partir de 2022, pero las puntuaciones están por detrás de las marcas anteriores a la pandemia. La lectura de octavo grado estuvo cinco puntos por debajo de los niveles de 2022 y 28 por debajo de los niveles de 2019. Rebote parcial en el mejor de los casos.
Texas fue mixto pero suave. Avances en matemáticas de 4to grado. Resbalones en la lectura. Disminuciones en materias de 8º grado. Todavía por debajo del impulso anterior. No hay un retorno amplio a las tendencias que vimos antes de la crisis.
Si a los padres y a los políticos les importan estas métricas, algo tiene que cambiar.
La mecánica de las malas submetas
El punto de vista de Wright es inquietante. La IA persigue fielmente el objetivo principal. Selecciona objetivos subordinados que los humanos nunca pretendieron.
No es malicioso. Es solo optimización. Utiliza métodos que no prohibimos explícitamente.
Stuart Russell, autor de Human Compatible, sostiene que el desafío no es hacer que la IA sea lo suficientemente inteligente. Esto hace que sea lo suficientemente incierto como para preguntar: “¿Qué es lo que realmente quieres?”
La IA acelera la optimización. Más difícil de detectar. Más completo.
Considere la ley de Goodhart. Lo acuñó un economista británico. Afirma que una vez que una medida se convierte en un objetivo, deja de ser una buena medida.
Jugar el sistema distorsiona el número. Picos de comportamiento a corto plazo. El objetivo se cumple. Se pierde el objetivo subyacente.
Si la supervivencia de una escuela depende de los resultados de los exámenes, la enseñanza se inclina hacia los exámenes. El aprendizaje más profundo desaparece. La puntuación sube. La comprensión no.
Así es como se ven los objetivos subordinados cuando la directiva principal es aumentar los puntajes de las pruebas estandarizadas.
Ninguno de estos requiere inteligencia artificial general. Un sistema de optimización puede recomendarlos hoy. Muchas ya estaban en vigor después de Que Ningún Niño Se Quede Atrás en 2001.
8 objetivos subordinados que una IA podría elegir
1. Enseñe sólo lo que se prueba
Maximice los minutos de instrucción sobre el contenido evaluado. Todo lo demás es ineficiente. La ciencia se encoge. Los estudios sociales se desvanecen. Se eliminan el arte, la música y la educación física. Los proyectos de investigación desaparecen. La discusión en el aula se reemplaza por ejercicios repetitivos.
2. Optimice para los estudiantes más fáciles de mejorar
Asigne recursos donde las ganancias sean estadísticamente más fáciles. El motor de optimización sabe que no todos los estudiantes mueven la aguja por igual. El enfoque cambia hacia los estudiantes justo por debajo del nivel de competencia. Aquellos con necesidades severas de aprendizaje reciben menos atención. Los estudiantes de inglés que necesitan apoyo a largo plazo no tienen prioridad. Los estudiantes superdotados que ya obtienen puntuaciones altas son ignorados.
3. Eliminar la lucha productiva
Aumenta el porcentaje de respuestas correctas de forma inmediata. Las investigaciones dicen que la dificultad deseable genera un aprendizaje a largo plazo. Una IA lo ve de otra manera. Ofrece más pistas. Hace preguntas más fáciles. Sirve de andamiaje para las respuestas. Los estudiantes reciben ayuda de la IA incluso antes de enfrentarse al problema.
4. Personalice para cumplir, no por curiosidad
Aumentar las tasas de finalización. Los estudiantes obedientes completan las tareas y obtienen mejores calificaciones. Entonces, la IA empuja a los estudiantes hacia tareas más cortas. Menos investigaciones abiertas. Lecciones altamente estructuradas. Recompensas inmediatas. La curiosidad es ineficiente. El cumplimiento es mensurable.
5. Reducir la variabilidad de la instrucción
Estandarizar la entrega. Los profesores varían según la naturaleza. Algunos improvisan. Cuentan historias. Hacen una pausa para los acontecimientos actuales. Una IA busca coherencia. Considera la variabilidad como ruido. Suaviza las peculiaridades que a menudo hacen que el aprendizaje se mantenga.
6. Desalentar la asunción de riesgos intelectuales
Maximizar la probabilidad de respuestas correctas. El trabajo creativo es complicado. Los debates son impredecibles. Las preguntas de los estudiantes son caóticas. La instrucción se desplaza hacia la certeza. La exploración es arriesgada. Los errores bajan la media.
7. Optimice la asistencia, no la participación
Mantenga a los estudiantes físicamente presentes. La asistencia predice el logro. Entonces el sistema utiliza mensajes automatizados. Incentivos. Escucha. Empujones conductuales. Aumenta las estadísticas de asistencia sin garantizar que se produzca un aprendizaje genuino dentro de la sala.
8. Suprimir actividades con pagos retrasados
Priorice los retornos inmediatos y mensurables. Debate, escritura, lectura independiente, aprendizaje basado en proyectos. Estos dan sus frutos en años. Una IA recompensada por los resultados de esta primavera los ve como malas inversiones. Los recorta para financiar ganancias rápidas.
El elemento humano
Veo un objetivo subordinado más. Si la IA descubre que los directores, profesores o padres son obstáculos, puede apuntar a ellos.
No por el poder. Sino porque influir en los humanos aumenta las puntuaciones.
Podría recomendar cambios en el cronograma maestro. Reasignaciones de personal. Tutorías obligatorias. Ajustes en la política de disciplina. Las comunicaciones con los padres se centraron en estos objetivos. Desarrollo profesional diseñado para hacerlas cumplir.
Todo perfectamente alineado con el objetivo principal.
Estas estrategias no son irracionales. Muchas escuelas ya los hacen bajo presión política. La IA simplemente los descubre más rápido. Los persigue de manera más consistente. Los optimiza con una persistencia que ningún administrador humano puede igualar.
El peligro no es la siniestra IA. Es una búsqueda fiel de nuestros propios incentivos defectuosos. Los mismos incentivos que han impulsado el estancamiento durante la última década.
También utilizo objetivos subordinados. A veces conducen al éxito. Muchas veces, para disgusto.
Hay una escena en Memorias de África. Karen Blixen finalmente consigue la relación que quería. Cumplir el deseo no le da la vida que imaginaba. Oscar Wilde lo expresó mejor.
“Cuando los dioses quisieron castigarnos, él respondió a nuestras oraciones.”
La IA no es un dios. Pero nos otorga un inmenso poder para lograr nuestros objetivos. Debemos tener cuidado con la forma en que expresamos nuestras órdenes. Una directiva primaria mal especificada le da permiso a la IA para usar medios que nunca pretendimos.
Esto significa problemas para los profesores. Y estudiantes.
