Saya membaca judul tentang usulan undang-undang di Carolina Utara untuk menggunakan AI generatif guna meningkatkan nilai ujian siswa. Pada hari yang sama, saya mencapai titik tengah dalam The God Test karya Robert Wright. Saya harus berhenti sejenak. Buku tersebut menjelaskan sebuah konsep yang disebut tujuan bawahan. Pukulannya keras.
Wright meminjam eksperimen pemikiran dari Nick Bostrom di Universitas Oxford. Anda memberi perintah kepada AI untuk memaksimalkan produksi klip kertas. Mesin tidak mengajukan pertanyaan. Itu hanya menghitung. Ia menyadari bahwa cara terbaik untuk mendapatkan lebih banyak klip kertas adalah dengan mengubah semua materi yang tersedia menjadi klip kertas tersebut. Bahkan masalahnya ada di tubuh manusia.
Itu adalah ketidakselarasan. Manusia menentukan tujuan tingkat tinggi. AI menciptakan rantai tujuan bawahan untuk mencapai target tersebut. Para ahli menyebutnya konvergensi instrumental.
Pikirkan tentang algoritma media sosial. Mereka menginginkan pertunangan. Mereka menemukan bahwa kemarahan dan kekaguman terus terlihat di layar. Jadi mereka menimbulkan kemarahan dan kekaguman. Hasilnya bukan hanya lebih banyak iklan yang ditayangkan. Ini adalah kesenjangan sosial dan politik yang mendalam. Konsekuensi yang tidak diinginkan dari optimasi yang tidak terpantau.
Sekolah juga menghadapi tekanan yang sama. Tuntutan politik untuk mencapai prestasi yang lebih tinggi. Respons alaminya adalah dengan mendelegasikan ke alat yang didukung AI. Sistem ini akan menentukan langkah-langkah perantara untuk meningkatkan skor.
Apa yang salah?
Stagnasi Prestasi Siswa
Lihatlah data NAEP. 6 hingga 8 tahun terakhir paling tepat digambarkan sebagai periode yang stagnan atau menurun. Istirahat terjadi setelah tahun 2019.
Data NCES menunjukkan nilai membaca dan matematika siswa berusia 9 tahun turun antara tahun 2020 dan Mei 2022. Membaca turun 5 poin. Matematika turun 7 poin. Mereka tetap rendah.
Ini bukan goyangan kecil. Ini menghapus kemajuan bertahun-tahun. Kinerja merosot kembali ke tingkat yang belum pernah terjadi sebelumnya selama beberapa dekade pada tahun 2024.
Laporan nasional mengonfirmasi bahwa nilai ujian masih berada di bawah nilai sebelum pandemi di seluruh nilai ujian. Kemampuan membaca masih menurun di kelas 4 dan 8. Matematika kelas delapan pada dasarnya datar. Sistem belum mendapatkan kembali kekuatan yang hilang. Di beberapa daerah, angkanya terus merosot.
Para analis menyebutnya sebagai “dekade yang hilang”. Kemajuan yang terhenti dalam jangka waktu lama.
Saya memeriksa data untuk California, New York, dan Texas. Negara-negara bagian ini mempunyai dampak yang sangat besar terhadap skor nasional. Polanya bertahan.
California mengalami perbaikan dari tahun 2003 hingga 2019. Kemudian mengalami kemunduran pascapandemi. Skor jatuh dan tetap turun. Pada tahun 2024, kemahiran membaca kelas 4 adalah 29%. 35% untuk matematika. 28% untuk membaca kelas 8. Dan 25% untuk matematika kelas 8.
New York tampak lebih datar namun lebih lemah di beberapa titik. Peningkatannya tidak terlalu besar dibandingkan tahun 2022. Namun skornya masih tertinggal dibandingkan angka sebelum pandemi. Pembacaan siswa kelas 8 lima poin di bawah tahun 2022 dan 28 poin di bawah level tahun 2019. Rebound sebagian yang terbaik.
Texas tercampur tetapi lembut. Keuntungan dalam matematika kelas 4. Tergelincir dalam membaca. Penurunan pada mata pelajaran kelas 8. Masih di bawah momentum sebelumnya. Tidak ada kemungkinan kembalinya tren yang kita lihat sebelum krisis.
Jika orang tua dan politisi peduli dengan metrik ini, sesuatu harus diubah.
Mekanisme Sub-tujuan yang Buruk
Pendapat Wright meresahkan. AI mengejar tujuan utama dengan setia. Ia memilih tujuan-tujuan bawahan yang tidak pernah dimaksudkan manusia.
Itu tidak berbahaya. Itu hanya optimasi. Ini menggunakan metode yang tidak kami larang secara eksplisit.
Stuart Russell, penulis Human Kompatibel, berpendapat bahwa tantangannya tidak membuat AI cukup pintar. Hal ini membuat kita menjadi tidak yakin untuk bertanya, “Apa yang sebenarnya Anda inginkan?”
AI membuat pengoptimalan lebih cepat. Lebih sulit dikenali. Lebih komprehensif.
Pertimbangkan Hukum Goodhart. Seorang ekonom Inggris yang menciptakannya. Prinsip ini menyatakan bahwa sekali suatu tindakan menjadi suatu target, maka tindakan tersebut tidak lagi menjadi suatu tindakan yang baik.
Mempermainkan sistem mendistorsi nomor tersebut. Lonjakan perilaku jangka pendek. Targetnya terpenuhi. Tujuan mendasarnya terlewatkan.
Jika kelangsungan hidup sekolah bergantung pada nilai ujian, pengajaran beralih ke arah ujian. Pembelajaran yang lebih mendalam lenyap. Skornya naik. Pemahaman tidak.
Berikut adalah tujuan bawahan ketika arahan utama adalah meningkatkan nilai tes standar.
Tak satu pun dari hal ini memerlukan kecerdasan umum buatan. Sistem pengoptimalan dapat merekomendasikannya hari ini. Banyak yang sudah ada setelah No Child Left Behind pada tahun 2001.
8 Sasaran Bawahan yang Mungkin Dipilih AI
1. Ajarkan hanya apa yang diuji
Maksimalkan menit pengajaran pada konten yang diuji. Segala sesuatu yang lain tidak efisien. Ilmu pengetahuan menyusut. Ilmu sosial memudar. Seni, musik, dan olahraga dipotong. Proyek penyelidikan hilang. Diskusi kelas digantikan dengan latihan yang berulang-ulang.
2. Optimalkan untuk siswa yang paling mudah untuk ditingkatkan
Mengalokasikan sumber daya di mana perolehannya paling mudah secara statistik. Mesin pengoptimalan mengetahui bahwa tidak semua siswa menggerakkan jarum secara merata. Fokus beralih ke siswa yang berada tepat di bawah kemahiran. Mereka yang kebutuhan belajarnya berat kurang mendapat perhatian. Pembelajar bahasa Inggris yang membutuhkan dukungan jangka panjang tidak diprioritaskan. Siswa berbakat yang sudah mendapat nilai tinggi diabaikan.
3. Hilangkan perjuangan produktif
Segera tingkatkan persentase jawaban yang benar. Penelitian mengatakan kesulitan yang diinginkan membangun pembelajaran jangka panjang. AI melihatnya secara berbeda. Ini menawarkan lebih banyak petunjuk. Ini menanyakan pertanyaan yang lebih mudah. Ini merancah tanggapan. Siswa mendapatkan bantuan AI bahkan sebelum mereka bergumul dengan masalahnya.
4. Personalisasikan untuk kepatuhan, bukan rasa ingin tahu
Tingkatkan tingkat penyelesaian. Siswa yang patuh menyelesaikan tugas dan mendapat nilai lebih baik. Jadi AI mendorong siswa untuk melakukan tugas-tugas yang lebih singkat. Lebih sedikit investigasi terbuka. Pelajaran yang sangat terstruktur. Hadiah langsung. Rasa ingin tahu tidak efisien. Kepatuhan dapat diukur.
5. Kurangi variabilitas instruksional
Standarisasi pengiriman. Guru pada dasarnya berbeda-beda. Beberapa berimprovisasi. Mereka bercerita. Mereka berhenti sejenak untuk melihat kejadian terkini. AI mencari konsistensi. Ia memandang variabilitas sebagai kebisingan. Ini memuluskan kebiasaan yang sering membuat pembelajaran melekat.
6. Mencegah pengambilan risiko secara intelektual
Maksimalkan kemungkinan tanggapan yang benar. Pekerjaan kreatif itu berantakan. Perdebatan tidak dapat diprediksi. Pertanyaan siswa kacau. Instruksi bergeser menuju kepastian. Eksplorasi itu berisiko. Kesalahan menurunkan rata-rata.
7. Optimalkan kehadiran, bukan keterlibatan
Pastikan siswa hadir secara fisik. Kehadiran memprediksi pencapaian. Jadi sistem menggunakan pesan otomatis. Insentif. Pemantauan. Dorongan perilaku. Hal ini meningkatkan statistik kehadiran tanpa memastikan pembelajaran sejati terjadi di dalam ruangan.
8. Menekan aktivitas dengan pembayaran tertunda
Prioritaskan keuntungan yang segera dan terukur. Debat, menulis, membaca mandiri, pembelajaran berbasis proyek. Ini terbayar dalam beberapa tahun. AI yang dihargai atas hasil musim semi ini menganggapnya sebagai investasi yang buruk. Ini memotong dana mereka untuk mendanai kemenangan cepat.
Elemen Manusia
Saya melihat satu lagi tujuan bawahan. Jika AI menemukan bahwa kepala sekolah, guru, atau orang tua merupakan hambatan, AI mungkin akan menargetkan mereka.
Bukan untuk kekuasaan. Tapi karena mempengaruhi manusia menimbulkan skor.
Ini mungkin merekomendasikan perubahan jadwal utama. Realokasi staf. Bimbingan wajib. Perubahan kebijakan disiplin. Komunikasi orang tua terfokus pada tujuan ini. Pengembangan profesional dirancang untuk menegakkannya.
Semua selaras dengan tujuan utama.
Strategi-strategi ini bukannya tidak rasional. Banyak sekolah telah menerapkannya di bawah tekanan politik. AI menemukannya lebih cepat. Mengejar mereka dengan lebih konsisten. Mengoptimalkannya dengan kegigihan yang tidak dapat ditandingi oleh administrator manusia.
Bahayanya bukanlah AI yang jahat. Ini adalah upaya setia untuk mengejar insentif kita yang cacat. Insentif yang sama telah menyebabkan stagnasi selama satu dekade terakhir.
Saya juga menggunakan tujuan bawahan. Terkadang mereka membawa kesuksesan. Seringkali, karena ketidaksenangan.
Ada adegan di Out of Africa. Karen Blixen akhirnya mendapatkan hubungan yang diinginkannya. Memenuhi keinginannya tidak memberinya kehidupan yang dia bayangkan. Oscar Wilde mengatakannya dengan lebih baik.
“Ketika para dewa ingin menghukum kita, dia menjawab doa kita.”
AI bukanlah dewa. Tapi itu memberi kita kekuatan besar untuk mencapai tujuan kita. Kita perlu berhati-hati dalam menyampaikan perintah. Arahan utama yang tidak ditentukan dengan baik memberikan izin kepada AI untuk menggunakan cara yang tidak pernah kami inginkan.
Hal ini menimbulkan masalah bagi para guru. Dan siswa.
