Maret itu aneh.
Sekitar lima belas pemikir agama duduk bersama Anthropic. Perusahaan AI menanyakan pertanyaan aneh kepada mereka. Yang penting juga.
Bagaimana cara mengajarkan bot kode agar menjadi baik?
Undangannya datang berbeda. Greg Cootsona mendapat email. Brian Patrick Green mendengar melalui jaringan teman-teman setelah Anthropic mencari nama. Mereka akhirnya membicarakan tentang Claude. Tentang kerangka moral yang menjaga agar chatbot tidak berputar-putar.
Bukan tentang menjadikannya saleh. Tidak pernah tentang pemukulan Alkitab. Hanya tentang kebijaksanaan. Tradisi penalaran lama. Laboratorium berusia lima tahun sudah melampaui peraturan rumah mereka. Sistem mereka persuasif. Sulit untuk diatur. Daftar sederhana tidak lagi berguna.
“Saya pikir mereka telah mencapai suatu titik,” kata Green, “di mana kekuatan melampaui kebijaksanaan mereka.”
Dia menjalankan etika teknologi di Santa Clara University. Dia tahu teologi bertemu teknologi. Laboratorium membutuhkan bantuan. Cootsona setuju. Dia mengarahkan AI dan Faith. Dia ingat staf Anthropic mengakui bahwa mereka kewalahan. “Pertanyaan-pertanyaan ini,” kata mereka, “terlalu besar bagi kami.”
Kami tidak dapat menjawabnya sendirian.
(Anthropic tidak berkomentar. Prosedur standar.)
Namun dunia di sekitar mereka sedang berubah. Pada tanggal 25 Mei, Paus Leo XIV mengeluarkan ensiklik pertamanya. Magnifica Humanitas. Empat puluh ribu kata. Mereka menyerukan agar AI “dilucuti.” Tidak ditolak. Terbebas dari asumsi bahwa tech power berarti hak untuk memerintah. Christopher Olah, salah satu pendiri Anthropic, hadir di Vatikan. Dia mendengarnya.
Taruhannya? Sangat besar. Ratusan juta orang mengobrol dengan AI setiap minggunya. Pengembang memasukkan nilai ke dalamnya. Mereka menggunakan pagar pembatas. Mereka menyesuaikan tanggapan korektif. Apa yang dikatakan para model tentang kesedihan, aborsi, atau kematian berasal dari pilihan-pilihan ini. Beberapa undang-undang. Tidak ada metode standar. Sampai sekarang.
Apakah itu kerendahan hati? Atau industri yang melakukan improvisasi etika dengan cepat? Mungkin keduanya.
Namun apakah agama benar-benar bisa membantu?
Tradisi telah menghabiskan waktu ribuan tahun untuk memecahkan masalah ini. Pembentukan moral. Menanamkan pelajaran pada agen. “Agama telah membicarakan hal ini selama ribuan tahun,” kata Green. Mereka mungkin punya wawasan. Kami ingin bot menjadi bagus. Untuk tidak melakukan hal-hal buruk.
Pertemuan bulan Maret mempunyai tujuan. Menyempurnakan “konstitusi” Claude. Prinsip tertulis. Model tersebut mengkritik jawabannya sendiri terhadap jawaban tersebut.
Antropik menginginkan apa yang berhasil. Mereka sedang menguji ide-ide keagamaan. Green mengatakan laboratorium mengetahui bahwa mereka tidak dapat menulis aturan untuk setiap interaksi. Itu tidak mungkin. Alih-alih daftar periksa, mereka menginginkan persona. Sebuah disposisi.
Tentu saja skeptisisme ada. Carissa Véliz mengajar etika AI di Oxford. Dia mempertanyakan motifnya. Atau lebih tepatnya, tindakannya. Niatnya berantakan. Insentifnya jelas. “Saya bertanya-tanya,” dia bertanya, “apakah masuk akal untuk mengetahui apakah mereka memang bersungguh-sungguh…”
Dia kehilangan ketulusannya. Atau mungkin tidak. Mungkin dia bertanya-tanya apakah itu etika mencuci. Menggunakan bobot suci untuk PR. Hijau mengatakan tidak. Dia ada di sana. Dia bilang itu tulus. Agama palsu cepat ketahuan. Serangan balasannya akan bersifat nuklir.
Tapi ketulusan bukanlah jaminan.
Pertemuannya tidak sempurna. Beberapa terasa canggung. Yang lain memiliki persahabatan. Bahkan para tamu pun tidak yakin apa yang akan terjadi selanjutnya. “Semua orang mendengarkan,” kenang Green, “tapi… apa yang kita lakukan sekarang?”
Pembelajaran antropis. Mereka mempertajam formatnya. Pada akhir April, lingkaran ini melebar. Yahudi, Hindu, Sikh, Mormon, Ortodoks Yunani. Semua diundang.
Tetap saja, Véliz khawatir. Citra keagamaan di Silicon Valley? Berbahaya. Hal ini menciptakan tribalisme. Emosi memuncak. Alasan bisnis sangatlah dingin. Agama menginspirasi ketaatan. Itu memanfaatkan kekuatan.
Paus Leo XIV menentang kekuasaan buram yang dipaksakan dari atas. Eksperimen Anthropic menunjukkan betapa sulitnya hal itu.
