Marzo fue extraño.
Una quincena de pensadores religiosos se sentaron con Anthropic. La empresa de inteligencia artificial les hizo una pregunta extraña. Uno con consecuencias también.
¿Cómo se le enseña a un robot de código a ser bueno?
Las invitaciones llegaron de otra manera. Greg Cootsona recibió un correo electrónico. Brian Patrick Green se enteró a través de una red de amigos de un amigo después de que Anthropic buscara nombres. Terminaron hablando de Claude. Sobre el marco moral que evita que el chatbot se dispare.
No se trata de hacerlo piadoso. Nunca sobre golpear la Biblia. Sólo sobre sabiduría. Viejas tradiciones de razonamiento. Los laboratorios de cinco años de antigüedad están superando sus reglas internas. Sus sistemas son persuasivos. Difícil de gobernar. Las listas simples ya no son suficientes.
“Creo que han llegado a un punto”, dijo Green, “en el que el poder está superando en cierto modo su sabiduría interna”.
Dirige la ética tecnológica en la Universidad de Santa Clara. Él sabe que la teología se encuentra con la tecnología. El laboratorio necesitaba ayuda. Cootsona está de acuerdo. Dirige AI y Faith. Recuerda que el personal de Anthropic admitió que estaba abrumado. “Estas preguntas”, dijeron, “son demasiado grandes para nosotros”.
No podemos responderlas solos.
(Anthropic no hizo comentarios. Procedimiento estándar).
Pero el mundo que los rodeaba estaba cambiando. El 25 de mayo, el Papa León XIV abandonó su primera encíclica. Magnífica Humanitas. Cuarenta mil palabras. Pidió que se “desarme” la IA. No rechazado. Liberados de la suposición de que el poder tecnológico significa el derecho a gobernar. Christopher Olah, cofundador de Anthropic, estuvo en el Vaticano. Él lo escuchó.
¿Lo que está en juego? Enorme. Cientos de millones chatean con IA semanalmente. Los desarrolladores incorporan valores. Utilizan barandillas. Afinan las respuestas correctivas. Lo que dicen los modelos sobre el duelo, el aborto o la muerte proviene de estas elecciones. Pocas leyes. Ningún método estándar. Hasta ahora.
¿Es humildad? ¿O una industria que improvisa la ética sobre la marcha? Probablemente ambas cosas.
Pero, ¿puede realmente ayudar la religión?
Las tradiciones han pasado milenios resolviendo esto. Formación moral. Inculcar lecciones a los agentes. “Las religiones han hablado de esto durante miles de años”, señala Green. Es posible que tengan ideas. Queremos que los bots sean buenos. Para no hacer cosas malas.
Las reuniones de marzo tenían un objetivo. Refinando la “constitución” de Claude. Principios escritos. El modelo critica sus propias respuestas contra ellos.
Anthropic quiere lo que funciona. Están poniendo a prueba ideas religiosas. Green dice que el laboratorio sabe que no pueden escribir una regla para cada interacción. Eso es imposible. En lugar de una lista de verificación, quieren una persona. Una disposición.
El escepticismo existe, evidentemente. Carissa Véliz enseña ética de la IA en Oxford. Ella cuestiona los motivos. O mejor dicho, las acciones. Las intenciones son confusas. Los incentivos son claros. “Me pregunto”, pregunta, “si tiene sentido averiguar si quieren decir lo que quieren…”
Ella pierde la sinceridad. O tal vez no. Quizás se pregunte si se trata de un lavado de ética. Usando el peso sagrado para las relaciones públicas. Verde dice que no. Él estaba allí. Dice que es sincero. La religión falsa se detecta rápidamente. La reacción sería nuclear.
Pero la sinceridad no es una garantía.
Las reuniones no fueron perfectas. Algunos eran incómodos. Otros tenían camaradería. Ni siquiera los invitados estaban seguros de lo que vendría después. “Todo el mundo estaba escuchando”, recordó Green, “pero… ¿qué hacemos ahora?”
Antrópico aprendido. Afinaron el formato. A finales de abril, el círculo se amplió. Judíos, hindúes, sikhs, mormones, griegos ortodoxos. Todos invitados.
Aún así, Véliz se preocupa. ¿Imágenes religiosas en Silicon Valley? Peligroso. Crea tribalismo. Las emociones están a flor de piel. Las razones comerciales son frías. La religión inspira obediencia. Eso aprovecha el poder.
El Papa León XIV argumentó contra el poder opaco impuesto desde arriba. El experimento de Anthropic muestra lo difícil que es eso.
