Março foi estranho.
Cerca de quinze pensadores religiosos sentaram-se com a Antrópico. A empresa de IA fez uma pergunta estranha. Uma consequência também.
Como você ensina um bot de código a ser bom?
Os convites chegaram de forma diferente. Greg Cootsona recebeu um e-mail. Brian Patrick Green foi ouvido por meio de uma rede de amigos depois que a Anthropic procurou nomes. Acabaram falando sobre Claude. Sobre a estrutura moral que impede o chatbot de entrar em espiral.
Não sobre torná-lo piedoso. Nunca sobre bater na Bíblia. Apenas sobre sabedoria. Velhas tradições de raciocínio. Laboratórios de cinco anos estão superando as regras da casa. Seus sistemas são persuasivos. Difícil de governar. Listas simples não servem mais.
“Acho que eles chegaram a um ponto”, disse Green, “em que o poder está superando sua sabedoria interna”.
Ele dirige a ética tecnológica na Universidade de Santa Clara. Ele sabe que a teologia encontra a tecnologia. O laboratório precisava de ajuda. Cootsona concorda. Ele dirige IA e Faith. Ele se lembra da equipe da Anthropic admitindo que estava sobrecarregada. “Essas questões”, disseram eles, “são grandes demais para nós”.
Não podemos respondê-las sozinhos.
(Anthropic não comentou. Procedimento padrão.)
Mas o mundo ao seu redor estava mudando. Em 25 de maio, o Papa Leão XIV lançou a sua primeira encíclica. Magnífica Humanitas. Quarenta mil palavras. Exigia que a IA fosse “desarmada”. Não rejeitado. Livre da suposição de que o poder tecnológico significa o direito de governar. Christopher Olah, cofundador da Anthropic, estava lá no Vaticano. Ele ouviu.
As apostas? Enorme. Centenas de milhões conversam com IA semanalmente. Os desenvolvedores agregam valores. Eles usam grades de proteção. Eles sintonizam respostas corretivas. O que os modelos dizem sobre o luto, o aborto ou a morte provém destas escolhas. Poucas leis. Nenhum método padrão. Até agora.
É humildade? Ou uma indústria improvisando a ética na hora? Provavelmente ambos.
Mas será que a religião pode realmente ajudar?
As tradições passaram milênios resolvendo isso. Formação moral. Incutir lições nos agentes. “As religiões falam sobre isso há milhares de anos”, observa Green. Eles podem ter insights. Queremos que os bots sejam bons. Para não fazer coisas ruins.
As reuniões de março tinham um objetivo. Refinando a “constituição” de Claude. Princípios escritos. O modelo critica suas próprias respostas contra eles.
A Antrópico quer o que funciona. Eles estão testando ideias religiosas. Green diz que o laboratório sabe que não pode escrever uma regra para cada interação. Isso é impossível. Em vez de uma lista de verificação, eles querem uma persona. Uma disposição.
O ceticismo existe, obviamente. Carissa Véliz ensina ética em IA em Oxford. Ela questiona os motivos. Ou melhor, as ações. As intenções são confusas. Os incentivos são claros. “Eu me pergunto”, ela pergunta, “se faz sentido descobrir se eles querem dizer o que querem…”
Ela perde a sinceridade. Ou talvez não. Talvez ela se pergunte se isso é uma lavagem ética. Usando peso sagrado para relações públicas. Verde diz que não. Ele estava lá. Ele diz que é sincero. A religião falsa é descoberta rapidamente. A reação seria nuclear.
Mas a sinceridade não é uma garantia.
As reuniões não foram perfeitas. Alguns eram estranhos. Outros tinham camaradagem. Mesmo os convidados não tinham certeza do que viria a seguir. “Todo mundo estava ouvindo”, lembrou Green, “mas… o que fazemos agora?”
Antrópico aprendido. Eles aprimoraram o formato. No final de abril, o círculo se ampliou. Judeus, Hindus, Sikhs, Mórmons, Ortodoxos Gregos. Todos convidados.
Mesmo assim, Véliz se preocupa. Imagens religiosas no Vale do Silício? Perigoso. Isso cria tribalismo. As emoções estão em alta. As razões comerciais são frias. A religião inspira obediência. Isso alavanca o poder.
O Papa Leão XIV argumentou contra o poder opaco imposto de cima. O experimento da Antrópico mostra como isso é difícil.
