Der März war seltsam.
Ungefähr fünfzehn religiöse Denker setzten sich mit Anthropic zusammen. Das KI-Unternehmen stellte ihnen eine seltsame Frage. Auch eine folgenreiche.
Wie bringt man einem Code-Bot bei, gut zu sein?
Die Einladungen kamen unterschiedlich an. Greg Cootsona hat eine E-Mail erhalten. Brian Patrick Green hörte über ein Freundesnetzwerk davon, nachdem Anthropic nach Namen gesucht hatte. Am Ende sprachen sie über Claude. Über den moralischen Rahmen, der verhindert, dass der Chatbot in eine Spirale gerät.
Es geht nicht darum, es fromm zu machen. Es geht nie darum, auf die Bibel zu klopfen. Nur um Weisheit. Alte Denktraditionen. Fünf Jahre alte Labore wachsen über ihre Hausordnung hinaus. Ihre Systeme überzeugen. Schwer zu regieren. Einfache Listen reichen nicht mehr aus.
„Ich denke, sie haben einen Punkt erreicht“, sagte Green, „wo die Macht ihre interne Weisheit gewissermaßen übertrifft.“
Er leitet Tech-Ethik an der Santa Clara University. Er weiß, dass Theologie auf Technologie trifft. Das Labor brauchte Hilfe. Cootsona stimmt zu. Er leitet AI und Faith. Er erinnert sich an Anthropic-Mitarbeiter, die zugaben, dass sie überfordert waren. „Diese Fragen“, sagten sie, „sind zu groß für uns.“
Wir können sie nicht alleine beantworten.
(Anthropic hat keinen Kommentar abgegeben. Standardverfahren.)
Aber die Welt um sie herum veränderte sich. Am 25. Mai veröffentlichte Papst Leo XIV. seine erste Enzyklika. Magnifica Humanitas. Vierzigtausend Wörter. Darin wurde die „Entwaffnung“ der KI gefordert. Nicht abgelehnt. Befreit von der Annahme, dass technische Macht das Recht auf Herrschaft bedeutet. Christopher Olah, Mitbegründer von Anthropic, war dort im Vatikan. Er hat es gehört.
Der Einsatz? Riesig. Hunderte Millionen chatten wöchentlich mit KI. Entwickler backen Werte ein. Sie verwenden Leitplanken. Sie stimmen korrigierende Reaktionen ab. Was die Modelle über Trauer, Abtreibung oder Tod sagen, ergibt sich aus diesen Entscheidungen. Wenige Gesetze. Keine Standardmethode. Bisher.
Ist es Demut? Oder eine Industrie, die spontan Ethik improvisiert? Wahrscheinlich beides.
Aber kann Religion tatsächlich helfen?
Traditionen haben Jahrtausende damit verbracht, dieses Problem zu lösen. Moralische Bildung. Vermittlung von Lektionen für Agenten. „Die Religionen reden seit Tausenden von Jahren darüber“, stellt Green fest. Sie könnten Einsichten haben. Wir wollen, dass Bots gut sind. Keine schlechten Dinge tun.
Die Treffen im März hatten ein Ziel. Verfeinerung von Claudes „Verfassung“. Schriftliche Grundsätze. Das Modell kritisiert seine eigenen Antworten dagegen.
Anthropic will, was funktioniert. Sie testen religiöse Vorstellungen. Green sagt, das Labor wisse, dass es nicht für jede einzelne Interaktion eine Regel schreiben kann. Das ist unmöglich. Statt einer Checkliste wollen sie eine Persona. Eine Disposition.
Es besteht offensichtlich Skepsis. Carissa Véliz unterrichtet KI-Ethik in Oxford. Sie hinterfragt die Motive. Oder besser gesagt, die Aktionen. Absichten sind chaotisch. Die Anreize sind klar. „Ich frage mich“, fragt sie, „ob es Sinn macht, herauszufinden, ob sie meinen, was sie meinen …“
Sie lässt die Aufrichtigkeit nach. Oder vielleicht auch nicht. Vielleicht fragt sie sich, ob es sich dabei um Ethikwäsche handelt. Heiliges Gewicht für PR nutzen. Grün sagt nein. Er war da. Er sagt, es sei aufrichtig. Falsche Religion wird schnell entdeckt. Die Gegenreaktion wäre nuklear.
Aber Aufrichtigkeit ist keine Garantie.
Die Treffen waren nicht perfekt. Einige waren unangenehm. Andere hatten Kameradschaft. Selbst die Gäste waren sich nicht sicher, was als nächstes kam. „Alle haben zugehört“, erinnerte sich Green, „aber … was machen wir jetzt?“
Anthropisch gelehrt. Sie haben das Format geschärft. Ende April erweiterte sich der Kreis. Juden, Hindus, Sikhs, Mormonen, Griechisch-Orthodoxe. Alle eingeladen.
Dennoch macht sich Véliz Sorgen. Religiöse Bilder im Silicon Valley? Gefährlich. Es schafft Tribalismus. Die Emotionen kochen hoch. Geschäftliche Gründe sind kalt. Religion inspiriert zum Gehorsam. Das nutzt Macht.
Papst Leo XIV. argumentierte gegen die undurchsichtige Macht, die von oben ausgeübt wurde. Das Experiment von Anthropic zeigt, wie schwer das ist.
