Březen byl zvláštní měsíc.
Přibližně patnáct náboženských myslitelů se setkalo s antropickými představiteli. Společnost zabývající se umělou inteligencí jim položila neobvyklou, ale nesmírně smysluplnou otázku.
Jak naučit robota založeného na kódu dělat správnou věc?
Pozvánky se k příjemcům dostaly různými způsoby. Greg Cutsona obdržel e-mail. Brian Patrick Green se o setkání dozvěděl prostřednictvím sítě známých poté, co Anthropic hledal vhodná jména. V důsledku toho se konverzace stočily k modelu Claude a morálním zásadám, které chatbotovi brání v tom, aby vyšel z kolejí.
Tady nešlo o vštěpování zbožnosti. A hlavně ne o fanatické propagandě Bible. Bylo to o moudrosti. O starověkých tradicích uvažování. Laboratoře, které jsou jen pět let staré, se v mezích svých vnitřních pravidel zužovaly. Jejich systémy jsou příliš přesvědčivé a obtížně ovladatelné. Jednoduché seznamy zákazů už nestačí.
“Myslím, že dosáhli bodu,” řekl Greene, “kde jejich síla začíná převažovat nad vnitřní moudrostí společnosti.”
Dohlíží na etiku v technologii na Santa Clara University. Ví, jak se teologie setkává s technologií. Laboratoř potřebovala pomoc. Kutsona s tímto hodnocením souhlasí. Vede směr AI a Faith. Pamatuje si, jak zaměstnanci Anthropic říkali, že se cítí ohromeni. “Tyto otázky,” řekli, “jsou pro nás příliš velké.”
Nemůžeme na ně odpovědět sami.
(Anthropic situaci nekomentoval. Standardní postup.)
Ale svět kolem nich se měnil. 25. května vydal svou první encykliku papež Lev XIV. Magnifica Humanitas (Velká lidská důstojnost). Čtyřicet tisíc slov. Vyzval k „odzbrojení“ AI. Ne k jejímu odmítnutí, ale k osvobození od předpokladu, že technologická moc dává právo na moc. Christopher Ola, spoluzakladatel Anthropic, byl přítomen ve Vatikánu. Vyslyšel tuto výzvu.
Sázky jsou vysoké. Stovky milionů lidí každý týden interagují s umělou inteligencí. Vývojáři „otisknou“ hodnoty do modelů. Používají mantinely. Nastavili nápravné reakce. To, co modely říkají o smutku, potratu nebo smrti, závisí na těchto volbách. Zákonů je málo. Neexistuje jediný standard. Stále.
Je to projev pokory? Nebo odvětví, které za běhu improvizuje etické standardy? Pravděpodobně obojí.
Ale může náboženství skutečně pomoci?
Tradice tento problém řeší po staletí. Mravní výchova. Realizace lekcí v hlavách agentů. “Náboženství o tom mluví tisíce let,” poznamenává Greene. Mohou mít užitečné nápady. Chceme, aby byli roboti laskaví. Aby nedělali špatné věci.
Březnová setkání měla svůj účel. Objasnění Claudovy „ústavy“ – psané zásady. Model porovnává své reakce s těmito principy.
Antropický chce to, co funguje. Testují náboženské koncepty. Laboratoř chápe, že nemůže napsat pravidlo pro každou jednotlivou interakci, řekl Green. To je nemožné. Místo kontrolního seznamu chtějí vytvořit personu. Určitý typ postavy.
Samozřejmě panuje skepse. Carissa Velis vyučuje etiku umělé inteligence na Oxfordu. Zpochybňuje motivy. Nebo spíše činy. Záměry jsou zmatené. Zájmy jsou zřejmé. “Zajímalo by mě,” ptá se, “zda má smysl zjišťovat, jestli mají na mysli to, co…”
Přestane mluvit o upřímnosti. Nebo možná ne. Možná se obává, že se jedná o „etický greenwashing“ – ekologické mytí, ale z etiky – používání posvátné váhy pro účely PR. Zelená říká ne. Byl tam. Tvrdí, že jeho úmysly jsou upřímné. Falešná religiozita je rychle odhalena. Zadní slot by byl jaderný.
Ale upřímnost nezaručuje úspěch.
Schůzky nebyly ideální. Některé momenty byly trapné. Ostatní se vyznačují vzájemným porozuměním. Ani hosté si nebyli jisti, co bude dál. “Všichni poslouchali,” vzpomněl si Greene, “ale… co teď budeme dělat?”
Anthropic se poučil. Formát dovedli k dokonalosti. Koncem dubna se okruh účastníků rozšířil. Židé, hinduisté, sikhové, mormoni, řečtí ortodoxní. Všichni byli pozváni.
Velis má stále obavy. Náboženské obrazy v Silicon Valley? Nebezpečný. To vytváří tribalismus. Emoce jsou plné. Obchodní důvody jsou chladné. Náboženství inspiruje k poslušnosti. Toto je nástroj moci.
Papež Lev XIV. vystoupil proti neoprávněné moci vnucené shora. Antropický experiment ukazuje, jak těžké to je.
