Березень видався дивним місяцем.
Приблизно п’ятнадцять релігійних мислителів зустрілися із представниками Anthropic. Компанія, що займається штучним інтелектом, поставила їм незвичайне, але вкрай значуще питання.
Як навчити бота, що працює на основі коду, чинити правильно?
Запрошення доходили до адресатів різними шляхами. Грег Кутсон отримав листа електронною поштою. Браян Патрік Грін дізнався про зустріч через мережу знайомих після того, як Anthropic шукала відповідні імена. У результаті розмови зайшли про модель Claude і моральні принципи, які не дають чат-боту зійти з рейок.
Йшлося не про насадження благочестя. І тим більше не про фанатичну пропаганду Біблії. Йшлося про мудрість. Про давні традиції міркувань. Лабораторіям, яким лише п’ять років, стало тісно у межах своїх внутрішніх правил. Їхні системи надто переконливі та складні в управлінні. Простих списків заборон більше недостатньо.
“Думаю, вони досягли точки, – сказав Грін, – коли їхня потужність починає перевершувати внутрішню мудрість компанії”.
Він займається питаннями етики в технологіях в Університеті Санта-Клари. Він знає, як теологія зустрічається із технологіями. Лабораторії потрібна була допомога. Кутсон згоден з цією оцінкою. Він очолює напрямок «ІІ та віра». Він пам’ятає, як співробітники Anthropic зізнавалися, що почуваються перевантаженими. «Ці питання, — казали вони, — надто великі для нас».
Ми не можемо відповісти на них самотужки.
(Anthropic не коментувала ситуацію. Стандартна процедура.)
Але світ довкола них змінювався. 25 травня Папа Лев XIV випустив свою першу енцикліку. Magnifica Humanitas (Велика людська гідність). Сорок тисяч слів. У ній закликали до «роззброєння» ІІ. Не до його заперечення, а до звільнення від припущення, що технологічна сила дає право на владу. Крістофер Ола, співзасновник Anthropic, був у Ватикані. Він чув це звернення.
Ставки високі. Сотні мільйонів людей щотижня спілкуються з ІІ. Розробники «впечатають» цінності моделі. Вони використовують обмежувачі (guardrails). Вони налаштовують відповіді, що коректують. Те, що моделі говорять про горе, аборти чи смерть, залежить від цих виборів. Законів мало. Єдиного стандарту немає. Досі.
Це вияв смирення? Чи індустрія, що імпровізує етичні норми на ходу? Мабуть, те й інше.
Але чи справді релігія може допомогти?
Традиції століттями вирішували це завдання. Моральне виховання. Впровадження уроків у свідомість агентів. “Релігії говорять про це тисячі років”, – зазначає Грін. Вони можуть бути корисні ідеї. Ми хочемо, щоб боти були добрими. Щоб вони не робили поганих вчинків.
У березневих зустрічей була мета. Уточнення “конституції” Claude – записаних принципів. Модель перевіряє свої відповіді відповідність цим принципам.
Anthropic хоче, що працює. Вони тестують релігійні концепції. За словами Гріна, лабораторія розуміє, що не може написати правило для кожної окремої взаємодії. Це неможливо. Замість чек-листа хочуть створити персону. Певний склад темпераменту.
Звісно, існує скептицизм. Карісса Веліс викладає етику ІІ в Оксфорді. Вона ставить під сумнів мотиви. Або, точніше, події. Наміри заплутані. Інтереси очевидні. «Я запитую, — питає вона, — чи має сенс з’ясовувати, чи означають вони те, що…»
Вона обривається, говорячи про щирість. Або, можливо, ні. Можливо, вона турбується, що це «етичний грінвошинг» (еко-відмивання, але для етики) — використання святої ваги з метою піару. Грін каже, що ні. Він був там. Він стверджує, що наміри щирі. Фальшива релігійність викривається швидко. Бекшлот був би ядерним.
Але щирість не гарантує успіху.
Зустрічі не були ідеальними. Деякі моменти були незручними. Інші відзначені взаєморозумінням. Навіть гості не були певні, що буде далі. “Всі слухали, – згадував Грін, – але… що ми робимо тепер?”
Anthropic здобула уроки. Вони відточили формат. Наприкінці квітня коло учасників розширилося. Євреї, індуїсти, сикхи, мормони, греко-православні. Усі були запрошені.
Веліс, як і раніше, турбується. Релігійні образи у Кремнієвій долині? Небезпечно. Це створює племінність. Емоції зашкалюють. Ділові причини холодні. Релігія вселяє послух. Це інструмент влади.
Папа Лев XIV виступав проти невиправданої влади, нав’язаної згори. Експеримент Anthropic показує, як це складно.
