В этот понедельник Папа Лев XIV представил свою первую энциклику, посвящённую искусственному интеллекту. В качестве приглашённого спикера он обратился к Кристоферу Олашу из компании Anthropic. Небывалое событие. Ватикан протягивает руку дружбы Кремниевой долине. И речь идёт не о формальном жесте, а о реальном сотрудничестве. Чтобы понять, как мы к этому пришли, нужно обратиться к истокам создания Anthropic.
Почему именно Anthropic?
2021 год. Исследователи из OpenAI покинули компанию. Дарио Амодей и его сестра Даниэла ушли, чтобы основать собственную лабораторию. Они убеждены: модели становятся слишком мощными, а логика рыночной конкуренции более не работает. Гонка за скоростью убивает нюансы.
Anthropic выстроила свой бренд на концепции безопасности ИИ. Им нужен контроль. Этическое руководство. Это привело к созданию подхода Конституционного ИИ. Представьте систему, которая обучается на основе набора фундаментальных принципов, а не просто получает заплатки после того, как совершит что-то опасное.
Как сблизились пути
Это не случайность. Появление Олаша в Ватикане было продуманным решением. Святой Престол больше не хотел оставаться лишь моральным наблюдателем со стороны, а стремился вступить в прямой диалог с теми, кто пишет код.
Реальная работа началась ещё в 2020 году с публикации «Римского обращения по этике ИИ». Папская академия жизни объединила усилия с Microsoft и IBM. Прозрачность. Инклюзивность. Подотчётность. Конечно, это стандартные клише, но контекст изменился стремительно. ChatGPT взорвал рынок. США и Китай начали гонку вооружений в сфере ИИ. Крупные технологические компании приобрели пугающую мощь.
Ватикан осознал: вопрос этики технологий теперь关乎 выживание человечества. Anthropic вписалась в эту картину идеально. Пока другие гонятся за ростом, Anthropic носит «безопасность» как свой главный отличительный знак.
Окружение Папы внимательно следило за прогрессом в области выравнивания ИИ (AI alignment).
Роль Кристофера Олаша
Кристофер Олаш — человек тихий. О нём меньше шума в медиа, чем о братьях Амодей. Больше теории. Больше философии. Он изучает интерпретируемость моделей. По сути, он пытается заглянуть внутрь «чёрного ящика» нейронных сетей.
«Превращать нейронные сети в алгоритмы, понятные людям.»
Такова его цель. Она идеально перекликается с опасениями Льва XIV. Создание систем, слишком сложных для понимания, — рискованно. Опасно.
Контакты, вероятно, активизировались на фоне глобальных саммитов по ИИ. Ватикан ценит компании, которые признают: в одиночку эту проблему не решить. Энциклика повторяет эту мысль. Технологии не нейтральны. Алгоритмы несут в себе определенную картину мира. Anthropic пытается «запекать» ценности непосредственно в модель.
Общая тревога. Глубокая. Страх перед системами, которые формируются под влиянием прибыли и геополитики, а не здравого смысла.
Репутация как продукт
Это также вопрос бизнеса. Для Anthropic.
Диалог с Папой повышает авторитет. Концепция «этичной компании в сфере ИИ» продаёт доверие. Особенно сейчас, когда ИИ проникает в сферу труда, шпионажа и вооружений. Их чат-бот Claude построен на языке безопасности. Ответственность стала частью продукта.
«Великолепная» человечность
В энциклике человек назван великолепным (magnificus). Однако способным и на обесчеловечивание. ИИ — это не зло. Это зеркало.
Папа предостерегает от нового Цифрового Вавилона. Мира, где всё сводится к данным. Производительности. Эффективности. Истина уходит на второй план.
Особое внимание уделяется концентрации частной власти. Транснациональным субъектам, держащим поводья. Кто контролирует модель? Кто выбирает критерии обучения?
На презентации Олаш нарушил протокол. Он признал: даже этичные компании попадают в ловушку экономических и геополитических стимулов. Иногда эти стимулы вступают в противоречие с нравственным долгом. Он заявил: индустрия не способна к саморегуляции. Точка.
Хиросима XXI века
Аналогия с атомной бомбой избита. Но остаётся актуальной. Ядерное оружие контролировалось государством. ИИ — частным капиталом.
В этом главная претензия Папы. Технологическая власть теперь носит корпоративный характер.
И Ватикан, и эксперты по безопасности ИИ боятся одного и того же: искажённых стимулов.
Возможно, «Хиросима XXII века» не будет сопровождаться взрывом. Может быть, она будет тихой. Медленная автоматизация. Человечество делегирует своё мышление. Свои решения. Свои отношения.
- Magnifica humanitas* (Великолепная человечность). Может ли она обернуться ужасом?
Увидим.
