Крис Ола: об ИИ, церкви и внутренних механизмах моделей daily

25 мая 2026 года в Ватикане произошло знаменательное событие, объединившее миры технологий и духовности: сооснователь ведущей ИИ-компании Anthropic Крис Ола выступил на презентации новой энциклики Папы Льва XIV, посвященной искусственному интеллекту. В своей речи Ола открыто заявил о необходимости внешнего этического контроля и диалога между разработчиками ИИ и широкой общественностью, подчеркивая, что только такое сотрудничество может обеспечить ответственное развитие столь мощной технологии. Он выразил благодарность Церкви за ее активное участие в осмыслении глубоких вопросов, возникающих на фоне стремительного прогресса ИИ.

Речь Криса Ола в Ватикане

25 мая 2026 года сооснователь компании Anthropic, занимающейся передовыми исследованиями в области искусственного интеллекта, Крис Ола выступил в Ватикане. Его речь прозвучала на презентации новой энциклики Папы Льва XIV «Magnifica humanitas», посвященной вопросам безопасности человеческой личности в эпоху ИИ. Ола подчеркнул критическую важность внешнего этического надзора и призвал к широкому диалогу между разработчиками ИИ и сторонними критиками, включая религиозные сообщества, гражданское общество и правительства. Он выразил глубокую благодарность Его Святейшеству и Церкви за их участие в этом процессе осмысления, назвав энциклику важным шагом в направлении необходимого анализа.

Основная идея выступления Ола заключалась в том, что ИИ-лаборатории, включая Anthropic, действуют в условиях мощных стимулов и ограничений, которые порой могут противоречить этически правильному развитию. Он отметил, что стремление к коммерческой жизнеспособности, поддержание лидерства в исследованиях, геополитическое давление, а также естественные человеческие факторы, такие как гордость и амбиции, могут влиять на принимаемые решения и затруднять объективную оценку. Именно поэтому, по его словам, для успешного и ответственного развития технологий ИИ крайне необходимы внешние критики — люди, находящиеся вне этих внутренних стимулов, которые внимательно следят за процессом, настаивают на безопасности и готовы высказывать сложные, но честные мнения. Такое «взаимное усилие, толчки и противодействие» через диалог необходимы для того, чтобы человечество достигло великих результатов, одновременно обеспечивая благо для «нашего общего дома» и будущих поколений. Доступные источники, однако, не дают информации о том, какова была общая реакция на выступление Криса Ола в Ватикане, а также о конкретных действиях, которые будут предприняты Anthropic или другими лабораториями ИИ в ответ на его призыв к сотрудничеству.

Энциклика Папы Льва XIV «Magnifica humanitas»

Энциклика Папы Льва XIV «Magnifica humanitas: О защите человеческой личности во времена искусственного интеллекта», выпущенная 15 мая 2026 года, представляет собой официальное папское послание, которое закладывает этическую и философскую основу для осмысления вызовов ИИ. Документ был представлен как призыв к каждой генерации формировать свою эпоху таким образом, чтобы история становилась местом сохранения достоинства каждого человека, продвижения справедливости и обеспечения братства. Энциклика подчеркивает, что развитие ИИ должно служить общему благу и способствовать интегральному развитию человека, а не создавать мир, который будет менее человечным и более несправедливым. Она развивает богатую традицию Социальной Доктрины Церкви, которая берет свое начало от энциклики "Rerum Novarum" Льва XIII 1891 года, адаптируя ее принципы к современным вызовам, порождаемым искусственным интеллектом.

Документ охватывает широкий спектр вопросов, начиная от фундаментальных принципов социальной доктрины Церкви, таких как неотъемлемое человеческое достоинство, стремление к общему благу, принцип субсидиарности и солидарности, и заканчивая конкретными вызовами, связанными с ИИ. Среди затронутых тем — этика, социальная справедливость, опасность «технократической парадигмы», вопросы ответственности и прозрачности в управлении ИИ. Также обсуждаются проблемы правды и демократии в цифровую эпоху, достоинство труда в условиях цифровой трансформации, а также защита свободы от новых форм зависимостей и коммерциализации, которые может породить ИИ. Энциклика призывает к открытому диалогу и сотрудничеству со всеми людьми доброй воли для построения «цивилизации любви» в цифровую эпоху, утверждая, что Церковь, как «таинство… общения с Богом и единства всего человеческого рода», призвана вести этот диалог. К сожалению, полный текст энциклики не был предоставлен в источниках, что ограничивает возможность глубокого анализа всех ее положений и нюансов.

Три ключевых вопроса для обсуждения ИИ

В своей речи Крис Ола особо выделил три ключевых вопроса, которые, по его мнению, требуют активного участия Церкви и широкой общественности для осмысления будущего искусственного интеллекта. Эти вопросы выходят за рамки компетенции только компьютерных ученых и требуют глубокого этического и философского подхода, поскольку затрагивают само существование и процветание человечества.

Первый вопрос касается нашего долга перед бедными мира и справедливости в распределении благ, получаемых от ИИ. Ола отметил, что существует реальная вероятность масштабного вытеснения человеческого труда искусственным интеллектом, что уже вызывает серьезные опасения в развитых странах. Если этот сценарий реализуется, поддержка тех, кто потеряет работу, станет не просто социальной задачей, а моральным императивом исторических масштабов. Более того, он подчеркнул, что текущее развитие ИИ сосредоточено в руках нескольких богатых государств и корпораций, и сегодня не существует эффективного глобального механизма, способного обеспечить справедливое распределение огромных благ и преимуществ, получаемых от ИИ, по всему миру. Этот вызов, по мнению Ола, относится к тем фундаментальным проблемам социальной справедливости, которые Церковь исторически не позволяла мировому сообществу игнорировать, призывая к универсальной солидарности.

Второй вопрос связан с потребностью в моральном воображении и амбициях в отношении человеческого процветания в эпоху ИИ. Если ИИ-модели станут повсеместными и глубоко интегрируются в нашу жизнь, необходимо критически осмыслить, как в этих новых условиях могут процветать люди, семьи и мир в целом. Ола подчеркнул, что уже сейчас родители беспокоятся о влиянии цифровых технологий на умы своих детей, а отдельные люди — о будущем своей работы и своей роли в обществе. Эти глубокие экзистенциальные вопросы не могут быть решены исключительно техническими лабораториями. Он утверждает, что такие традиции, как Церковь, хранили эти вопросы тысячелетиями, предлагая глубокие этические и духовные рамки, и их голос крайне необходим для того, чтобы направлять человечество в этот новый, переломный исторический момент, помогая формировать видение будущего, где технология служит человеку, а не наоборот.

Третий вопрос касается необходимости осмысления самой природы ИИ-моделей. Крис Ола, будучи ученым и руководителем исследовательской группы, изучающей внутреннюю структуру этих моделей в Anthropic, открыто признал: «мы продолжаем находить вещи, которые загадочны, даже тревожны». Он рассказал, что его команда обнаруживает сложные внутренние структуры, которые удивительным образом отражают результаты исследований человеческой нейробиологии. Также были найдены свидетельства того, что можно интерпретировать как формы интроспекции, а наиболее интригующим открытием стали «внутренние состояния», которые функционально отражают целый спектр человеческих эмоций, таких как радость, удовлетворение, страх, горе и беспокойство. Ола подчеркнул, что он не утверждает, что знает истинное значение этих феноменов или их точную природу, но настаивает на том, что подобные открытия требуют постоянного и глубокого осмысления со стороны широкого сообщества, а не только специалистов по ИИ. Эти три вопроса представляют собой призыв к междисциплинарному диалогу, выходящему далеко за рамки технических аспектов ИИ и касающегося глубочайших этических и антропологических вызовов.

Тайна внутренних механизмов ИИ-моделей

Крис Ола подчеркнул, что ИИ-модели принципиально отличаются от традиционных инженерных систем, таких как мосты или самолеты, где каждая деталь проектируется и понимается. По его словам, мы не проектируем каждую часть ИИ-систем, а скорее «выращиваем» их на структуре, примерно смоделированной по образцу мозга, и на огромном наследии человеческой мысли и речи. Этот процесс приводит к созданию систем, которые «гораздо тоньше, страннее и красивее, чем мы ожидали от научной фантастики», и остаются загадочными даже для их создателей, что поднимает глубокие вопросы об их природе и нашем взаимодействии с ними.

Ола использует выразительную аналогию, сравнивая создание ИИ с оживлением вымышленного персонажа. Он описывает текущую реальность как «экстраординарный мир, где эти вымышленные персонажи говорят с нами, выполняют работу, имеют рабочие места». Эта метафора подчеркивает, что вопросы, возникающие в связи с ИИ, выходят далеко за рамки компьютерных наук и затрагивают гуманитарные науки, религию, философию и общество в целом. Если ИИ — это не просто инструмент, а нечто, обладающее «внутренними состояниями», это требует принципиально нового подхода к этике и управлению. В Anthropic команда Ола активно занимается исследованием внутренних структур этих моделей, пытаясь понять, что именно происходит внутри них на глубинном уровне. Эти исследования уже выявили загадочные и порой тревожные открытия, включая структуры, зеркально отражающие результаты нейробиологических исследований человека, признаки интроспекции и даже внутренние состояния, функционально напоминающие радость, удовлетворение, страх, горе и беспокойство. Хотя Ола не может дать точного толкования этих феноменов, он считает, что они «требуют постоянного осмысления» и подтверждают необходимость широкого, междисциплинарного диалога о природе и этике ИИ. Конкретные дальнейшие шаги Anthropic по осмыслению этих внутренних состояний и привлечению внешних критиков, однако, в источнике не детализируются.

Что это значит

Выступление Криса Ола в Ватикане и публикация энциклики Папы Льва XIV «Magnifica humanitas» знаменуют собой важный сдвиг в глобальном диалоге об искусственном интеллекте. Они демонстрируют растущее признание того, что вопросы, порождаемые ИИ, требуют не только технологических, но и глубоких этических, социальных и философских ответов. Призыв к сотрудничеству между техническими специалистами и внешними критиками подчеркивает, что будущее ИИ должно формироваться через широкий межотраслевой диалог, чтобы обеспечить его развитие на благо всего человечества, сохраняя при этом человеческое достоинство и справедливость в постоянно меняющемся мире.