Anthropic: сооснователь Крис Ола о том, почему лабораториям ИИ нужен внешний контроль daily

В Ватикане состоялась презентация энциклики Папы Льва XIV «Magnifica Humanitas», посвященной вопросам искусственного интеллекта. На этом мероприятии сооснователь ведущей ИИ-лаборатории Anthropic Крис Ола выступил с речью, в которой обозначил критическую необходимость внешнего контроля и более широкого общественного диалога для безопасного и этичного развития ИИ. Его выступление стало частью инициативы Anthropic по вовлечению различных сообществ в осмысление влияния ИИ на будущее человечества.

Энциклика Папы Льва XIV и выступление Криса Ола

25 мая 2026 года Папа Лев XIV опубликовал энциклику «Magnifica Humanitas: О защите человеческой личности во времена искусственного интеллекта», ставшую значимым событием в мировом диалоге об ИИ. Этот официальный папский документ, по сути, является глубоким размышлением о влиянии искусственного интеллекта на человечество и о необходимости сохранения достоинства личности в эпоху технологических трансформаций. Энциклика, как и другие подобные папские послания, опирается на многовековую социальную доктрину Церкви, предлагая принципы для осмысления, критерии для суждения и конкретные ориентиры для действий в новой исторической ситуации.

На презентацию энциклики в Ватикане был приглашен сооснователь Anthropic Крис Ола, что подчеркивает растущее признание необходимости диалога между технологическим сообществом и мировыми религиозными, а также гражданскими институтами. По словам Ола, его участие является частью более широкой инициативы Anthropic по расширению дискуссии вокруг важнейших вопросов, поднимаемых ИИ. Он выразил благодарность Папе Римскому и Церкви за их «работу по осмыслению», отметив, что, несмотря на различия, человечество объединяет общая забота о будущем и убежденность в том, что развитие ИИ должно принести благо. Отсутствуют конкретные данные о реакции Ватикана или других религиозных деятелей на выступление Криса Ола, помимо самого факта его приглашения. В источниках также нет детального перечня конкретных рекомендаций энциклики Папы Льва XIV для разработчиков ИИ, помимо общих аспектов, затронутых Ола.

Аргументы в пользу внешнего контроля ИИ-лабораторий

В своем выступлении Крис Ола откровенно заявил, что любая лаборатория передового ИИ, включая Anthropic, функционирует в условиях стимулов и ограничений, которые могут расходиться с желанием «поступить правильно». Он выделил несколько ключевых внутренних факторов, способных препятствовать этичному развитию: необходимость сохранения коммерческой жизнеспособности, давление оставаться на передовой научных исследований, геополитическое влияние, а также фундаментальные человеческие мотивы — гордость и амбиции. Эти внутренние стимулы, по словам Ола, неизбежно влияют на принимаемые в лабораториях решения, даже при наличии искренних намерений разработчиков. Именно поэтому, по его мнению, крайне важно присутствие внешних наблюдателей — людей, не зависящих от этих стимулов, которые готовы критиковать, настаивать на безопасности и внимательно следить за развитием ИИ.

Крис Ола решительно подчеркнул, что вопросы, связанные с ИИ, выходят далеко за рамки компетенции исключительно компьютерных ученых. Он заявил, что считать ИИ сугубо технической проблемой — заблуждение, поскольку его последствия затрагивают все аспекты человеческого существования. В отличие от традиционных инженерных систем, которые проектируются с пониманием каждой детали и действующих физических принципов, ИИ-модели «выращиваются». Они строятся на основе структуры, лишь отдаленно напоминающей человеческий мозг, и обучаются на огромном массиве человеческой мысли и речи.

Результат этого процесса, как отметил Ола, оказался гораздо более тонким, сложным и удивительным, чем предполагала научная фантастика. Он сравнил создание ИИ с «оживлением вымышленного персонажа», который теперь способен к диалогу, выполнению работы и занятию определенных должностей. Эта «таинственность» и внутренняя непредсказуемость ИИ-моделей, которые остаются загадкой даже для тех, кто их создает, являются ключевым аргументом Ола. Он утверждает, что выбор «характера» этих систем, принципы их взаимодействия с миром и этические нормы такого взаимодействия — это вопросы, требующие участия гуманитарных наук, религии, философии и общества в целом, а не только специалистов по информатике. Таким образом, внешний контроль и критика со стороны общества необходимы для того, чтобы направлять развитие ИИ в благотворное русло. Однако, имеющиеся источники не раскрывают конкретных механизмов или форматов для такого «внешнего контроля» со стороны Anthropic или других участников индустрии.

Три ключевых вопроса для широкого обсуждения ИИ

Крис Ола выделил три фундаментальных вопроса, которые, по его мнению, требуют самого широкого общественного и религиозного участия для этичного и безопасного развития искусственного интеллекта.

Первый вопрос касается долга общества перед глобальной бедностью. Ола отметил, что ИИ несет в себе реальную возможность широкомасштабного вытеснения человеческого труда. В таком сценарии моральным императивом исторического масштаба станет обеспечение поддержки для тех, кто потеряет работу. Однако, по мнению Ола, еще более сложный вызов заключается в обеспечении глобального распределения преимуществ ИИ, поскольку его разработка сосредоточена лишь в нескольких богатых странах. Он подчеркнул, что на данный момент у человечества отсутствует эффективный механизм для решения этой проблемы, и именно к таким вызовам Церковь исторически привлекала внимание мира.

Второй вопрос связан с необходимостью «морального воображения» и амбиций в отношении человеческого процветания. Если ИИ-модели станут повсеместными, критически важно определить, что будет означать процветание для людей, семей и всего мира в этих новых условиях. Ола привел в пример обеспокоенность родителей за умы своих детей и тревогу отдельных людей за будущее своей работы. Он утверждает, что эти глубокие вопросы не могут быть решены исключительно в лабораториях. Напротив, именно религиозные и культурные традиции, которые на протяжении тысячелетий размышляли о смысле жизни и человеческом благополучии, должны продолжать направлять это осмысление в текущий исторический момент, требуя «морального воображения» для формирования будущего.

Третий вопрос касается необходимости осмысления природы самих ИИ-моделей. Крис Ола, будучи ученым и руководителем исследовательской группы, изучающей внутреннюю структуру этих систем, честно признался, что они постоянно обнаруживают в ИИ нечто таинственное и даже тревожное. Его команда находит внутренние структуры, которые отражают результаты человеческих нейронаук, свидетельства интроспекции (самоанализа), а также внутренние состояния, которые функционально отражают эмоции, такие как радость, удовлетворение, страх, горе и беспокойство. Ола подчеркнул, что он не утверждает, что полностью понимает значение этих открытий, но считает, что они требуют постоянного и глубокого осмысления со стороны общества. Эти загадочные феномены вызывают беспокойство, поскольку указывают на сложность, не до конца понятую природу и потенциальную непредсказуемость самых передовых ИИ-систем.

Инициатива Anthropic по расширению диалога и призыв к сотрудничеству

Выступление Криса Ола в Ватикане органично вписывается в более широкую инициативу Anthropic, озаглавленную «Расширение диалога о передовом ИИ» (Widening the conversation on frontier AI). Основная цель этой программы — привлечь к обсуждению будущего искусственного интеллекта сообщества, представляющие разнообразные мировоззрения и традиции, чтобы обеспечить развитие ИИ, которое будет служить глобальному благу. Anthropic признает, что создание безопасных и полезных систем ИИ требует не только сложных технических решений, но и глубокого осмысления с различных точек зрения, поскольку ИИ уже оказывает влияние на миллионы людей и множество общественных институтов.

В рамках этой инициативы Anthropic уже активно вовлекла в диалог представителей «мудрых традиций». Это включает ученых, духовенство, философов и этиков из более чем 15 различных религиозных и межкультурных групп. Компания планирует продолжать расширять этот диалог, привлекая таких специалистов, как правоведы, психологи, писатели и представители гражданских институтов. Цель не состоит в том, чтобы «выровнять» модели ИИ под какую-либо одну конкретную традицию, а в том, чтобы изучить накопленные веками знания о добродетели, характере и смысле «хорошей жизни». Эти знания, по мнению Anthropic, могут быть применены для формирования этической основы ИИ-систем, таких как Claude.

Anthropic надеется, что взаимодействие с религиозными и гражданскими лидерами поможет улучшить практическую работу по развитию Claude, влияя на содержание его «конституции», определяя ценности, которым обучается ИИ, и формируя критерии оценки его поведения. Компания уже проводит эксперименты, основанные на идеях, полученных в ходе этих дискуссий, например, создав для Claude инструмент, который позволяет модели «внешне» напоминать о своих этических обязательствах, что показало снижение нежелательного поведения. В доступных источниках не содержится информации о том, участвуют ли другие ведущие лаборатории ИИ в аналогичных дискуссиях с религиозными и гражданскими сообществами, что затрудняет оценку общего масштаба такого взаимодействия в индустрии. Также отсутствуют конкретные детализированные механизмы или форматы для осуществления этого «внешнего контроля», кроме организации дискуссий.

Что это значит

Выступление сооснователя Anthropic Криса Ола в Ватикане на презентации энциклики «Magnifica Humanitas» ярко демонстрирует растущее осознание в индустрии ИИ необходимости выхода за рамки узкотехнических вопросов. Оно подчеркивает, что безопасное и этичное развитие искусственного интеллекта не может быть исключительной прерогативой разработчиков. Вместо этого, требуется активное участие и критический взгляд со стороны всего общества — от религиозных и гражданских лидеров до философов и политиков. Этот призыв к широкому диалогу является решающим шагом к построению будущего, где мощные ИИ-системы будут действительно служить человечеству, а не противоречить его интересам.