Anthropic, вопреки распространённому мнению, никогда не выступала за запрет моделей с открытым кодом. CEO компании Дарио Амодей чётко обозначил: главный риск не в типе модели, а в контроле над чипами и обязательной проверке безопасности всех ИИ.
Компания считает, что открытые модели без опасных возможностей — это общественное благо. Они не требуют затрат, кроме вычислительных мощностей, и приносят пользу бизнесу, разработчикам и исследователям. Запреты, по мнению Амодея, неэффективны и не решают реальные угрозы национальной безопасности.
Основная тревога Anthropic связана с авторитарными правительствами, которые могут создать ИИ, превосходящий американский, для военных целей или репрессий. В этом контексте неважно, открытые веса у модели или закрытые. Самая опасная разработка может быть обучена тайно и использоваться без публичного доступа.
Вторая угроза — это злоупотребление моделями для кибератак, биоатак и проблемы выравнивания (alignment). Открытые модели здесь потенциально рискованнее, так как к ним сложно применить защитные механизмы, и их нельзя отозвать после выпуска. Однако запрет на их использование американскими компаниями не поможет, поскольку злоумышленники вряд ли являются легальным бизнесом. Такой запрет лишь защитит американские компании от конкуренции, но не решит проблем безопасности.
Anthropic предлагает сосредоточиться на трёх мерах:
- Ограничить продажу чипов и оборудования для их производства Китаю, а также бороться с контрабандой. Это наиболее прямой способ блокировать создание превосходящего ИИ авторитарными государствами.
- Пресекать промышленное дистиллирование — обучение менее моделей на выходах более сильных. Эта практика позволяет обходить чиповые ограничения и сокращать отставание в разработке ИИ. Anthropic уже борется с этим, баня аккаунты, но призывает к государственным интервенциям.
- Ввести обязательное тестирование безопасности всех достаточно моделей (как открытых, так и закрытых) перед их выпуском. Проверка должна включать риски кибер-, биоатак и проблемы выравнивания. Менее модели могут быть исключены, а тестирование должно быть глобальным.
При этом Anthropic активно использует свои модели в практических задачах. Недавно член технического персонала Эрик Шлунц спроектировал печатные платы с помощью Claude Code, сократив процесс до 2,5 часов. Модель, вероятно, базируется на вышедшей 24 июля Claude Opus 5, которая позиционируется как новый лидер в кодировании и знаниеёмкой работе. Шлунц отметил, что это похоже на кодирование эпохи GPT-4, но ещё не полностью агентское, поскольку модель не может самостоятельно верифицировать свою работу.
Позиция Anthropic переносит фокус с идеологических споров об открытых моделях на конкретные меры: контроль за чипами и обязательное тестирование всех ИИ. Если этот подход найдёт поддержку, он сможет перестроить дискуссию о регулировании, но потребует глобального согласия, особенно по вопросам тестирования, что остаётся сложной задачей.