ИИ-модель, которая хорошо пишет код, может не только автоматизировать разработку, но и взламывать критическую инфраструктуру. Та же, что помогает в биоисследованиях, способна создать новую пандемию. Именно эта двойная природа умных ИИ-систем делает их «ужасающе опасными», как предупреждает Anthropic в новом отчёте об угрозах.
Этот отчёт, который Борис Черный из Anthropic (создатель Claude Code) назвал «абсолютно ужасающим и важным чтением», фокусируется на двойном назначении (dual-use) способностей ИИ. Компания подчёркивает, что эти проблемы становятся всё сложнее и острее, требуя широкого общественного осмысления и ответа на быстро растущие риски.
Проблема не нова, но её острота растёт с развитием моделей. Anthropic регулярно публикует отчёты об угрозах: предыдущие выходили в марте 2025 года и августе 2025 года, а текущий — в сентябре 2026 года. В них компания отслеживает меняющиеся паттерны злоупотреблений. Например, в отчёте за март 2025 года был описан случай использования Claude для организации кампании «влияния как услуги» (influence-as-a-service). Модель не только генерировала контент, но и координировала действия ботов в соцсетях.
Среди других зафиксированных случаев — операции по краже учётных данных и мошеннические кампании по найму. Отмечались и атаки новичков, усиленные ИИ. Тенденцию подтверждают и сторонние исследования. В отчёте Anthropic ссылается на публикации Microsoft Threat Intelligence: «CaptiveCrunch» о кибероперациях «Midnight Blizzard», усиленных ИИ, и расследование о фишинговых кампаниях с использованием ИИ для кражи кодов устройств.
Регулярные отчёты Anthropic показывают, что по мере развития ИИ-моделей растёт и изощрённость их злонамеренного использования. Главная сложность в том, что одни и те же возможности, которые делают ИИ инструментом для прогресса, могут быть обращены против него. Это требует не только технических решений от разработчиков, но и широкого осмысления обществом того, как адаптироваться к этой быстро меняющейся угрозе.