OpenAI заблокировала две масштабные операции влияния, использующие искусственный интеллект для создания «фальшивых фронтов». Впервые за два с половиной года мониторинга одна из этих кампаний достигла пятой категории по шкале Breakout Scale — это самый высокий уровень сложности и охвата, который фиксировала компания. Операции велись из России и Ирана.
Российская операция, названная OpenAI «Dark Clark», достигла пятой категории по шкале Breakout Scale. Эта кампания была направлена на страны Латинской Америки, пытаясь подорвать репутацию Украины и повлиять на местную политику в Аргентине и Боливии. Иранская операция достигла четвёртой категории, используя семь подставных «журналистов» для публикации статей в малых и средних онлайн-изданиях.
Обе операции активно использовали ИИ для повышения эффективности. Российская кампания применяла модели для создания внутренних отчётов, поддельных документов и аудиоскриптов. Иранская — для написания статей и комментариев в соцсетях. Отличительной чертой «Dark Clark» стало успешное вовлечение ничего не подозревающих людей в Латинской Америке для работы в подставном «аналитическом центре» под названием Social Research Center. Это сделало её самой сложной фронтовой операцией, обнаруженной OpenAI.
Контент, созданный с помощью ИИ, не ограничивался только социальными сетями. Обе кампании смогли разместить свои материалы в реальных СМИ, что увеличило их потенциальный охват и влияние. Например, российская операция распространяла фейки, которые вызывали опровержения от фактчекеров и даже влияли на публичные заявления официальных лиц, как в случаях с поддельными письмами школам Перу и Эквадора.
Операторы «Dark Clark» также использовали ИИ для создания внутренних отчётов для своих руководителей, в которых описывали свои действия, включая попытки приписать себе чужие достижения. Это указывает на то, что ИИ применялся не только для внешнего влияния на аудиторию, но и для манипуляции внутренней отчётностью и создания ложного впечатления об эффективности.
Эти инциденты подчёркивают, как ИИ становится обоюдоострым мечом в руках акторов влияния, позволяя им достигать масштаба и сложности. При этом OpenAI демонстрирует способность противостоять этим угрозам. Однако в отчёте не раскрываются конкретные технические методы, которые OpenAI использовала для обнаружения и пресечения этих сложных, ИИ-усиленных кампаний.