Стоит читать если: вы работаете с AI-генерацией изображений или обеспокоены достоверностью цифрового контента. Можно пропустить если: вас не волнует атрибуция AI-медиа или вы не используете инструменты OpenAI для создания визуального контента.
Многослойная система верификации: C2PA и SynthID
OpenAI внедряет многоуровневый подход к подтверждению происхождения контента, сочетая метаданные и невидимые водяные знаки. Это ответ на растущую проблему достоверности медиа, созданных искусственным интеллектом. Долгое время метаданные Content Credentials были основным методом, но их легко удалить или повредить. Новая стратегия призвана сделать атрибуцию более устойчивой.
Компания стала C2PA Conforming Generator Product, что делает её метаданные более надёжными. OpenAI участвует в разработке и принятии стандартов происхождения с 2024 года, добавляя Content Credentials к изображениям, сгенерированным DALL·E 3, ImageGen и Sora. Коалиция за происхождение и аутентичность контента (C2PA) разработала открытый технический стандарт, использующий метаданные и криптографические подписи. Это позволяет информации о медиафайле безопасно перемещаться вместе с самим контентом, помогая журналистам и платформам. Соответствие стандарту C2PA гарантирует, что платформы могут надёжно читать, сохранять и передавать информацию о происхождении, прикреплённую к контенту OpenAI Анонс.
Для большей устойчивости к модификациям внедряется SynthID от Google DeepMind. Несмотря на преимущества C2PA, метаданные могут быть удалены, потеряны при загрузках/скачиваниях или повреждены при изменениях формата файла, изменении размера или создании скриншотов. В рамках многослойного подхода OpenAI интегрирует SynthID — невидимый слой водяных знаков. Эта технология уже применяется к изображениям, сгенерированным через ChatGPT, Codex и OpenAI API. Синтетические водяные знаки более устойчивы к трансформациям, таким как скриншоты, в то время как метаданные предоставляют более подробный контекст. Вместе эти системы делают атрибуцию более надёжной.
Публичный инструмент верификации: проверка происхождения
OpenAI предоставляет предварительную версию публичного инструмента для проверки AI-сгенерированных изображений. Этот инструмент поможет пользователям определить, было ли загруженное изображение создано с помощью ChatGPT, OpenAI API или Codex. Он проверяет наличие сигналов происхождения, включая Content Credentials и SynthID.
Инструмент нацелен на интеграцию множества сигналов для надёжного определения происхождения. Он позволяет надёжно обнаруживать водяные знаки SynthID, исходящие от OpenAI, а также выводить метаданные C2PA, если они найдены. Однако, важно помнить, что ни один метод обнаружения не является абсолютно надёжным: если метаданные или водяные знаки не обнаружены (например, из-за их удаления), инструмент не будет делать окончательных выводов о происхождении изображения. На начальном этапе инструмент ограничен контентом, созданным OpenAI, но в будущем планируется поддержка кросс-индустриальных усилий по верификации на разных платформах.
Также за день
Повышение частоты ошибок для пользователей API GPT-5.4 и GPT-5.5 было успешно устранено. Проблема затронула компонент Chat Completions Инцидент.
Что это значит
Внедрение многоуровневых систем верификации указывает на растущую потребность в атрибуции контента, созданного ИИ. Разработчикам, использующим генеративные модели, стоит учитывать эти новые стандарты и потенциальные ограничения инструментов верификации. Это усиливает прозрачность в экосистеме, однако не снимает полностью ответственность с потребителей за критическую оценку всего, что они видят онлайн.