Рамочная программа управления приграничными технологиями OpenAI daily

OpenAI опубликовала свою Рамочную программу управления приграничными технологиями (Frontier Governance Framework), объясняющую, как их методы обеспечения безопасности и защиты соответствуют новым законодательным требованиям. Эта инициатива направлена на гармонизацию подходов к управлению ИИ-системами с положениями, заложенными в Калифорнийском законе о прозрачности приграничного ИИ и Кодексе практики Закона ЕС об ИИ для ИИ общего назначения. Публикация является шагом в формировании регулирования и политики в сфере искусственного интеллекта, задавая важные ориентиры для всей отрасли. Параллельно с этим, OpenAI продолжает расширять практическое применение своих моделей в бизнесе, демонстрируя успешные примеры внедрения, и оперативно реагирует на возникающие технические сбои.

Новая рамочная программа управления приграничными технологиями

OpenAI представила свою Рамочную программу управления приграничными технологиями, представляющую собой публичный документ по управлению, который детально объясняет, как практики безопасности и защиты компании соответствуют новым регуляторным требованиям. Эта программа разработана для удовлетворения требований таких законодательных актов, как Калифорнийский закон о прозрачности приграничного ИИ и Кодекс практики Закона ЕС об ИИ для ИИ общего назначения, обеспечивая прозрачность и подотчетность в разработке и использовании систем ИИ.

Программа охватывает широкий спектр потенциальных рисков, включая киберпреступность, химические, биологические, радиологические и ядерные риски (CBRN), вредоносные манипуляции и потерю контроля над системами. Помимо этого, в ней подробно излагаются практики безопасности, касающиеся отчетности по моделям, управления рисками безопасности, реагирования на инциденты, привлечения внешних экспертов и регулярного обновления самой рамочной программы. Такой комплексный подход призван обеспечить всестороннюю защиту от возникающих угроз.

Отличие от существующей Preparedness Framework заключается в том, что, если Preparedness Framework остается основой для определения и операционализации подхода OpenAI к управлению наиболее серьезными рисками от систем ИИ, то Рамочная программа управления приграничными технологиями применяет соответствующие части этого подхода в публичном документе, сосредоточенном на конкретных регуляторных обязательствах. Это позволяет компании публично демонстрировать свою приверженность безопасности в соответствии с внешними требованиями, сохраняя при этом внутренние практики, которые могут выходить за рамки текущих законодательных норм. OpenAI отмечает, что их подход будет развиваться по мере совершенствования возможностей моделей, методов оценки и регуляторных требований. В доступных источниках не приводятся реакции отраслевых экспертов или регуляторов на публикацию этой Рамочной программы.

Endava и концепция «агентских организаций» с Codex

Компания Endava, глобальная фирма по разработке программного обеспечения, стала одним из первых, кто внедрил модель OpenAI Codex, трансформировав свой подход к созданию ПО. По словам Джо Данливи, регионального технического директора Endava в Европе, их команда перешла от самостоятельного написания большей части кода к контролю над тем, что производит Codex, что экспоненциально повысило качество выпускаемого продукта.

Endava теперь определяет себя как «агентскую организацию» — компанию, в которой высокая экспертиза старших инженеров кодифицируется в агентов ИИ, работающих вместе с командами на всех этапах взаимодействия с клиентом: от сбора требований до генерации идей и конечной поставки продукта. Такой подход использует ИИ-агентов для автоматизации и расширения возможностей человеческого труда, позволяя командам сосредоточиться на стратегическом планировании и творческом решении проблем.

Основное преимущество использования Codex для Endava заключается в значительном сокращении времени на анализ требований, которое теперь измеряется часами вместо недель. Это позволяет небольшим командам достигать колоссальной ценности в очень сжатые сроки. Майк Кролник, глобальный старший вице-президент по агентской архитектуре в Endava, отмечает, что Codex облегчает передачу знаний: старшие архитекторы могут сформулировать свои требования, и Codex делает эту информацию доступной для младших специалистов. Таким образом, младшие разработчики могут получать задачи, обычно предназначенные для старших инженеров, а Codex выступает в роли наставника по лучшим практикам и архитектурным решениям.

Такая передача знаний становится одной из ключевых ценностей и преимуществ «агентской организации», позволяя масштабировать опыт старших специалистов. Вместо многолетней менторской работы и совместного программирования, опыт старших инженеров, закодированный в Codex, может параллельно направлять множество менее опытных команд. Это фундаментально меняет подход к наставничеству и обучению в организации. Источники не предоставляют информации о сравнении модели «агентской организации» Endava с аналогичными инициативами других крупных компаний-разработчиков ПО, использующих ИИ.

Незначительные технические инциденты

Недавно OpenAI столкнулась с несколькими незначительными техническими сбоями, которые были оперативно устранены. Один из инцидентов затронул пользователей ChatGPT Business на Android, у которых возникли проблемы с переключением рабочих областей. Эта проблема была обнаружена 27 мая и полностью устранена к утру 28 мая, заняв около 11 часов.

Другой инцидент, связанный с задержкой сжатия контекста Codex, также был зафиксирован 27 мая. Проблема проявлялась в замедленной работе механизма сжатия контекста Codex, что приводило к ухудшению производительности. После расследования выяснилось, что причиной стала ошибка конфигурации. Инженеры OpenAI оперативно применили меры по устранению, и сервис полностью восстановился примерно за 13 часов к утру 28 мая.

Наконец, был зарегистрирован сбой, связанный с невозможностью завершить оформление подписки для некоторых пользователей на веб- и мобильных платформах. Пользователи могли столкнуться с неактивной кнопкой «Подписаться» или ошибкой submit_error_source:email во время оформления. Этот инцидент возник 28 мая и был устранен в течение примерно трех часов того же дня.

Что это значит

Рамочная программа по управлению приграничными технологиями и партнерство с Endava задают направление для применения ИИ. Устойчивость к техническим сбоям будет важна для масштабирования этих решений.