Пока одни компании сосредоточены на разработке ИИ, OpenAI взялась за его регулирование. Вендор объявил о запуске программы финансирования 14 независимых проектов, которые займутся поиском новых политических идей для «эпохи интеллекта».
OpenAI финансирует эти проекты, чтобы найти способы расширить экономические возможности и укрепить социальную устойчивость в мире, где ИИ становится всё более развитым. Это отличает новую инициативу от чисто технических исследований безопасности: фокус смещён на широкое социальное и экономическое влияние.
Подход OpenAI отличается от других крупных программ. Например, Google DeepMind ежегодно выделяет $5–15 млн на свой фонд AI Safety Research Fund, который поддерживает внешних исследователей в области выравнивания, интерпретируемости и безопасного развёртывания. Сама OpenAI также имеет программу Researcher Access Program, предлагающую до $1000 API-кредитов для изучения рисков и ответственного развёртывания. Новая же инициатива OpenAI явно нацелена на формирование политики, а не только на изучение технических рисков или предоставление доступа.
Однако эта инициатива запускается на фоне недавнего скандала с прозрачностью. Ранее OpenAI подверглась критике за скрытое финансирование коалиции «Parents & Kids Safe AI Coalition». Сообщается, что коалиция обращалась к организациям по безопасности детей с просьбой поддержать политические инициативы, такие как проверка возраста и ограничение рекламы, нацеленной на детей. При этом во многих электронных письмах не указывалось, что инициатива финансируется OpenAI, что вызвало вопросы о независимости и прозрачности.
Финансирование 14 внешних проектов подчёркивает фокус OpenAI на активном формировании будущих регуляторных рамок для ИИ. Однако недавние инциденты со скрытым финансированием, как в случае с «Parents & Kids Safe AI Coalition», ставят под вопрос заявленную независимость таких инициатив. Инженерам, работающим с ИИ, важно понимать, что формирующиеся правила могут быть не до конца прозрачными, и проверять, кто именно стоит за новыми политическими идеями, которые будут определять их работу.