Эпоха полностью автономных ИИ-агентов в бизнесе пока откладывается. Alibaba Cloud представила подробное руководство и архитектуру для создания управляемых, безопасных и контекстно-ориентированных ИИ-агентов, которые работают в связке с людьми, а не вместо них.
Alibaba Cloud позиционирует ANOLISA v1.0 как агентскую операционную систему на Alibaba Cloud Linux. Она позволит людям и ИИ-агентам безопасно совместно использовать единый интерфейс командной строки (CLI), управляя навыками, токенами и памятью. Это часть более широкой стратегии Alibaba Cloud по развитию агентских ИИ-систем, где ANOLISA выступает фундаментом для их развертывания.
Ключевой акцент делается на контролируемой автоматизации. Агенты должны интерпретировать цель, извлекать контекст, выбирать инструменты, выполнять действия и проверять результаты, но всегда с чёткими границами и возможностью вмешательства человека. Alibaba Cloud предлагает восьмишаговый подход, который начинается с определения узкого бизнес-результата и заканчивается мониторингом качества и безопасности.
Архитектура разделяет логику (модели Qwen, Model Studio) и исполнение (PAI-EAS, Function Compute). Она также включает строгие меры безопасности:
- Принцип наименьших привилегий — узконаправленные роли RAM для каждого инструмента.
- Изоляция секретов — учётные данные хранятся в управляемом решении, а не в промптах или коде.
- Защита от инъекций — извлекаемый контент и ввод пользователя считаются недоверенными данными.
- Классификация данных — предотвращает попадание чувствительных данных в промпты без авторизации.
- Белые списки инструментов — разрешены только явно одобренные API и операции.
- Шлюзы одобрения — требуют человеческого контроля для действий с высоким риском.
- Журналы аудита — записывают все вводы агента, источники, вызовы инструментов, одобрения и финальные действия. Такой дизайн предотвращает несанкционированные привилегированные действия даже при некорректном ответе модели.
Alibaba Cloud рекомендует начинать с "читающих" или рекомендательных ИИ-агентов, постепенно добавляя низкорисковые действия только после проверки точности и безопасности. Это отражает стратегию постепенного внедрения агентских систем, где максимальная автономия уступает место максимальной надёжности и доверия.
Alibaba Cloud не просто анонсирует новую ОС, а задаёт тон для прагматичного внедрения агентского ИИ в корпорации, где безопасность и человеческий контроль стоят выше полной автономии. Однако компания не раскрывает детальных технических характеристик ANOLISA v1.0, фокусируясь на общей концепции и архитектурных принципах.