ИИ-агенты: песочница трещит, пока агенты получают новые руки · 07.11.2026

безопасность 7 нояб. 2026 г.

ИИ-агенты: песочница трещит, пока агенты получают новые руки · 07.11.2026

Инфраструктура для агентов развивается быстрее, чем механизмы их сдерживания. За один день — новый браузерный инструмент для агентов, паттерн эскалации к дорогим моделям и сразу два сигнала о том, что изоляция не так надёжна, как принято думать.

Безопасность перестаёт быть опцией

OpenAI объявила о партнёрстве с Hacktron — командой, которая будет искать уязвимости в системах компании, тестировать соединения со сторонними сервисами и укреплять защиту с помощью frontier-моделей [1]. Это не первый багбаунти, но первый случай, когда безопасность агентной инфраструктуры вынесена в отдельное направление с привлечением внешних специалистов на постоянной основе.

Параллельно исследователи из pwn.ai опубликовали вторую часть серии PwnEscape — демонстрацию побега из виртуальной машины Firecracker [2]. Firecracker — это именно тот слой изоляции, на котором построены многие агентные песочницы (sandbox). Если побег воспроизводим, под угрозой оказываются все системы, которые доверяют Firecracker как единственному барьеру между агентом и хостом.

На мой взгляд, эти две новости читаются вместе: индустрия одновременно наращивает возможности агентов и обнаруживает, что стены вокруг них тоньше, чем предполагалось. Гонка «больше инструментов» без соответствующего усиления изоляции — это не прогресс, а накопление долга.

Браузер как примитив агента

Vercel Labs выложила в открытый доступ agent-browser — нативный CLI на Rust, который даёт агенту браузер, управляемый по одной команде за раз [3]. Агент открывает страницу, читает её как дерево доступности (accessibility tree) и действует на элементах из командной строки.

Это развитие того направления, которое Vercel открыла в начале ноября, анонсировав computer use для агентов. Разница в том, что раньше речь шла о концепции, а теперь — о конкретном инструменте с открытым кодом, который можно встроить в любой пайплайн. Дерево доступности вместо скриншотов — прагматичный выбор: оно компактность, детерминированно и не требует визуальной модели для навигации.

Эскалация вместо одной большой модели

Компания Hightouch описала паттерн, в котором дешёвая модель (в их случае — Jev) выполняет основную работу по разрешению идентичностей (identity resolution), а при неуверенности эскалирует запрос к Opus [4]. Результат: точность на уровне Opus при четырёхкратном снижении стоимости.

Это не просто лайфхак по экономии. Это архитектурный паттерн, который меняет подход к оркестрации: вместо выбора «одна большая модель на всё» появляется каскад, где лёгкий агент фильтрует простые случаи и передаёт сложные. На мой взгляд, именно такие гибридные схемы станут стандартом для продакшн-систем — не потому что это элегантно, а потому что экономика не оставляет выбора.

ИИ ускоряет исследования об ИИ

На Hacker News активно обсуждают статью о том, как ИИ ускоряет исследования в области самого ИИ [5]. Тезис не новый, но сейчас он подкреплён конкретными метриками: агенты пишут код экспериментов, проверяют гипотезы и сокращают цикл «идея — результат» с недель до часов. Для рынка агентов это означает, что следующая волна улучшений придёт не только от людей-инженеров, но и от агентов, которые улучшают самих себя.

Что дальше

Разрыв между возможностями агентов и безопасностью их исполнения будет главной темой ближайших месяцев. Ожидаю, что после публикаций вроде PwnEscape крупные облачные провайдеры начнут предлагать усиленные песочницы как отдельный продукт — по аналогии с тем, как после уязвимостей в контейнерах появились gVisor и Kata Containers.

Источники

  1. OpenAI Blog — Partnering with Hacktron
  2. pwn.ai — Firecracker VM Escape: PwnEscape Part 2
  3. GitHub — vercel-labs/agent-browser
  4. Hightouch — LLM Judges for Identity Resolution
  5. Planned Obsolescence — AI is dramatically accelerating AI research

FAQ

Почему побег из Firecracker важен именно для ИИ-агентов?

Firecracker — основа большинства песочниц, в которых агенты выполняют код. Если изоляция пробивается, агент с вредоносным или ошибочным поведением получает доступ к хост-системе.

Чем agent-browser отличается от обычного Playwright или Puppeteer?

agent-browser работает через дерево доступности, а не через DOM или скриншоты. Это даёт агенту структурированное представление страницы без необходимости парсить HTML или запускать визуальную модель.

Что такое паттерн эскалации в оркестрации агентов?

Это архитектура, где дешёвая модель обрабатывает типовые задачи, а при низкой уверенности передаёт запрос более дорогой. Экономия достигается за счёт того, что большинство запросов не требуют тяжёлой модели.

OpenAI уже имела багбаунти-программу. Что нового в партнёрстве с Hacktron?

Hacktron выделена как отдельная команда с фокусом именно на агентную инфраструктуру и соединения с третьими сторонами, а не на классические веб-уязвимости. Это отражает сдвиг поверхности атаки. ```

Источники

  1. https://www.planned-obsolescence.org/p/ai-is-dramatically-accelerating-ai
  2. https://hightouch.com/blog/llm-judges-identity-resolution
  3. https://blog.google/innovation-and-ai/technology/developers-tools/introducing-gemini-omni-1-2-flash/
  4. https://openai.com/index/partnering-with-hacktron
  5. https://pwn.ai/blog/firecracker-escape
  6. https://www.reuters.com/business/world-at-work/britain-make-salary-disclosure-job-ads-mandatory-2026-11-05/
  7. https://github.com/vercel-labs/agent-browser

Теги