ИИ-агенты становятся автономнее с каждой неделей, но контроль человека над их действиями стремительно теряет смысл: исследование 40 тысяч игровых сценариев показало, что люди пропускают треть угроз, одобряя команды агентов. Пока дискуссии о безопасности продолжаются, open-source инструменты уже позволяют агентам самостоятельно проводить пентесты и писать код.
Человек как узкое место: треть угроз одобрена
Исследование ScaleX на 40 тысячах запусков показало: люди пропускают примерно одну из трёх угроз при одобрении команд ИИ-агентов. Это не статистическая погрешность — это системная неспособность человека выступать надёжным «гейткипером» (привратником) для автономных систем. Объём команд, которые генерируют агенты, превышает когнитивную способность человека к проверке.
На мой взгляд, это главный парадокс текущего этапа: индустрия строит агентов, рассчитывая на human-in-the-loop (человека в контуре) как механизм безопасности, но эмпирические данные показывают, что этот механизм сломан. Люди одобряют почти всё — от усталости, невнимательности или просто потому, что не успевают читать. Решение — не больше контроля, а структурные ограничения прав доступа на уровне архитектуры.
VulnClaw: агент для автономного пентеста
Проект VulnClaw от Unclecheng-li — это CLI-инструмент (инструмент командной строки), который на базе LLM-агента, цепочки инструментов MCP (Model Context Protocol) и навыков (skills) выполняет полный цикл пентеста: от сбора информации до эксплуатации уязвимости и генерации отчёта. Ввод на естественном языке — на выходе готовый результат атаки.
Проект быстро набирает популярность на GitHub. Это показательный пример того, как MCP превращается из теоретического протокола в реальный инструмент оркестрации: агент вызывает внешние инструменты через стандартизированный интерфейс, выстраивая цепочку действий без ручного вмешательства.
Open-SWE от LangChain: внутренние агенты для разработки
LangChain выпустил open-swe — открытый фреймворк для создания внутренних кодирующих агентов внутри компаний. Репозиторий ориентирован на организации уровня Stripe, Ramp и Coinbase, которые уже строят собственных агентов в виде Slack-ботов, CLI и веб-приложений.
Фреймворк поддерживает асинхронное выполнение задач — агент работает в фоне, обращаясь к кодовой базе, выполняя изменения и возвращая результат. Это смещение фокуса: от чат-интерфейсов к агентам, интегрированным в существующий рабочий процесс инженера. Разработка с ИИ всё больше напоминает работу с автономным ассистентом, а не диалоговым окном — что подтверждает и обсуждение на Hacker News, где разработчики сравнивают процесс с «приготовлением стейка»: порог входа падает, результат становится предсказуемым.
Crawl4AI и awesome-claude-skills: экосистема инструментов расширяется
Crawl4AI от unclecode — открытый веб-краулер (программа для сбора данных), спроектированный специально для LLM: он отдаёт данные в формате, удобном для прямого потребления языковыми моделями. Проект готовит запуск облачного API для масштабного извлечения данных.
Параллельно ComposioHQ собрал каталог awesome-claude-skills — более тысячи готовых навыков и плагинов для Claude, охватывающих сценарии от Claude Code до кастомных рабочих процессов. На мой взгляд, эти два проекта вместе отражают зрелость экосистемы: инструменты для сбора данных и библиотеки навыков формируют слой, на котором агенты перестают быть демо и становятся продакшен-системами.
Инфраструктура: AMD и Taalas — модели в кремнии
AMD приобрела стартап Taalas, который «выжигает» модели ИИ непосредственно в кремний для ускорения инференса (вывода). Это не напрямую про агентов, но критично для их архитектуры: агенты с tool-calling делают множество последовательных вызовов LLM, и задержка на каждом шаге суммируется. Ускорение инференса на аппаратном уровне — предпосылка для агентов, работающих в реальном времени.
Итог
Тренд недели — расхождение между растущей автономностью агентов и деградирующим человеческим контролем. Open-source инструменты (VulnClaw, open-swe, Crawl4AI) делают агентов доступными и функциональными, а каталоги навыков вроде awesome-claude-skills ускоряют внедрение. Но исследование ScaleX показывает, что модель human-in-the-loop не работает при текущих объёмах. Следующий шаг индустрии — не больше интерфейсов одобрения, а sandbox-изоляция и политические ограничения на уровне архитектуры. Если человек не может быть надёжным контролёром, система должна быть безопасной по умолчанию.