ИИ-агенты: Пентагон назвал «сверхдоверие к ИИ» причиной удара — а индустрия всё ещё оптимизирует кэш · 23.09.2026

На этой неделе повестка агентов раздвоилась: инженеры оттачивают экономику инференса, а реальность принесла самый жёсткий урок о границах автономности.

Пентагон признал: «сверхдоверие к ИИ» привело к удару по школе в Иране

Расследование Bloomberg со ссылкой на Пентагон: череда ошибок, включая ракетный удар по школе в Иране, частично объясняется чрезмерной опорой операторов на выводы ИИ-систем. Это не гипотетический риск из этических докладов — это подтверждённое следствие применения моделей в критической инфраструктуре.

Для сообщества агентов это тревожный сигнал: чем автономнее система и чем меньше человек проверяет каждый шаг, тем дороже стоит ошибка в(tool-calling)цепочке. Дискуссия на Hacker News (580 баллов, 286 комментариев) показывает, что тема вышла за пределы военного контекста — речь о любом домене, где агент принимает решения со значимыми последствиями.

На мой взгляд, это первый по-настоящему системный инцидент эпохи агентов, который нельзя списать на « premature deployment». Регуляторы теперь имеют конкретный кейс, и вопрос human-in-the-loop (человек в контуре) из рекомендации превращается в требование.

GPT-6: кэширование промптов стало управляемым

OpenAI улучшила prompt caching (кэширование промптов) в GPT-6: выше доля попаданий в кэш, новые средства диагностики, явные точки разрыва кэша и ручные контроли. На практике это означает предсказуемую латентность и заметное снижение стоимости длинных агентских сессий, где системный промпт повторяется тысячами вызовов инструментов.

Интересен контекст: одновременно на Hacker News вспыхнул дискусс о том, может ли банальный gzip работать как языковая модель (263 балла, 92 комментария). Автор nathan.rs показывает, что сжатие — это по сути предсказание следующего символа.

На мой взгляд, сочетание этих двух историй делает неделю знаковой: индустрия по-прежнему ищет фундаментальные упрощения, а не только масштаб. Дешёвый и предсказуемый инференс — то, что реально разблокирует массовые агентские воркфлоу.

Transformers теперь понимает кванты llama.cpp

Hugging Face добавил в библиотеку Transformers поддержку квантованных моделей формата llama.cpp. Это сближение двух крупнейших экосистем локального инференса: research-стек и production-стек перестают быть параллельными вселенными.

Для агентских пайплайнов это значит: компактные квантованные модели можно запускать через привычный API Transformers — значит, проще строить гибридные системы, где роутер (router) выбирает между большой облачной моделью и локальной малой. Снижение стоимости на порядок для рутинных вызовов — прямой выигрыш.

Apple снова включил то, что пользователь отключил

История dbushell.com набрала 455 баллов и 366 комментариев: пользователь отказался от Apple Intelligence, но система всё равно активировала функции. Это конфликт не технический, а продуктово-этический — платформа решает за пользователя, какие агентские функции ей «нужны».

На мой взгляд, это зеркальное отражение истории с Пентагоном: в одном случае человек слишком доверяет машине, в другом — машина не уважает волю человека. Обе истории — о том, что контроль над автономными системами пока проектируется как второстепенная опция.

MiMo-v2.6-Pro: новая точка на кривой цена/интеллект

Анализ Artificial Analysis по MiMo-v2.6-Pro (113 баллов на HN) добавляет данные в вечный спор о том, насколько близко к флагманам подходят cheaper-модели. Для разработчиков агентов такие замеры — практический инструмент: роутинг задач между моделями по метрике «качество на доллар» становится стандартной архитектурой.

Философская неделя: «У ИИ нет мудрости — и у вас не будет»

Эссе alexn.org (214 баллов, 269 комментариев) утверждает: модели передают знание, но не мудрость, и пользователь, делегирующий мышление, теряет способность вырабатывать её сам. Дискуссия жестокая и долгая — но она идёт параллельно с инцидентом из первого пункта.

На мой взгляд, эти два материала недели стоит читать как один текст: технический долг доверия к ИИ уже конвертируется в реальные последствия, а дискуссия о «мудрости» — это не философия, а проектирование интерфейсов между человеком и агентом.

Итог

Неделя показала: экономика инференса (кэш, кванты, роутинг) зреет быстро, а архитектура доверия — нет. Ждите, что после иранского инцидента темы human-in-the-loop, аудируемости цепочек вызовов и явного согласия на агентские функции станут обязательными требованиями, а не пунктиками в чеклистах.

Источники

1. Better prompt caching for GPT-6 — OpenAI Blog
2. Can gzip be a language model? — nathan.rs
3. Transformers now runs llama.cpp quants — Hugging Face Blog
4. Pentagon says overreliance on AI contributed to missile strike on Iran school — Bloomberg
5. I said no and Apple said yes — dbushell.com
6. AI Has No Wisdom and Neither Will You — alexn.org
7. MiMo-v2.6-Pro: Intelligence, Performance and Price Analysis — Artificial Analysis

FAQ

Что такое prompt caching и почему он важен для агентов?

Это повторное использование обработанного промпта между запросами, что снижает стоимость и латентность. В агентских пайплайнах системный промпт и история повторяются в каждом tool-calling шаге, поэтому экономия накапливается кратно.

Чем поддержка квантов llama.cpp в Transformers меняет разработку?

Она позволяет запускать компактные локальные модели через единый API без смены стека. Это упрощает гибридные архитектуры, где рутинные задачи уходят на дешёвый локальный инференс.

Что означает «human-in-the-loop» в контексте инцидента с Пентагоном?

Это требование обязательной проверки человеком критических решений агента. Инцидент показывает, что его отсутствие конвертируется в необратимые последствия, а не только в репутационные риски.

Почему дискуссия о gzip как языковой модели актуальна?

Она демонстрирует, что сжатие данных математически эквивалентно предсказанию следующего токена — то есть основа LLM проще, чем кажется. Это подпитывает поиск дешёвых альтернатив масштабированию.

Источники

1. https://artificialanalysis.ai/models/mimo-v2-6-pro
2. https://dbushell.com/2026/09/22/apple-intelligence/
3. https://alexn.org/blog/2026/09/22/ai-has-no-wisdom-and-neither-will-you/
4. https://www.bloomberg.com/graphics/2026-iran-school-attack/
5. https://huggingface.co/blog/transformers-llama-cpp-quants
6. https://openai.com/index/better-prompt-caching-for-gpt-6
7. https://nathan.rs/posts/gzip-lm/