Рынок ИИ: Когда «цифровой мусор» ломает бизнес-процессы, а безопасность становится продуктом · 05.10.2026
Главный парадокс текущего момента на рынке искусственного интеллекта заключается в том, что инструменты, созданные для автоматизации и оптимизации, начали разрушать традиционные модели взаимодействия бизнеса с разработчиками и безопасниками. В то время как гиганты вроде Google сталкиваются с коллапсом систем вознаграждения за ошибки из-за перегрузки низкокачественным контентом, новые игроки находят ниши в продаже «цифровой совести» — инструментов, гарантирующих физическую безопасность людей рядом с автономными системами.
Кризис доверия к ручному труду: конец эпохи классических баг-баунти
Google официально приостановил программу поиска ошибок (bug bounty) в своих проектах с открытым исходным кодом. Причина банальна, но критична для индустрии: резкий рост количества заявок, сгенерированных искусственным интеллектом, сделал процесс модерации экономически нецелесообразным. Это явление получило название «AI slop» — цифровой мусор, который заваливает каналы обратной связи.
На мой взгляд, это первый крупный сигнал о том, что модель «платим за каждую найденную уязвимость» умирает. Раньше баг-баунти был маркером зрелости продукта и доверия сообщества. Теперь же, когда любой пользователь может прогнать код через LLM (большую языковую модель) и отправить сотни шаблонных отчетов, ценность ручной верификации падает, а стоимость фильтрации превышает потенциальную выгоду от исправления мелкого бага. Компании будут вынуждены переходить либо к полной автоматизации проверки таких заявок, либо к закрытию программ для массового участия, оставляя доступ только для сертифицированных экспертов.
Безопасность как отдельный продукт: ставка на цифровых двойников
Пока корпорации борются с последствиями генеративного контента, стартапы создают новые рынки вокруг физической безопасности автономных систем. Компания Safeworld привлекает внимание инвесторов уникальным подходом: они строят «цифровых людей» — симуляции человеческих тел, которые используются для тестирования поведения роботов перед их выходом в реальный мир.
Суть бизнес-модели проста: страх перед тем, что робот травмирует человека, является главным барьером для внедрения автономии в логистике и медицине. Safeworld монетизирует этот страх, продавая уверенность. Вместо того чтобы надеяться на алгоритмы избегания столкновений, инженеры тестируют роботов на виртуальных манекенах, реагирующих так же, как живые люди. Это превращает безопасность из инженерной функции в самостоятельный SaaS-продукт (программное обеспечение как услуга). Для рынка это означает смещение фокуса инвестиций с «более умных моделей» на «более предсказуемые интерфейсы взаимодействия машины и человека».
Итог
Рынок входит в фазу «второй волны» коррекции. Если первая волна была посвящена созданию самих моделей, то вторая — борьбе с их побочными эффектами и созданию инфраструктуры доверия. Мы увидим дальнейшую консолидацию программ баг-баунти и рост спроса на решения по валидации действий ИИ. Инвесторам стоит обращать внимание не на тех, кто делает чат-ботов, а на тех, кто учит системы не мусорить и не калечить.
Источники
- TechCrunch. Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions. URL
- TechCrunch. Can Safeworld convince people that GenAI robots won’t hurt them? URL