Что произошло с ИИ-моделями: галлюцинации — это провал памяти, а не генерации

Исследователи Google доказали: главная причина галлюцинаций LLM — не генерация, а извлечение фактов из памяти (recall). Параллельно Google DeepMind представила модель SL2T для перевода жестового языка в текст в реальном времени.

TL;DR

• Галлюцинации: Модель «знает» факт, но не может найти «ключ» к нему в своих весах
• Recall, не generation: Узкое место — извлечение, а не наличие знаний
• SL2T: Жестовый язык → текст в реальном времени для глухих и слабослышащих
• Сдвиг: От экстенсивного роста (больше параметров) к интенсивному (надёжность)

Кратко: что произошло

Почему LLM галлюцинируют: провал памяти, а не генерации

Исследователи Google опубликовали работу, переворачивающую понимание галлюцинаций. Долгое время считалось, что модель «врёт» из-за плохой генерации или непонимания контекста. Анализ показывает иное.

Узкое место для параметрической фактологичности — извлечение информации (recall), а не её наличие. Модель буквально «знает» факт, но не может найти правильный «ключ» в своих весах. Авторы используют аналогию: полки не пусты (знания есть), но ключи от нужной ячейки потеряны.

Это фундаментальный сдвиг. Если ошибки вызваны сбоями механизмов памяти, а не слабостью генерации, то увеличение объёма данных или масштабирование архитектуры не решит проблему галлюцинаций. Индустрии придётся переходить к гибридным архитектурам, где параметрическая память индексируется внешними механизмами поиска.

Как SL2T переводит жестовый язык в текст

Google DeepMind представила SL2T (sign-language-to-text) — модель, переводящую жестовый язык в текст в реальном времени. Это не очередная vision-модель, а специализированная архитектура для глухих и слабослышащих пользователей.

Технология напрямую интегрируется в пользовательские интерфейсы, превращая визуально-моторную динамику жестов в структурированный текст. Мультимодальность перестаёт быть маркетинговым термином — архитектуры понимают сложнейшую кинематику человеческого тела и переводят её в семантически точные конструкции.

Мнение редакции

Мы наблюдаем переход от экстенсивного роста (больше параметров, больше данных) к интенсивному развитию. Понимание того, почему модели ошибаются (бутылочное горлышко recall), позволит создавать компактные, но сверхнадёжные архитектуры. Специализированные решения вроде SL2T доказывают: ИИ-модели готовы решать узкие, социально значимые задачи с ранее недоступной точностью.

Источники

1. Google Research — Empty shelves or lost keys? Recall is the bottleneck
2. Google DeepMind — Putting sign language AI into users' hands

FAQ

Что такое параметрическая фактологичность (parametric factuality)?

Способность языковой модели хранить и воспроизводить факты, опираясь исключительно на внутренние веса нейросети, без обращения к внешним базам данных или поиску.

Почему выводы Google важны для разработки ИИ-агентов?

Если главная причина галлюцинаций — сбой извлечения (recall), то архитектуры агентов должны фокусироваться на улучшении механизмов маршрутизации к памяти, а не на дообучении генерации.

В чём сложность перевода жестового языка для ИИ?

Жестовый язык — не покадровый перевод слов. Это система с собственной грамматикой, где критичны мимика, скорость движения рук и пространственное положение. Требуется продвинутый пространственно-временной анализ.

Поможет ли RAG решить проблему recall?

Частично. RAG переносит поиск фактов во внешнее хранилище, минуя параметрическую память. Но модель всё равно должна корректно извлекать релевантную информацию из контекста, что оставляет риск ошибок маршрутизации.

Означает ли это, что масштабирование моделей потеряло смысл?

Нет, масштабирование улучшает способности к рассуждению. Но для фактологической точности одного масштаба недостаточно — требуются архитектурные изменения в механизмах памяти.

Источники

1. https://deepmind.google/blog/putting-sign-language-ai-into-users-hands/
2. https://research.google/blog/empty-shelves-or-lost-keys-recall-is-the-bottleneck-for-parametric-factuality/