Железо ИИ: память стала главным ограничителем ускорителей · 24.08.2026
Железо ИИ: память стала главным ограничителем ускорителей · 24.08.2026
Главный вывод Hot Chips 2026 — ускорители ИИ упираются не только в количество вычислительных блоков. Разработчики одновременно ищут альтернативы HBM, совершенствуют упаковку памяти и перестраивают саму архитектуру доступа к данным.
d-Matrix предлагает уйти от зависимости от HBM
d-Matrix представила ускоритель Raptor с памятью 3D-DRAM, где логика и DRAM размещаются слоями друг над другом. По данным ServeTheHome, решение ориентировано на генеративный вывод и призвано выйти за рамки традиционной зависимости от HBM.
Это важный поворот в подходе к проектированию ускорителей. В центре внимания оказывается не только вычислительная мощность, но и то, насколько быстро и близко к логике можно разместить данные. Для генеративных моделей, где вывод связан с постоянным обменом данными, такая архитектура может быть особенно значима.
Однако представленное решение пока стоит воспринимать как архитектурный сигнал, а не как доказательство готовой замены HBM. В предоставленном описании нет данных о производительности, энергопотреблении, стоимости или сроках массового применения Raptor.
HBM сохраняет значение, но становится сложнее
SK hynix на той же конференции сосредоточилась на проблемах HBM и упаковки памяти для ускорителей ИИ. Сам факт отдельного обсуждения упаковки показывает: увеличение пропускной способности памяти теперь требует решения не одной задачи, а целого комплекса производственных и конструктивных ограничений.
Параллельно Micron представила развитие архитектур памяти для ИИ и возможности современной упаковки. В совокупности эти материалы указывают на общий тренд: память перестает быть вспомогательным компонентом ускорителя и становится частью его основной архитектуры.
На мой взгляд, здесь проявляется парадокс рынка. Чем мощнее становятся вычислительные блоки, тем сильнее итоговая система зависит от памяти, соединений и упаковки. Поэтому конкуренция производителей будет идти не только за лучший вычислительный процессор, но и за способ интеграции памяти вокруг него.
Следующий рывок — в перемещении данных
Три презентации Hot Chips 2026 различаются по подходам, но сходятся в одном: дальнейшее масштабирование ИИ требует пересмотра пути данных. d-Matrix показывает вариант трехмерного размещения DRAM и логики, SK hynix разбирает ограничения HBM и упаковки, а Micron говорит об эволюции архитектур памяти и новых возможностях интеграции.
Это меняет критерии эффективности дата-центров. Высокая производительность ускорителя сама по себе не гарантирует эффективную систему, если данные приходится передавать через узкие или энергозатратные участки. В предоставленных материалах нет сопоставимых измерений, поэтому делать вывод о победителе пока рано. Но направление исследований уже заметно.
На мой взгляд, рынок движется к более разнообразной иерархии памяти. HBM останется важным вариантом, однако рядом будут развиваться трехмерная DRAM, новые схемы упаковки и специализированные архитектуры доступа к данным. В результате ускоритель ИИ все чаще будет восприниматься как единый комплекс вычислений, памяти и соединений.
Итог
Hot Chips 2026 показала: узкое место ИИ-систем постепенно смещается от самих вычислений к памяти и ее интеграции с логикой. В ближайшее время стоит ждать не только новых ускорителей, но и борьбы за более плотную упаковку, меньшие задержки и эффективное перемещение данных; именно эти параметры могут определить реальную отдачу дата-центров.
Источники
- d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026
- SK hynix HBM Packaging at Hot Chips 2026
- Micron Evolving Memory Architectures for AI at Hot Chips 2026
FAQ
Почему память стала критическим фактором именно для генеративного ИИ?
Генеративный вывод требует постоянной передачи данных между памятью и вычислительной логикой. Поэтому задержки, пропускная способность и расположение памяти могут ограничивать систему сильнее, чем число вычислительных блоков.
Означает ли 3D-DRAM скорый отказ от HBM?
Нет. Представленный d-Matrix подход показывает альтернативное направление, но предоставленные материалы не подтверждают его готовность заменить HBM в массовых системах.
Что включает в себя упаковка ускорителя ИИ?
Это способы физического объединения вычислительной логики, памяти и соединений в одном модуле. От упаковки зависят плотность размещения, задержки и сложность производства.
Почему для дата-центров важна именно архитектура памяти, а не только ее объем?
Одинаковый объем памяти может давать разную эффективность в зависимости от скорости доступа и затрат на передачу данных. Архитектура определяет, насколько полно ускоритель использует свои вычислительные ресурсы.