Показать сообщение отдельно
Старый 12.01.2026, 12:20   #1
_LM_
ГЛОБАЛЬНЫЙ МОДЕРАТОР
 
Регистрация: 19.02.2017
Сообщений: 70,804
_LM_ Начальная репутация
Question ИИ-ускорители упёрлись в предел скорости HBM, и эта проблема пострашнее дефицита памяти

По оценкам представителей отрасли, современные ИИ-ускорители в своём развитии достигли того этапа, когда пропускная способность интерфейса памяти становится узким местом на пути дальнейшего масштабирования быстродействия. Дефицит памяти или её объём в этом отношении уходят на второй план, и устранение этого барьера главным образом зависит от разработчиков GPU и больших языковых моделей.
#micron #hbm #nvidia #производствомикросхем

Дальше...
_LM_ вне форума   Ответить с цитированием