Проектирование сети для пластинчатых систем с гибридной связкой «пластина к пластине»
Scalable Parallel Computing Lab, SPCL @ ETH Zurich
0:00 / 0:00
Проектирование сети для пластинчатых систем с гибридной связкой «пластина к пластине»
230 просмотров · 4 нед. назад
Scalable Parallel Computing Lab, SPCL @ ETH Zurich
4,41 тыс. подписчиков
230 просмотров · 4 нед. назад
В больших языковых моделях на основе трансформеров все большее ограничение на передачу данных возникает из-за резкого снижения пропускной способности связи за пределами кристалла. Интеграция на уровне пластин с использованием гибридной сварки пластин смягчает это ограничение, обеспечивая сверхвысокую пропускную способность между фотошаблонами на сваренных пластинах. В данной статье мы исследуем, как физическое размещение фотошаблонов на пластинах влияет на достижимую топологию сети и результирующую производительность связи. Исходя из базовой 2D-сетки, мы предлагаем четыре варианта размещения фотошаблонов (выровненный, чередующийся, повернутый и контурный), которые повышают пропускную способность до 250%, снижают задержку до 36% и уменьшают энергопотребление на передаваемый байт до 38%.
Авторы: Патрик Ифф, Томмазо Бонато, Мацей Беста, Лука Бенини, Торстен Хёфлер
Статья: https://arxiv.org/abs/2603.05266
Временные метки:
00:00 - 01:41: Мотивация WSI
01:42 - 03:38: Подходы к WSI
03:39 - 08:43: Оптимизация сети на уровне пластины
08:44 - 13:06: Оценка
13:07 - 13:57: Заключение и подведение итогов