Перейти к содержимому

Проектирование сети для пластинчатых систем с гибридной связкой «пластина к пластине»

Scalable Parallel Computing Lab, SPCL @ ETH Zurich

0:00 / 0:00

Проектирование сети для пластинчатых систем с гибридной связкой «пластина к пластине»

230 просмотров · 4 нед. назад
Scalable Parallel Computing Lab, SPCL @ ETH Zurich
4,41 тыс. подписчиков
230 просмотров · 4 нед. назад
В больших языковых моделях на основе трансформеров все большее ограничение на передачу данных возникает из-за резкого снижения пропускной способности связи за пределами кристалла. Интеграция на уровне пластин с использованием гибридной сварки пластин смягчает это ограничение, обеспечивая сверхвысокую пропускную способность между фотошаблонами на сваренных пластинах. В данной статье мы исследуем, как физическое размещение фотошаблонов на пластинах влияет на достижимую топологию сети и результирующую производительность связи. Исходя из базовой 2D-сетки, мы предлагаем четыре варианта размещения фотошаблонов (выровненный, чередующийся, повернутый и контурный), которые повышают пропускную способность до 250%, снижают задержку до 36% и уменьшают энергопотребление на передаваемый байт до 38%. Авторы: Патрик Ифф, Томмазо Бонато, Мацей Беста, Лука Бенини, Торстен Хёфлер Статья: https://arxiv.org/abs/2603.05266 Временные метки: 00:00 - 01:41: Мотивация WSI 01:42 - 03:38: Подходы к WSI 03:39 - 08:43: Оптимизация сети на уровне пластины 08:44 - 13:06: Оценка 13:07 - 13:57: Заключение и подведение итогов