Перейти к содержимому

Мегакернелы для продакшена в реальных задачах инференса

GPU MODE

0:00 / 0:00

Мегакернелы для продакшена в реальных задачах инференса

2 398 просмотров · Трансляция закончилась 1 месяц назад
GPU MODE
33,3 тыс. подписчиков
2 398 просмотров · Трансляция закончилась 1 месяц назад
Джо Фиоти объясняет, как компилятор Luminal интегрирует мегаядра в производственный процесс вывода результатов наряду с традиционными графами ядер, включая постоянные очереди задач, символическое отслеживание зависимостей, мегаядра подграфов и поиск компилятора, который выбирает наилучшую стратегию выполнения.