Мегакернелы для продакшена в реальных задачах инференса
GPU MODE
0:00 / 0:00
Мегакернелы для продакшена в реальных задачах инференса
2 398 просмотров · Трансляция закончилась 1 месяц назад
GPU MODE
33,3 тыс. подписчиков
2 398 просмотров · Трансляция закончилась 1 месяц назад
Джо Фиоти объясняет, как компилятор Luminal интегрирует мегаядра в производственный процесс вывода результатов наряду с традиционными графами ядер, включая постоянные очереди задач, символическое отслеживание зависимостей, мегаядра подграфов и поиск компилятора, который выбирает наилучшую стратегию выполнения.