Когда фотоника становится ограничением сетевой архитектуры в центрах обработки данных ИИ

Аннотация Обучение, вывод и агентные нагрузки в области ИИ создают новые нагрузки на сетевые архитектуры центров обработки данных. Крупные кластеры ускорителей генерируют устойчивый, высокосинхронизированный трафик между центрами обработки данных, что ставит под сомнение традиционные предположения о плотности полосы пропускания, электрической дальности, мощности оптики и изоляции неисправностей. По мере масштабирования этих сред возникают ограничения, которые невозможно устранить путем поэтапного обновления существующих конструкций. В этом докладе рассматривается, как фотоника становится теперь ограничивающим архитектурным фактором в сетях центров обработки данных, использующих ИИ, а не прозрачным транспортным уровнем. В нем описываются области, где существующие архитектуры сталкиваются с ограничениями масштабирования, включая плотность лицевых панелей, тепловые и энергетические бюджеты для подключаемой оптики, а также операционную сложность быстро расширяющихся волоконно-оптических сетей. Обсуждение сосредоточено на архитектурных последствиях, а не на конкретных продуктах. Затем в презентации рассматриваются несколько подходов к оптической архитектуре, которые операторы активно оценивают, включая совместно упакованную оптику, модели внешних лазерных источников и оптическую коммутацию каналов в качестве дополнения к коммутируемым пакетным сетям. Для каждого подхода освещаются проблемы, которые они призваны решить, новые ограничения, которые они вводят, и то, где они могут — или не могут — вписаться в реальные операционные условия. Цель состоит в том, чтобы предоставить сетевым операторам практическую основу для оценки того, как рост трафика, вызванный ИИ, влияет на проектирование сетей центров обработки данных в текущих и краткосрочных развертываниях. Участники получат ясность в том, где существующие предположения верны, где они неверны и какие архитектурные решения заслуживают предварительного рассмотрения. Кристиан Уррикариет: Кристиан Уррикариет — старший директор по продуктам и стратегическому маркетингу в Lumentum, имеющий более 25 лет опыта работы в области фотоники и оптических сетей, в основном на должностях, связанных с управлением продуктами. Его работа сосредоточена на разработке и внедрении оптических технологий межсоединений для гипермасштабных центров обработки данных ИИ и облачных вычислений, а также для крупномасштабных сетевых инфраструктур. До работы в Lumentum он 21 год проработал в Finisar и 3,5 года в Intel, внеся свой вклад в разработку нескольких поколений решений оптической связи для облачных сетей и центров обработки данных. Его опыт охватывает как компонентный, так и системный уровни, с акцентом на то, как эти технологии интегрируются в реальные сетевые архитектуры. Он имеет степень в области электротехники со специализацией в оптоэлектронике и выступал на нескольких конференциях NANOG. https://nanog.org/events/nanog-97/con...