Stanford CS153 Frontier Systems | Искусство получения ценности на гигаватт

Для получения дополнительной информации об онлайн-программах Стэнфордского университета по искусственному интеллекту посетите: https://stanford.io/ai С расписанием и программой курса можно ознакомиться по ссылке: https://cs153.stanford.edu/ На лекции CS153 «Фронтальные системы» студенты возвращаются к инфраструктуре вычислительных систем. Амин Вахдат, возглавляющий внутреннюю вычислительную инфраструктуру Google и программу TPU, лежащую в основе Gemini, рассказывает о своей почти 30-летней карьере, посвященной созданию надежных и сбалансированных суперкомпьютеров планетарного масштаба. Вахдат утверждает, что отрасль слишком зациклена на гигаваттах и ​​провалах как на главных показателях: при стоимости примерно от 40 до 50 миллиардов долларов за гигаватт, важен вопрос о ценности, получаемой за доллар, измеряемой количеством довольных пользователей и платящих корпоративных клиентов, а не о чистой мощности. Он рассматривает три ограничения, определяющие полезность. Надежность, где переход от 99% к 99,9% времени безотказной работы сокращает годовой разрыв в 3,65 дня, и где Frontier Labs теперь готовы обменять пять девяток на удвоение мощности. Баланс системы, основанный на законе Амдала 1967 года, согласно которому каждый миллион инструкций в секунду требует мегабайта ввода-вывода в секунду, теперь распределен на 100 000 узлов синхронных обучающих заданий, где отказ одного узла останавливает все вычисления. И сроки закупки новых гигаватт, составляющие от двух до трех лет, где разрешения на землю, контракты с коммунальными предприятиями и 20-летние соглашения о покупке электроэнергии заменили избыточную мощность, которая когда-то позволяла крупным компаниям запрашивать десять мегаватт на основе устного соглашения. Он подробно описывает архитектуру оптических коммутаторов Google, которая использует 136 управляемых MEMS-зеркал на каждом чипе для программной перестройки трехмерной тороидальной топологии, соединяющей стойки TPU, что позволяет виртуально заменять вышедшие из строя стойки за считанные секунды и перенаправлять полосу пропускания на удаленные кластеры хранения на время выполнения пятичасовой задачи Борга. В заключение Вахдат говорит об ответственности: центры обработки данных должны приносить пользу местным электросетям и сообществам, приводя в пример решение Google смириться с 10-процентным снижением энергоэффективности в регионах с дефицитом воды и свою программу реагирования на спрос в масштабах гигаватт, которая возвращает мощности коммунальным предприятиям во время пиковой нагрузки на жилые дома. Амин Вахдат — научный сотрудник и главный технолог по инфраструктуре ИИ в Google, где его команда отвечает за создание ведущей в отрасли инфраструктуры, охватывающей специализированные микросхемы, центры обработки данных, сети, цепочки поставок и операционную деятельность. Эта инфраструктура служит Alphabet, Google и всему миру, а также технологиям искусственного интеллекта, которые расширяют возможности разработчиков машинного обучения и решают наиболее актуальные бизнес-задачи клиентов. Ранее он занимал должность вице-президента и генерального директора подразделения Google, отвечающего за вычислительную, хранилищную и сетевую инфраструктуру, а также программное обеспечение. До 2019 года он был техническим руководителем и вице-президентом подразделения сетевых технологий в Google. До прихода в Google Амин был профессором компьютерных наук и инженерии в Калифорнийском университете в Сан-Диего (UCSD), входящим в состав Science Applications International Corporation (SAIC). Он получил докторскую степень по компьютерным наукам в Калифорнийском университете в Беркли и является членом Ассоциации вычислительной техники (ACM). Амин был удостоен ряда наград, включая премию CAREER Национального научного фонда (NSF), премию выдающегося выпускника факультета электротехники и компьютерных наук Калифорнийского университета в Беркли, стипендию Альфреда П. Слоана, премию SIGCOMM Networking Systems Award от Ассоциации вычислительной техники и премию имени Дэвида и Джанет Воган за преподавательскую деятельность от Университета Дьюка. Амин был удостоен премии SIGCOMM за вклад в развитие центров обработки данных и глобальных сетей. В 2023 году он был принят в Национальную академию инженерных наук за вклад в проектирование и внедрение центров обработки данных и сетей планетарного масштаба, обеспечивающих работу облачных вычислительных систем. Следите за плейлистом:    • Stanford CS153 Frontier Systems