Системы с открытым исходным кодом для федеративного обучения | Stanford MLSys #48

48-й выпуск серии семинаров Stanford MLSys! Системная поддержка федеративных вычислений Докладчик: Мошараф Чоудхури Аннотация: Хотя теоретические исследования в области федеративного обучения растут экспоненциально, мы далеки от применения этих теорий на практике. В этом докладе я расскажу о наших попытках создания практических систем для двух крайних случаев федеративного обучения. Sol — это межсистемная система федеративного обучения и аналитики, которая решает проблемы задержки сети и пропускной способности, с которыми сталкиваются распределенные вычисления между удаленными точками обработки данных. Oort, напротив, — это межустройственная система федеративного обучения, которая позволяет проводить обучение и тестирование на репрезентативных распределениях данных, несмотря на непредсказуемую доступность устройств. Обе системы работают с характеристиками систем и сетей в реальных условиях, которые трудно учесть в аналитических моделях. Затем я расскажу о проблемах систематической оценки систем федеративного обучения, которые привели к разрыву между теоретическими выводами и производительностью в реальных условиях. В заключение я представлю FedScale — расширяемую платформу для оценки и бенчмаркинга в реальных условиях, призванную сделать практическое федеративное обучение доступным как для исследователей, так и для практиков. Все эти системы являются открытым исходным кодом и доступны по адресу https://github.com/symbioticlab. Биография: Мошараф Чоудхури — доцент кафедры компьютерных наук и инженерии имени Морриса Уэллмана в Мичиганском университете, Анн-Арбор, где он возглавляет SymbioticLab. Его последние исследования посвящены совместному проектированию приложений и инфраструктуры для федеративного обучения, дезагрегации ресурсов и системам для ИИ и больших данных. В прошлом Мошараф изобрел coflows и был соавтором Apache Spark. Результаты его исследований широко используются в облачных центрах обработки данных. Он получил множество индивидуальных наград и премий, а также наград за лучшие работы на конференциях благодаря своим замечательным студентам и коллегам. Он получил степень доктора философии. из лаборатории AMPLab в Калифорнийском университете в Беркли, 2015 год. -- 0:00 Презентация 31:46 Обсуждение Ведущие семинара Stanford MLSys: Дэн Фу, Каран Гоэль, Фиодар Казамиака и Пьеро Молино Исполнительные продюсеры: Матей Захария, Крис Ре Twitter:   / realdanfu​     / krandiash​     / w4nderlus7   -- Расписание смотрите на нашем сайте: http://mlsys.stanford.edu Подпишитесь на нашу рассылку, чтобы получать еженедельные обновления: https://groups.google.com/forum/#!for... #машинноеобучение #искусственныйинтеллект #системы #mlsys #информатика #стэнфорд #умичиган #симбиотическаялаборатория #федеративноеобучение #сол #оорт #федеративнаяшкала