Flux: элегантная библиотека машинного обучения | Майк Иннес | JuliaCon 2018

Flux — это новая библиотека машинного обучения, простая и интуитивно понятная в использовании, с высочайшей производительностью. Я покажу, как мы этого достигаем, используя передовые функции Julia в сочетании с современными компиляторами и языковыми технологиями, а также расскажу о интересных вещах, которые люди делают с Flux. Содержание 00:00 Добро пожаловать! 00:31 Краткий обзор Flux.jl 01:07 Краткий обзор внутреннего устройства Flux.jl 01:30 Summer of Code с Flux.jl 01:57 Чтение ONNX-файлов с ONNX.jl 02:39 Модели распознавания изображений 02:57 Модель распознавания речи с CUDA 03:35 Демонстрация распознавания речи 04:54 Обучение с подкреплением и AlphaGo.jl 05:10 Экспорт Flux.jl в браузер с FluxJS.jl 07:03 Привет всем участникам Summer of Code 07:17 Планы на будущее: для нас МО — это проблема компилятора 07:41 Наша главная проблема компилятора: автоматическое дифференцирование (AD) 08:32 AD обычно требует деревьев выражений 09:18 Можем ли мы добиться большего? Наш ответ: Zygote.jl 11:12 Производная и внутреннее представление Julia (IR) 13:31 Сравнительный анализ более сложных примеров 14:43 Скорость, но какой ценой? 16:20 Определение пользовательских градиентов 17:54 Удобные сообщения об ошибках 18:38 У нас полностью динамическое AD 19:35 В Julia мы можем просто взламывать компиляторы, используя различные трюки, когда это необходимо 20:03 Демонстрация простой производной 21:19 Вопрос: что это за стрелка? 21:55 Вопрос и ответ: можно ли дифференцировать различные функции, которые преобразуются в число (скаляр в скаляр)? 22:09 Комментарий: удаление стека в некоторых случаях 23:14 Вопрос и ответ: каковы текущие ограничения Zygote.jl? 24:20 Вопрос и ответ: какова связь между Zygote.jl и Casset.jl? 25:15 Вопросы и ответы: можно ли использовать Zygote.jl для дифференциации функций с одним параметром и многими параметрами? 26:12 Отмена Flux.jl на хакатоне Спасибо https://github.com/KZiemian за временные метки видео! Хотите помочь добавить временные метки к нашим видео на YouTube, чтобы их было легче находить? Узнайте больше здесь: https://github.com/JuliaCommunity/You... Хотите улучшить автоматически генерируемые субтитры? Примите участие здесь: https://github.com/JuliaCommunity/You...