Сети Колмогорова-Арнольда: многослойный перцептрон против генеративно-ориентированной сети, матем...

В этом видео я расскажу о сетях Колмогорова-Арнольда, новом типе сетей, представленном в статье «KAN: Kolmogorov-Arnold Networks» Лю и др. Я начну видео с обзора многослойных перцептронов, чтобы показать, как работает типичный линейный слой в нейронной сети. Затем я введу понятие подгонки данных, необходимое для понимания кривых Безье, а затем B-сплайнов. Перед тем, как представить сети Колмогорова-Арнольда, я также объясню, что такое универсальная теорема аппроксимации для нейронных сетей и её эквивалент для сетей Колмогорова-Арнольда, называемый теоремой представления Колмогорова-Арнольда. В заключительной части видео я объясню структуру этого нового типа сети, пошагово выводя её из формулы теоремы представления Колмогорова-Арнольда, одновременно сравнивая её с многослойными перцептронами. Мы также рассмотрим некоторые свойства сетей этого типа, например, лёгкую интерпретируемость и возможность непрерывного обучения. Статья: https://arxiv.org/abs/2404.19756 PDF-файл слайдов: https://github.com/hkproj/kan-notes Главы 00:00:00 - Введение 00:01:10 - Многослойный персептрон 00:11:08 - Введение в подгонку данных 00:15:36 - Кривые Безье 00:28:12 - B-сплайны 00:40:42 - Теорема универсального приближения 00:45:10 - Теорема представления Колмогорова-Арнольда 00:46:17 - Сети Колмогорова-Арнольда 00:51:55 - MLP против KAN 00:55:20 - Обучаемые функции 00:58:06 - Количество параметров 01:00:44 - Расширение сетки 01:03:37 - Интерпретируемость 01:10:42 - Непрерывное обучение