Франческо Булло — Нейронные цепи как распределенные оптимизаторы — Серия лекций выдающихся ученых
Rice Ken Kennedy Institute
0:00 / 0:00
Франческо Булло — Нейронные цепи как распределенные оптимизаторы — Серия лекций выдающихся ученых
198 просмотров · 5 дн. назад
Rice Ken Kennedy Institute
5,1 тыс. подписчиков
198 просмотров · 5 дн. назад
Искусственные и биологические нейронные сети выполняют сложные вычисления с помощью больших наборов взаимодействующих элементов, однако их проектирование и понимание существенно различаются. В этом докладе будет разработана нормативная перспектива, в которой рекуррентные нейронные цепи выступают в качестве распределенных оптимизаторов, перемещаясь по энергетическим ландшафтам для построения объяснений сенсорного ввода.
Математический мост — это проксимальная градиентная динамика. Начиная с вероятностной модели или регуляризованной целевой функции оптимизации, эта структура выводит ошибки прогнозирования цепи, рекуррентные взаимодействия и функции активации. Она охватывает классическое предиктивное кодирование, а также разреженные, неотрицательные, категориальные и негауссовы модели и естественным образом распространяется от отдельных популяций к иерархическим сетям, обменивающимся ошибками снизу вверх и прогнозами сверху вниз. Я проиллюстрирую эту структуру на примерах из сенсорного кодирования, принятия решений и обучения, а также обсужу, что энергетический анализ может показать о стабильности, обучении и проектировании в биологических и искусственных сетях.
Франческо Булло — заслуженный профессор и заведующий кафедрой машиностроения имени Мошера в Калифорнийском университете в Санта-Барбаре, штат Калифорния, США. Он получил степень бакалавра электротехники в Падуанском университете (Италия) в 1994 году и степень доктора философии в области управления и динамических систем в Калифорнийском технологическом институте в Пасадене, штат Калифорния, в 1998 году. Его научные интересы включают теорию сжатия, сетевые системы, нейронные сети и математическую нейронауку. Он является автором или соавтором книг «Геометрическое управление механическими системами» (Springer, 2004), «Распределенное управление роботизированными сетями» (Princeton, 2009), «Лекции по сетевым системам» (KDP, v1.7, 2024) и «Теория сжатия для динамических систем» (KDP, v1.3, 2026). Он занимал должности президента IEEE CSS и председателя SIAG CST. Он является членом ASME, IEEE, IFAC, NetSci и SIAM.