Символьное дифференцирование матриц и n-мерных массивов в SymPy

Численные фреймворки, такие как PyTorch и JAX, обычно вычисляют градиенты матриц и тензоров с помощью обратного автоматического дифференцирования (обратного распространения ошибки) для обучения нейронных сетей. В отличие от них, до сих пор наблюдалось заметное отсутствие символических реализаций, которые бы выдавали точные, замкнутые выражения для градиентов, интерпретируемые и хорошо подходящие для дальнейших алгебраических преобразований. SymPy, система компьютерной алгебры с открытым исходным кодом, написанная на Python, теперь предоставляет всестороннюю поддержку символического дифференцирования матриц и N-мерных массивов. Реализация предоставляет пользователям гибкость в работе как с матрицами, так и с массивами, что может осуществляться двумя способами: явно, путем определения каждого компонента по отдельности, или неявно, в виде символических выражений. В явном случае алгоритм дифференцирования прост: производные по сути сводятся к вложенным циклам по измерениям массива. В отличие от этого, неявный алгоритм значительно сложнее, особенно при дифференцировании выражений, включающих матрицы. После изложения ключевых аспектов этой алгоритмической конструкции, в докладе демонстрируется её практическая ценность на примере, иллюстрирующем, как символические градиенты матриц и тензоров в замкнутой форме могут дать ценные сведения и обеспечить точные вычисления в различных приложениях. Об докладчике: Франческо Бонацци — разработчик программного обеспечения и основной сопровождающий SymPy, системы компьютерной алгебры на языке Python. Он внёс значительный вклад в модули библиотеки по физике, матричной алгебре, тензорной алгебре и теории вероятностей. В настоящее время он работает в Intesa Sanpaolo, занимаясь исследованиями и внедрением генеративного искусственного интеллекта. Франческо имеет докторскую степень по физике и ранее работал научным сотрудником в Институте коллоидов и интерфейсов им. Макса Планка в Германии и в Университете штата Северная Каролина в США.