Любая матрица — это сумма внешних произведений
DataMListic
0:00 / 0:00
Любая матрица — это сумма внешних произведений
2 539 просмотров · 15 часов назад
DataMListic
76,4 тыс. подписчиков
2 539 просмотров · 15 часов назад
Внешнее произведение обычно преподается как таблица умножения попарных произведений, что скрывает его истинную функцию. Это матрица, которая принимает одно измерение своего входного значения вдоль вектора v и ответы вдоль вектора u, поэтому она имеет ранг один и практически ничего не стоит для применения. Мы показываем, что каждая матрица является суммой этих частей, затем находим их внутри матричного произведения, ковариационной матрицы, градиента слоя нейронной сети и LoRA, и завершаем сингулярным разложением (SVD), которое сохраняет самые большие части и дает наилучшее приближение низкого ранга.
Похожие видео
▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬
Почему скалярное произведение дает вам угол: • Why the Dot Product Gives You the Angle
Ранг матрицы — объяснение: • Matrix Rank - Explained
Сингулярное разложение (SVD) — объяснение: • Singular Value Decomposition (SVD) Explained
Ковариационная матрица — объяснение: • Covariance Matrix - Explained
Адаптация низкого ранга (LoRA): • low-rank adaptation (LoRA) #machinelearnin...
Что на самом деле означает транспонирование матрицы: • What the Transpose of a Matrix Actually Means
Что забывает матрица: Нулевое пространство: • What a Matrix Forgets: The Null Space
Содержание
▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬
00:00 - Двенадцать элементов из семи чисел
00:50 - Каждая строка - копия
01:54 - Измерение вдоль v, точка вдоль u
03:03 - Почему для единичной матрицы нужно два элемента
04:16 - Умножение столбца на строку
05:07 - Хранение матрицы по частям
06:03 - Ковариантность, по одной точке за раз
07:08 - Градиент слоя
08:19 - Сохранение самых больших фрагментов
Подписывайтесь на меня
▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬
🐦 X: @datamlistic https://x.com/datamlistic
📸 Instagram: @datamlistic / datamlistic
📱 TikTok: @datamlistic / datamlistic
👔 Linkedin: / datamlistic
Канал Поддержка
▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬
Лучший способ поддержать канал — поделиться контентом. ;)
Если вы также хотите поддержать канал финансово, пожертвование в размере стоимости чашки кофе всегда приветствуется! (полностью необязательно и добровольно)
► Patreon: / datamlistic
► Bitcoin (BTC): 3C6Pkzyb5CjAUYrJxmpCaaNPVRgRVxxyTq
► Ethereum (ETH): 0x9Ac4eB94386C3e02b96599C05B7a8C71773c9281
► Cardano (ADA): addr1v95rfxlslfzkvd8sr3exkh7st4qmgj4ywf5zcaxgqgdyunsj5juw5
► Tether (USDT): 0xeC261d9b2EE4B6997a6a424067af165BAA4afE1a
#линейнаяалгебра #машинноеобучение #математика