Перейти к содержимому

Любая матрица — это сумма внешних произведений

DataMListic

0:00 / 0:00

Любая матрица — это сумма внешних произведений

2 539 просмотров · 15 часов назад
DataMListic
76,4 тыс. подписчиков
2 539 просмотров · 15 часов назад
Внешнее произведение обычно преподается как таблица умножения попарных произведений, что скрывает его истинную функцию. Это матрица, которая принимает одно измерение своего входного значения вдоль вектора v и ответы вдоль вектора u, поэтому она имеет ранг один и практически ничего не стоит для применения. Мы показываем, что каждая матрица является суммой этих частей, затем находим их внутри матричного произведения, ковариационной матрицы, градиента слоя нейронной сети и LoRA, и завершаем сингулярным разложением (SVD), которое сохраняет самые большие части и дает наилучшее приближение низкого ранга. Похожие видео ▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬ Почему скалярное произведение дает вам угол:    • Why the Dot Product Gives You the Angle   Ранг матрицы — объяснение:    • Matrix Rank - Explained   Сингулярное разложение (SVD) — объяснение:    • Singular Value Decomposition (SVD) Explained   Ковариационная матрица — объяснение:    • Covariance Matrix - Explained   Адаптация низкого ранга (LoRA):    • low-rank adaptation (LoRA) #machinelearnin...   Что на самом деле означает транспонирование матрицы:    • What the Transpose of a Matrix Actually Means   Что забывает матрица: Нулевое пространство:    • What a Matrix Forgets: The Null Space   Содержание ▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬ 00:00 - Двенадцать элементов из семи чисел 00:50 - Каждая строка - копия 01:54 - Измерение вдоль v, точка вдоль u 03:03 - Почему для единичной матрицы нужно два элемента 04:16 - Умножение столбца на строку 05:07 - Хранение матрицы по частям 06:03 - Ковариантность, по одной точке за раз 07:08 - Градиент слоя 08:19 - Сохранение самых больших фрагментов Подписывайтесь на меня ▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬ 🐦 X: @datamlistic https://x.com/datamlistic 📸 Instagram: @datamlistic   / datamlistic   📱 TikTok: @datamlistic   / datamlistic   👔 Linkedin:   / datamlistic   Канал Поддержка ▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬▬ Лучший способ поддержать канал — поделиться контентом. ;) Если вы также хотите поддержать канал финансово, пожертвование в размере стоимости чашки кофе всегда приветствуется! (полностью необязательно и добровольно) ► Patreon:   / datamlistic   ► Bitcoin (BTC): 3C6Pkzyb5CjAUYrJxmpCaaNPVRgRVxxyTq ► Ethereum (ETH): 0x9Ac4eB94386C3e02b96599C05B7a8C71773c9281 ► Cardano (ADA): addr1v95rfxlslfzkvd8sr3exkh7st4qmgj4ywf5zcaxgqgdyunsj5juw5 ► Tether (USDT): 0xeC261d9b2EE4B6997a6a424067af165BAA4afE1a #линейнаяалгебра #машинноеобучение #математика