Трансформаторы, предназначенные только для декодеров, специфический трансформатор для ChatGPT, по...

Трансформеры сейчас захватывают мир ИИ, и, возможно, самое известное их применение — в ChatGPT. ChatGPT использует особый тип трансформера, называемый трансформером только с декодером, и в этом StatQuest мы шаг за шагом покажем, как они работают. А в конце (на 32:14) мы поговорим о различиях между обычным трансформером и трансформером только с декодером. Вот так! ПРИМЕЧАНИЕ: Если вас интересует более подробная информация об обратном распространении ошибки, посмотрите эти видеоуроки: Правило цепочки:    • The Chain Rule, Clearly Explained!!!   Градиентный спуск:    • Gradient Descent, Step-by-Step   Основные идеи обратного распространения ошибки:    • Neural Networks Pt. 2: Backpropagation Mai...   Подробности обратного распространения ошибки, часть 1:    • Backpropagation Details Pt. 1: Optimizing ...   Подробности обратного распространения ошибки, часть 2:    • Backpropagation Details Pt. 2: Going bonke...   Если вас интересует более подробная информация о функции SoftMax, посмотрите:    • Neural Networks Part 5: ArgMax and SoftMax   Если вас интересует более подробная информация о векторном представлении слов, посмотрите:    • Word Embedding and Word2Vec, Clearly Expla...   Если вы хотите узнать больше о вычислении сходства в контексте нейронных сетей и Скалярное произведение, смотрите: Косинусное подобие:    • Cosine Similarity, Clearly Explained!!!   Внимание:    • Attention for Neural Networks, Clearly Exp...   Если вы хотите узнать больше о нормальных трансформерах, смотрите:    • Transformer Neural Networks, ChatGPT's fou...   Полный указатель всех видео StatQuest можно найти здесь: https://statquest.org/video-index/ Если вы хотите поддержать StatQuest, пожалуйста, рассмотрите... Patreon:   / statquest   ...или... Членство на YouTube:    / @statquest   ...покупку одной из моих книг, учебного пособия, футболки или толстовки, или песни от StatQuest магазин... https://statquest.org/statquest-store/ ...или просто пожертвовать StatQuest! https://www.paypal.me/statquest И наконец, если вы хотите следить за моими исследованиями и созданием новых StatQuest, подписывайтесь на меня в Твиттере:   / joshuastarmer   0:00 Замечательная песня и вступление 1:34 Встраивание слов 7:26 Позиционное кодирование 10:10 Маскированное самовнимание, авторегрессивный метод 22:35 Остаточные связи 23:00 Генерация следующего слова в подсказке 26:23 Обзор кодирования и генерации подсказки 27:20 Генерация выходных данных, часть 1 28:46 Маскированное самовнимание при генерации выходных данных 30:40 Генерация выходных данных, часть 2 32:14 Обычные трансформеры против трансформеров только с декодером #StatQuest