Attention is all you need || Разбор трансформеров || Краткое объяснение
Developers Hutt
0:00 / 0:00
Attention is all you need || Разбор трансформеров || Краткое объяснение
23 848 просмотров · 4 г. назад
Developers Hutt
5,39 тыс. подписчиков
23 848 просмотров · 4 г. назад
В статье «Внимание — это всё, что вам нужно» доминировала область обработки естественного языка и генерации текста. Будь то GPT3, BERT или Blenderbot, передовые модели или системы обработки естественного языка, окружающие нас, используют трансформеры. Здесь я как можно быстрее объяснил основу трансформеров (голову внимания). Надеюсь, вам понравится.
Ваши отзывы очень важны для меня. Поэтому, пожалуйста, оставьте свой.
И как всегда, спасибо за просмотр.
По вопросам или обновлениям следите за обновлениями в Instagram:
Instagram: / developershutt
Временные метки:
0:00 Введение
0:43 Ограничения RNN
2:07 Введение в самовнимание
3:30 Позиционное кодирование
5:15 Многоголовое внимание
7:23 Декодер
9:46 Маскированное многоголовое внимание
10:49 Что нужно помнить