Что такое эмбеддинги? Как ИИ превращает слова в смысл

Что такое эмбеддинги? В этом видео объясняется, как ИИ преобразует слова в векторы, почему похожие значения находятся близко друг к другу и как Word2Vec и RAG используют это. В этом видео DEEP AI я наглядно объясняю эмбеддинги с самых основ, начиная с: король − мужчина + женщина ≈ королева Затем мы шаг за шагом развиваем всю идею: one-hot против dense vectors, косинусное сходство, Word2Vec и skip-gram, статические против контекстных эмбеддингов, эмбеддинги предложений, семантический поиск, RAG, сегментация, HNSW, стоимость хранения, эмбеддинги запросов против эмбеддингов документов и мультимодальные эмбеддинги. К концу вы должны понимать не только то, что такое эмбеддинги, но и почему они лежат в основе семантического поиска, векторных баз данных, поисковых систем и современных конвейеров RAG. Что вы узнаете • Что такое векторное представление (embedding) на самом деле • Почему похожие слова располагаются близко друг к другу • Векторы one-hot против плотных векторов • Косинусное сходство • Как Word2Vec и skip-gram обучаются векторным представлениям • Почему работает арифметика векторных представлений • Статические и контекстные векторные представления • Почему слово «банк» может означать разные вещи в разных предложениях • Векторные представления предложений и документов • Семантический поиск • Как векторные представления обеспечивают работу RAG • Сегментация и качество поиска • HNSW и приблизительный поиск ближайшего соседа • Размерность векторных представлений и стоимость хранения • Выбор моделей векторных представлений • Векторные представления запросов и документов • Мультимодальные векторные представления для текста и изображений 00:00 Король − мужчина + женщина ≈ королева 00:51 Почему словам нужны представления 01:28 Слова как точки в пространстве 03:25 One-hot против плотных векторных представлений Векторы 03:58 Косинусное сходство 04:26 Как обучаются эмбеддинги 04:59 Skip-gram 05:55 Почему работает арифметика эмбеддингов 06:36 Статические эмбеддинги и неоднозначность слов 07:12 Контекстные эмбеддинги 08:12 От слов к эмбеддингам предложений 08:49 Семантический поиск 09:22 Эмбеддинги внутри RAG 09:59 Разбиение на фрагменты (чанкинг) 10:19 HNSW и приблизительный поиск 10:51 Размеры и хранение эмбеддингов 11:29 Выбор модели эмбеддинга 12:00 Эмбеддинги запросов и документов 12:57 Мультимодальные эмбеддинги 13:55 Далее: Внимание Это часть DEEP AI. Посмотрите после 1-го эпизода, затем RAG, затем Внимание. Смотрите эпизод 1:    • LLMs Don’t Think. They Predict the Next To...   Далее: RAG    • What Is RAG? Retrieval-Augmented Generatio...   Затем: Transformer Attention    • What Is Transformer Attention? Query, Key,...   Смотрите сериал:    • DEEP AI   Подпишитесь: https://www.youtube.com/@DrIbrarAhmed... Плейлисты Глубокий ИИ: Как работают LLM:    • DEEP AI   ИИ для начинающих: Как работают LLM:    • AI for Beginners   Учебники по агентам ИИ:    • AI Agents Tutorials   Уроки по Claude AI:    • Claude AI Tutorials   Уроки по OpenClaw:    • OpenClaw Tutorial   Автоматизация YouTube с помощью ИИ:    • YouTube Automation with AI   Что вам понравилось первым: арифметика «король-королева», контекстные эмбеддинги или поиск RAG? Напишите в комментариях. #Эмбеддинги #Word2Vec #RAG #ВекторнаяБазаДанные #СемантическийПоиск #LLM #ИскусственныйИнтеллект #ГлубокоеОбучение