DSPy + Context Engineering — практический курс от основ до уровня профи!
Neural Breakdown with AVB
0:00 / 0:00
DSPy + Context Engineering — практический курс от основ до уровня профи!
22 330 просмотров · 1 год назад
Neural Breakdown with AVB
35,1 тыс. подписчиков
22 330 просмотров · 1 год назад
Это всеобъемлющее руководство по контекстной инженерии покажет, как создавать мощные и надежные приложения с использованием больших языковых моделей (LLM). Я рассмотрю все аспекты, начиная с атомарных подсказок и заканчивая использованием DSPy для создания сложных систем на основе LLM. Это включает в себя RAG, вызов инструментов и многоагентные системы.
В этом подробном обзоре мы изучим искусство и науку структурирования контекста для достижения наилучшей производительности ваших LLM. Вы узнаете, как программно создавать последовательные потоки, условное ветвление, параллельную генерацию, итеративное уточнение. Как отслеживать программы DSPy с помощью ML Flow и как оценивать открытые системы. Мы также разберем генерацию с расширением поиска (RAG), сравним поиск на основе встраивания с поиском на основе ключевых слов, таким как BM25, гибридный поиск, гипотетические встраивания документов (HyDE) и рассмотрим многошаговый поиск RAG. Я также кратко затрону систему памяти и алгоритм Mem0.
Репозиторий Github находится здесь:
https://github.com/avbiswas/context-e...
Видео, которые вам стоит посмотреть:
Учебник по RAG: • A guide to building Retrieval Augmented Ge...
Учебник по Dspy: • Complete DSPy Tutorial - Master LLM Prompt...
Обучение LLM-моделей для рассуждений: • How to finetune LLMs to THINK with Reinfor...
Оптимизация TextGrad: • The complete TextGrad Tutorial - Easily op...
Тонкая настройка LLM-моделей: • Finetune LLMs to teach them ANYTHING with ...
Подписывайтесь на меня в Twitter: https://x.com/neural_avb
Чтобы присоединиться к нашему Patreon, посетите: / neuralbreakdownwithavb
Участники получают доступ ко всему, что происходит за кулисами при создании моих видео, включая код. Кроме того, это очень помогает каналу и оплачивать мои счета. Спасибо!
Некоторые справочные материалы:
https://github.com/davidkimai/Context...
https://arxiv.org/abs/2507.13334
DSPy:
https://dspy.ai/
Временные метки:
0:00 - Вступление
4:27 - Глава 1: Разработка подсказок
19:26 - Глава 2: Многоагентные программы подсказок
43:00 - Глава 3: Системы оценки
58:00 - Глава 4: Вызов инструментов
1:06:00 - Глава 5: RAGs