Что надо знать про работу LLM моделей // Демо-занятие курса «LLM Driven Development»
OTUS IT Онлайн - образование
0:00 / 0:00
Что надо знать про работу LLM моделей // Демо-занятие курса «LLM Driven Development»
861 просмотр · 10 месяцев назад
OTUS IT Онлайн - образование
42,5 тыс. подписчиков
861 просмотр · 10 месяцев назад
Что будет на вебинаре?
Разберём архитектуру Transformers и механизм генерации текста с выбором слов на каждом шаге
Покажем, как развернуть LLM локально через vLLM и протестируем её работу через API
Объясним принципы контекстных ответов на основе документов и идею агентных моделей
Каким слушателям вебинар будет полезен?
Начинающим разработчикам, аналитикам и product-менеджерам, которые хотят понять, как работают LLM “под капотом” и как их использовать на практике — без глубокого погружения в математику
Что в результате вебинара узнают пользователи? Как/где смогут применить полученные навыки?
Поймут, как LLM выбирает слова и формирует ответ — это поможет точнее формулировать промпты и интерпретировать результаты
Смогут самостоятельно развернуть модель локально и тестировать её через API — полезно для прототипирования и внутренних задач
Узнают, как модели используют контекст из документов или интернета — это даст основу для построения RAG-систем или агентов в бизнес-процессах
«LLM Driven Development» - https://otus.pw/wzTF/
Преподаватель: Дмитрий Колесников
Материалы к занятию - https://otus.pw/ZYL3/
Пройдите опрос по итогам мероприятия - https://otus.pw/6lk6/
Следите за новостями проекта:
→ VK: https://vk.com/otusru
→ Telegram: https://t.me/Otusjava
→ Хабр: https://otus.pw/S0nM/