Что надо знать про работу LLM моделей // Демо-занятие курса «LLM-инженер»

• Разберём механизм генерации текста — как модель выбирает слово на каждом шаге. • Покажем, как развернуть LLM локально через vLLM, и протестируем её работу через API. • Объясним принципы работы с контекстом из документов. Каким слушателям вебинар будет полезен? Начинающим разработчикам, аналитикам и product-менеджерам, которые хотят понять, как работают LLM «под капотом», и научиться использовать их на практике — без глубокого погружения в математику. Что в результате вебинара узнают пользователи? Как/где смогут применить полученные навыки? • Поймут, как LLM выбирает слова и формирует ответ — это поможет точнее формулировать промпты и интерпретировать результаты. • Смогут самостоятельно развернуть модель локально и тестировать её через API — пригодится для прототипирования и внутренних задач. • Узнают, как модели используют контекст — основу RAG-систем. «LLM-инженер» - https://otus.pw/yAWE/ Преподаватель: Екатерина Прохорова Пройдите опрос по итогам мероприятия - https://otus.pw/jsYVn/ Следите за новостями проекта: → Telegram: https://t.me/Otusjava → Хабр: https://otus.pw/S0nM/ → Макс: https://otus.pw/wVga/ → VK: https://vk.com/otusru