Перейти к содержимому

Как на самом деле проходят NLP-собеседования: реальный разбор RAG и LLM

Mark Mirgaleev | ОФФЕРЫ В ML

0:00 / 0:00

Как на самом деле проходят NLP-собеседования: реальный разбор RAG и LLM

4 265 просмотров · 4 мес. назад
Mark Mirgaleev | ОФФЕРЫ В ML
903 подписчика
4 265 просмотров · 4 мес. назад
Как выглядит настоящее техническое собеседование на позицию NLP-инженера? В этом видео — живой разбор интервью, где кандидат рассказывает о боевом RAG-проекте для банка. Никакой воды — только реальные вопросы и ответы про LLM, машинное обучение и векторный поиск. Кандидат разбирает свой проект — RAG-ассистент для контакт-центра банка, который автоматизировал 82% типовых запросов и снизил нагрузку на 42%. Детально обсуждается пайплайн: векторный поиск, реранкер на кросс-энкодере и чанкирование документов. Разбираем, почему именно реранкер — самый дорогой компонент пайплайна и как это оптимизировать. Интервьюер последовательно проверяет понимание оптимизации RAG: как диагностировать проблемы ретривера, какие метрики (NDCG метрика, precision) использовать и как работает self-attention в трансформере. Финальный блок — теория LLM: токенизация (BPE токенизация, WordPiece), архитектура трансформера, предобучение (CLM/MLM), fine-tuning и RLHF. Плюс параметры генерации: температура, Top-K, Top-P. Что из этого разбора показалось вам самым неожиданным или сложным? Напишите в комментарии — отвечу каждому! 👇 Если хочешь попасть на такое же собеседование подготовленным — подпишись на канал и поставь 👍 Здесь регулярно выходят живые интервью и разборы ML инженера в реальных компаниях! Telegram-канал: https://t.me/+9mgSyubc1pI2Y2Iy 0:03 — 🏦 Знакомство и проект в банке: RAG-ассистент для контакт-центра 3:40 — 🔍 Под капотом RAG: BM25, реранкер и стратегии чанкирования 9:26 — 📊 Метрики ретривера: Precision, NDCG и выбор эмбеддинг-модели 12:28 — ⚡ Узкое место: почему реранкер медленнее векторного поиска 13:40 — 🧠 Галлюцинации LLM: промпт, температура и Qwen reasoning 18:23 — 🎛 Top-K и Top-P: управление случайностью генерации 19:39 — 🔧 Архитектура LLM изнутри: BPE, трансформер, self-attention, KV-кэш 25:50 — 🎓 Предобучение, SFT и RLHF: путь от языковой модели к ассистенту 28:47 — 💼 О задачах кандидата, Kafka и причинах смены работы 30:14 — 🚀 Вопросы кандидата: новый AI-агент для телекома #живоесобеседование #NLP #RAG #машинноеобучение #LLM #datascienceкарьера