Как приручить LLM?

Думаешь, было бы здорово иметь собственный GPT у себя на компьютере? А как насчёт LLM прямо у себя на телефоне? И как заставить такую модель работать эффективно с конкретными материалами и текстами? Обо всём вы узнаете в этой лекции. Telegram: https://t.me/dscsgu VK: https://vk.com/dscsgu Github: https://github.com/dsc-sgu Сайт: https://dsc.alivetech.org Тайм-коды: 00:00 - Вступление 01:13 - Что такое GPT, отличия обычной и большой языковой модели 08:27 - На что способна LLM? 11:40 - Что нужно для работы с LLM? 17:00 - Установка Ollama, локальный запуск 19:35 - Про веса моделей и квантование 24:28 - Настройка LLM в Ollama, что такое Modelfile 33:45 - Как улучшить работу локальной LLM? Finetuning, RAG 42:00 - Как улучшить RAG. Простые примеры.