Внедряем Gemma 2: поиск по файлам на ПК по смыслу (изображения, заметки, код)
Alex
0:00 / 0:00
Внедряем Gemma 2: поиск по файлам на ПК по смыслу (изображения, заметки, код)
251 просмотр · 13 дн. назад
Alex
80 подписчиков
251 просмотр · 13 дн. назад
Как найти скриншот без имени, таблицу результатов тестирования или старую заметку Obsidian, если поиск Windows сопоставляет только имена файлов? В этом видео я создаю полностью локальный поиск с использованием ИИ для своего ПК с помощью Google Embedding Gemma 2 — крошечной мультимодальной модели встраивания, которая ищет изображения, заметки Markdown и код по смыслу, без распознавания текста и без облачных вычислений.
Моя конфигурация: Windows, Gemma 4E4B-QAT (кэш Q4_0, Q8_0 KV, контекст 32K) в llama-server, тензоры Embedding Gemma 2 от Hugging Face, ChromaDB, FastAPI, Python watchdog, Prompt Toolkit.
MASTER PROMPT (вставьте в Claude, Codex, Gemini или вашу локальную модель кодирования):
https://github.com/alexfp16/local-mul...
Разделы
00:00 Почему поиск Windows не может найти ваши скриншоты
01:02 Встраивание Gemma 2: локальный мультимодальный поиск
02:11 Почему не BGE-M3 или Nomic Embed в Ollama?
03:17 Встраивание матрёшек: 256 измерений в ChromaDB
03:54 Ловушка поиска изображений: пути к файлам не встраиваются
05:06 Демонстрация: поиск текста на скриншотах без OCR
05:58 Демонстрация: поиск безымянной таблицы бенчмарка
06:57 Демонстрация: поиск изображений по визуальному значению
08:00 Демонстрация: запрос заметок Obsidian с помощью Gemma 4E4B
09:13 Использование видеопамяти и оперативной памяти (всего 6–8 ГБ)
10:52 Как встраивание Gemma 2 и Gemma 4E4B разделяет работу
11:32 Создание с помощью одной подсказки для программирования ИИ
12:22 Демон FastAPI и многомодальный маршрутизатор
14:00 Сторожевой таймер папок и исправление метки времени ChromaDB
14:51 Шлюз цитирования и CLI PowerShell
15:56 Настройка для llama.cpp, LM Studio или Ollama
Ссылки
Встраивание Gemma 2 на Hugging Face: [https://huggingface.co/google/embeddi...]
Встраивание Gemma 2 GGUF для llama.cpp: [https://huggingface.co/ggml-org/embed...]
BenchKit (локальное тестирование LLM): https://github.com/DogukanUrker/BenchKit
NVIDIA Music Flamingo: [https://huggingface.co/nvidia/music-f...]
Почему ваш локальный LLM испытывает проблемы с RAG (попробуйте Obsidian) → [ • Why Your Local LLM Struggles with RAG (Try... ]
Запуск LLM локально на потребительских GPU в 2026 году → [ • Running LLMs Locally On Consumer GPU in 2026 ]
1