Перейти к содержимому

Внедряем Gemma 2: поиск по файлам на ПК по смыслу (изображения, заметки, код)

Alex

0:00 / 0:00

Внедряем Gemma 2: поиск по файлам на ПК по смыслу (изображения, заметки, код)

251 просмотр · 13 дн. назад
Alex
80 подписчиков
251 просмотр · 13 дн. назад
Как найти скриншот без имени, таблицу результатов тестирования или старую заметку Obsidian, если поиск Windows сопоставляет только имена файлов? В этом видео я создаю полностью локальный поиск с использованием ИИ для своего ПК с помощью Google Embedding Gemma 2 — крошечной мультимодальной модели встраивания, которая ищет изображения, заметки Markdown и код по смыслу, без распознавания текста и без облачных вычислений. Моя конфигурация: Windows, Gemma 4E4B-QAT (кэш Q4_0, Q8_0 KV, контекст 32K) в llama-server, тензоры Embedding Gemma 2 от Hugging Face, ChromaDB, FastAPI, Python watchdog, Prompt Toolkit. MASTER PROMPT (вставьте в Claude, Codex, Gemini или вашу локальную модель кодирования): https://github.com/alexfp16/local-mul... Разделы 00:00 Почему поиск Windows не может найти ваши скриншоты 01:02 Встраивание Gemma 2: локальный мультимодальный поиск 02:11 Почему не BGE-M3 или Nomic Embed в Ollama? 03:17 Встраивание матрёшек: 256 измерений в ChromaDB 03:54 Ловушка поиска изображений: пути к файлам не встраиваются 05:06 Демонстрация: поиск текста на скриншотах без OCR 05:58 Демонстрация: поиск безымянной таблицы бенчмарка 06:57 Демонстрация: поиск изображений по визуальному значению 08:00 Демонстрация: запрос заметок Obsidian с помощью Gemma 4E4B 09:13 Использование видеопамяти и оперативной памяти (всего 6–8 ГБ) 10:52 Как встраивание Gemma 2 и Gemma 4E4B разделяет работу 11:32 Создание с помощью одной подсказки для программирования ИИ 12:22 Демон FastAPI и многомодальный маршрутизатор 14:00 Сторожевой таймер папок и исправление метки времени ChromaDB 14:51 Шлюз цитирования и CLI PowerShell 15:56 Настройка для llama.cpp, LM Studio или Ollama Ссылки Встраивание Gemma 2 на Hugging Face: [https://huggingface.co/google/embeddi...] Встраивание Gemma 2 GGUF для llama.cpp: [https://huggingface.co/ggml-org/embed...] BenchKit (локальное тестирование LLM): https://github.com/DogukanUrker/BenchKit NVIDIA Music Flamingo: [https://huggingface.co/nvidia/music-f...] Почему ваш локальный LLM испытывает проблемы с RAG (попробуйте Obsidian) → [   • Why Your Local LLM Struggles with RAG (Try...  ] Запуск LLM локально на потребительских GPU в 2026 году → [   • Running LLMs Locally On Consumer GPU in 2026  ] 1