#15 LocalModAI alpha.4 — единый контур фоновой работы, Recovery и 3280 тестов

В этом выпуске показываю, до чего дошёл LocalModAI к публичной версии v0.5.0-alpha.4. Главное изменение — это уже не просто фоновые BASE и CHECKPOINT. За этой функцией появился единый технический контур фоновой работы LocalModAI. Теперь программа постепенно связывает между собой: — единый расчёт объёма накопленной информации; — понимание, когда пора запускать фоновую задачу; — выбор доступного локального мозга или API; — учёт ограничений модели и окна контекста; — ожидание подходящего момента для запуска; — приоритет обычной задачи пользователя над фоновой работой; — паузу и последующее продолжение фоновой задачи; — несколько путей создания и восстановления Summary; — обработку разных ошибок моделей, runtime и API; — Manual Retry; — Attention Center; — продолжение работы после перезапуска программы; — отображение реального состояния фоновой работы в интерфейсе. То есть BASE и CHECKPOINT стали первой настоящей задачей, на которой проверяется будущая инфраструктура фоновых процессов LocalModAI. При этом фундамент ещё не закончен. Сейчас основной расчёт работает вокруг текстовой истории. В следующих этапах нужно добавить полноценный учёт документов, изображений, аудио, видео и других типов информации. Отдельно много работы пришлось сделать из-за того, что разные модели ведут себя совершенно по-разному. Поэтому сейчас есть стандартный путь генерации и несколько ограниченных вариантов Recovery — восстановления после неудачного ответа. Перед публикацией alpha.4 я провёл большую серию проверок: 3280 автоматических тестов — PASS Большой живой regression-тест: — около 70K истории; — 116 сообщений; — 8 локальных профилей разных семейств; — 1 API-модель; — все прогоны завершились 116/116; — без потери диапазонов истории; — без дублирования canonical BASE; — с проверкой восстановления после разных типов ошибок. Важно: техническая надёжность и качество самого Summary — это разные задачи. Технический контур стал значительно устойчивее, но некоторые модели всё ещё могут неправильно понять смысл: например, превратить предложение в принятое решение, перепутать автора фразы или посчитать запланированную работу уже выполненной. Поэтому обратную связь сейчас лучше разделять на: TECH BUG — техническая ошибка программы. SUMMARY QUALITY — технически всё завершилось, но модель неправильно поняла смысл. Особенно интересны тесты на другом железе: — NVIDIA и AMD; — CPU-only; — 32/64 GB RAM; — модели 14B, 24B, 27B, 32B и крупнее; — разные GGUF-квантизации; — reasoning-модели; — большие окна контекста; — другие API-модели. LocalModAI v0.5.0-alpha.4 уже опубликован в LocalModAI-Preview на GitHub. Следующий большой технический шаг — проверить связь долговременных итогов с принятым планом проекта, текущими и выполненными пунктами, результатами работы и важными маркерами. Проект по-прежнему развивается по принципу: сначала один реально рабочий полезный контур — потом расширение платформы. 📢 Telegram: https://t.me/LocalModAI Также создал группу LocalModAI во ВКонтакте. Пока она ещё оформляется и туда не перенесены все старые материалы. 🧪 Публичные сборки https://github.com/alexkomarovkarelia... ⚠️ LocalModAI находится на ранней стадии разработки. Возможны ошибки, зависания и незавершённые функции. Я продолжаю делать проект практически самостоятельно и параллельно с обычной жизнью и другими делами. Поэтому видео иногда выходят реже, чем хотелось бы, но разработка продолжается. Спасибо всем, кто смотрит, тестирует и сообщает об ошибках. #LocalModAI #LocalLLM #LLM #AI #ИИ #Python #GGUF #llamacpp #OpenSource #РазработкаИИ