Я попросив ШІ прискорити мій сервер. Він зробив це САМ!

Запустив ШІ на 180 млрд параметрів (Qwen3.8 Flash Next) на одній RTX 3090 із використанням оперативної пам’яті. Отримав 80 токенів/с і продуктивність вищу, ніж у попередньої моделі на 27 млрд параметрів! У відео тестую Qwen та DeepSeek на власних серверах, розбираю нову квантизацію GSQ-RCO та показую, як мій локальний AI-агент самостійно прискорив обробку промптів на 20%. Таймкоди: 00:00 — Що сьогодні тестуємо 01:22 — Навіщо мені власні AI-сервери? 04:54 — Запускаємо Qwen 180B на RTX 3090 06:00 — Як Strata працює з оперативною пам’яттю 07:53 — Оригінальна модель проти Swift 09:44 — 260 тисяч токенів контексту 13:32 — Запуск DeepSeek 550B і порівняння швидкості 16:50 — Чому локальний ШІ має сенс 19:11 — GSQ-RCO: нова квантизація без значних втрат якості 23:52 — Як ШІ самостійно оптимізував відеокарти 25:29 — Результат: +20% до швидкості обробки промптів 27:13 — Оптимізація серверів і паралельних агентів 28:06 — Створюємо систему AI-агентів для програмування 29:17 — Підсумки та подальші плани