Как я запустил Qwen3.8-27B GSQ-RCO на Mac Mini с 24 ГБ памяти

В этом видео я тестирую Qwen3.8-27B GSQ-RCO IQ2_XS на Mac Mini Apple M4 с 24 ГБ оперативной памяти и изучаю, что делает эту сверхнизкобитовую квантизацию такой интересной. Оригинальная модель Qwen3.8-27B BF16 занимает около 53,8 ГБ, но версия GSQ-RCO IQ2_XS уменьшает её до ~8,4 ГБ — примерно в 6,4 раза меньше — со средним значением около 2,50 бит на вес (BPW). Разделы: 00:00 - Введение 04:24 - MTPLX с моделью QWEN3.8-Flash-Next 07:04 - Тест миграции .NET с MTPLX против oMLX 09:31 - Тест генерации SVG-изображений с MTPLX против oMLX Мои курсы по ИИ, которые помогут вам развиваться уже сегодня: Пройдите мой последний курс, запущенный на этой неделе, по тестированию ИИ без кода: Автоматизация тестирования программного обеспечения простым языком: https://www.udemy.com/course/zero-cod... Используйте код: LEARN_AUG_26 для скидки 85% (ограниченное время) Другие мои курсы по ИИ, которые помогут вам развиваться уже сегодня: Чтобы узнать больше о создании собственных агентов ИИ и тестировании агентов ИИ, пройдите курсы, доступные на Udemy, с купонами на скидку. Используйте промокод: LEARN_AUG_26 🤖 Автоматизация тестирования на основе ИИ: Playwright, Selenium, LLM и многое другое https://www.udemy.com/course/ai-test-... 🤖 https://www.udemy.com/course/genai-mu... 🤖 Тестирование приложений ИИ и LLM с помощью DeepEval, RAGA и других инструментов с использованием Ollama https://www.udemy.com/course/ai-testi... 🤖 Создание и тестирование агентов ИИ, чат-ботов, RAG с помощью Ollama и Local LLM https://www.udemy.com/course/build-ai... 🤖2025 - Понимание, тестирование и тонкая настройка модели ИИ с помощью HuggingFace https://www.udemy.com/course/ai-with-... 🤖2025 - Использование генеративного ИИ в автоматизированном тестировании программного обеспечения https://www.udemy.com/course/generati... 🤖AgentQL:    • AgentQL: How Deepseek & OpenAI Supercharge...   🌐 Локальный Deepseek R1 для использования в браузере -    • Local Deepseek R1 for Browser Use: Does It...   🌐 Использование браузера -    • 🔥 89% Accuracy in AI Browser Automation wi...   ➜ Купоны на скидку для всех курсов: LEARN_AUG_26 ► [Курс по разработке продвинутых фреймворков на Selenium C#] https://www.udemy.com/course/framewor... ► [Курс по разработке продвинутых фреймворков на Playwright C#] https://www.udemy.com/course/framewor... #Qwen #Qwen38 #FlashNext #LocalAI #LLM #MoE #AppleSilicon #llamaCPP #Unsloth #ClaudeOpus #ExecuteAutomation ► [Udemy] https://www.udemy.com/user/karthik-kk/ ► [XUnit с Selenium]    • XUnit with Selenium   ► [Основы Git]    • Git Basics - Everyday Commands   ► [SpringBoot для тестирования]    • Spring Boot for Automation testing   Selenium и C# ► [C# для автоматизированного тестирования]    • C# for Automation Testing   ► [Selenium с C#]    • Introduction to Selenium in C# -- Part 1 (...   ► [BDD со Specflow]    • BDD and Specflow   ► [BDD со Selenium]    • BDD with Selenium and Specflow   ► [Selenium .NET Core]    • Плейлист   Selenium и Java ► [Cucumber с Selenium]    • Section 1 - Cucumber with Selenium (Cucumb...   ► [Cucumber с Selenium]    • Section 2 - Cucumber With Selenium (Seleni...   ► [Обновление Cucumber 4]    • Section 3 - Upgrade to Cucumber 4   ► [Selenium Grid]    • Selenium Grid   ► [Разработка фреймворка Selenium]    • Selenium Framework Design and Development   ► [Selenium 4]    • Selenium 4   ► [Selenium Grid с Docker]    • Selenium Grid with Docker