Qwen3.8-27B: режим мышления Low против xHigh + спекулятивная декодировка DFlash2 на M5 Max ⚡️

В этом видео я тестирую Qwen3.8-27B локально на Apple M5 Max, сравнивая различные уровни обработки информации и рассматривая, как меняется количество токенов в секунду (TPS) по мере того, как модели предоставляется больше времени на обработку информации. Я также тестирую спекулятивное декодирование DFlash2, чтобы посмотреть, насколько оно может ускорить вывод Qwen3.8-27B и можно ли найти оптимальный практический уровень производительности, комбинируя спекулятивное декодирование с различными уровнями обработки информации. Мои курсы по искусственному интеллекту, которые помогут вам развиваться уже сегодня: Пройдите мой последний курс, запущенный на этой неделе, по тестированию ИИ без кода: Автоматизация тестирования программного обеспечения простым языком: https://www.udemy.com/course/zero-cod... Используйте код: LEARN_AUG_26 для скидки 85% (ограниченное время) Другие мои курсы по искусственному интеллекту, которые помогут вам развиваться уже сегодня: Чтобы узнать больше о создании собственных агентов ИИ и тестировании агентов ИИ, пройдите курсы, доступные на Udemy, с купонами на скидку, указанными ниже. Используйте промокод: LEARN_AUG_26 🤖 Автоматизация тестирования на основе ИИ: Playwright, Selenium, LLM и многое другое https://www.udemy.com/course/ai-test-... 🤖 https://www.udemy.com/course/genai-mu... 🤖 Тестирование приложений ИИ и LLM с помощью DeepEval, RAGA и других инструментов с использованием Ollama https://www.udemy.com/course/ai-testi... 🤖 Создание и тестирование агентов ИИ, чат-ботов, RAG с помощью Ollama и Local LLM https://www.udemy.com/course/build-ai... 🤖2025 - Понимание, тестирование и тонкая настройка модели ИИ с помощью HuggingFace https://www.udemy.com/course/ai-with-... 🤖2025 - Использование генеративного ИИ в автоматизированном тестировании программного обеспечения https://www.udemy.com/course/generati... 🤖AgentQL:    • AgentQL: How Deepseek & OpenAI Supercharge...   🌐 Локальный Deepseek R1 для использования в браузере -    • Local Deepseek R1 for Browser Use: Does It...   🌐 Использование браузера -    • 🔥 89% Accuracy in AI Browser Automation wi...   ➜ Купоны на скидку для всех курсов: LEARN_AUG_26 ► [Курс по разработке продвинутых фреймворков на Selenium C#] https://www.udemy.com/course/framewor... ► [Курс по разработке продвинутых фреймворков на Playwright C#] https://www.udemy.com/course/framewor... #Qwen #Qwen3 #Qwen3.8 #AppleSilicon #LocalLLM #M5Max #LLMBenchmark #ExecuteAutomation ► [Udemy] https://www.udemy.com/user/karthik-kk/ ► [XUnit с Selenium]    • XUnit with Selenium   ► [Основы Git]    • Git Basics - Everyday Commands   ► [SpringBoot для тестирования]    • Spring Boot for Automation testing   Selenium и C# ► [C# для автоматизированного тестирования]    • C# for Automation Testing   ► [Selenium с C#]    • Introduction to Selenium in C# -- Part 1 (...   ► [BDD с Specflow]    • BDD and Specflow   ► [BDD с Selenium]    • BDD with Selenium and Specflow   ► [Selenium .NET Core]    • Плейлист   Selenium и Java ► [Cucumber с Selenium]    • Section 1 - Cucumber with Selenium (Cucumb...   ► [Cucumber с Selenium]    • Section 2 - Cucumber With Selenium (Seleni...   ► [Обновление Cucumber 4]    • Section 3 - Upgrade to Cucumber 4   ► [Selenium Grid]    • Selenium Grid   ► [Разработка с использованием фреймворка Selenium]    • Selenium Framework Design and Development   ► [Selenium 4]    • Selenium 4   ► [Selenium Grid с Docker]    • Selenium Grid with Docker