Strata Metal достигает 107 токенов/с на M5 Max — в 4 раза быстрее, чем LM Studio!

Новый механизм вывода ИИ выводит производительность локальной LLM на Apple Silicon на совершенно новый уровень! В этом видео я рассматриваю Strata, механизм вывода ИИ с открытым исходным кодом и собственным бэкендом Apple Metal, и тестирую его производительность на Qwen3.8-Flash-Next на своем Apple M5 Max с 128 ГБ унифицированной памяти. Разделы: 00:00 - Введение 02:14 - Как работает Strata 03:30 - Запуск Strata с QWEN3.8-Flash-Next 07:48 - Запуск QWEN3.8-Flash-Next в LM Studio 09:00 - Запуск запроса на генерацию кода и насколько медленно работает LM Studio Получите скидку 85% на мой курс, используя промокод https://www.udemy.com/course/ai-red-t... Другие мои курсы по ИИ, которые помогут вам развиваться уже сегодня: Изучите мой последний курс, запущенный на этой неделе, по тестированию ИИ без кода: Автоматизация тестирования программного обеспечения простым языком: https://www.udemy.com/course/zero-cod... Используйте Код: LEARN_SEP_26 для скидки 85% (ограниченное время) Другие мои курсы по ИИ, которые помогут вам развиваться уже сегодня: Чтобы узнать больше о создании собственных агентов ИИ и тестировании агентов ИИ, пройдите курсы, доступные на Udemy, с промокодами на скидку. Используйте промокод: LEARN_OCT_26 🤖 Автоматизация тестирования на основе ИИ: Playwright, Selenium, LLM и многое другое https://www.udemy.com/course/ai-test-... 🤖 https://www.udemy.com/course/genai-mu... 🤖 Тестирование приложений ИИ и LLM с помощью DeepEval, RAGA и других инструментов с использованием Ollama https://www.udemy.com/course/ai-testi... 🤖 Создание и тестирование агентов ИИ, чат-ботов, RAG с помощью Ollama и Local LLM https://www.udemy.com/course/build-ai... 🤖2025 - Понимание, тестирование и тонкая настройка модели ИИ с помощью HuggingFace https://www.udemy.com/course/ai-with-... 🤖2025 - Использование генеративного ИИ в автоматизированном тестировании программного обеспечения https://www.udemy.com/course/generati... ➜ Промокоды на все курсы: LEARN_OCT_26 ► [Курс по разработке продвинутых фреймворков на Selenium C#] https://www.udemy.com/course/framewor... ► [Курс по разработке фреймворков на Playwright C#] https://www.udemy.com/course/framewor... #Strata #Qwen #AppleSilicon #LocalLLM #M5Max #LocalAI #applesilicon #ExecuteAutomation ► [Udemy] https://www.udemy.com/user/karthik-kk/ ► [XUnit с Selenium]    • XUnit with Selenium   ► [Основы Git]    • Git Basics - Everyday Commands   ► [SpringBoot для тестирования]    • Spring Boot for Automation testing   Selenium и C# ► [C# для автоматизированного тестирования]    • C# for Automation Testing   ► [Selenium с C#]    • Introduction to Selenium in C# -- Part 1 (...   ► [BDD со Specflow]    • BDD and Specflow   ► [BDD с Selenium]    • BDD with Selenium and Specflow   ► [Selenium .NET Core]    • Плейлист   Selenium и Java ► [Cucumber с Selenium]    • Section 1 - Cucumber with Selenium (Cucumb...   ► [Cucumber с Selenium]    • Section 2 - Cucumber With Selenium (Seleni...   ► [Обновление Cucumber 4]    • Section 3 - Upgrade to Cucumber 4   ► [Selenium Grid]    • Selenium Grid   ► [Разработка с использованием фреймворка Selenium]    • Selenium Framework Design and Development   ► [Selenium 4]    • Selenium 4   ► [Selenium Grid с Docker]    • Selenium Grid with Docker