Bonsai 2 27B: Qwen3.8-27B, сжатая до 6 ГБ — но хороша ли она?

Модель Bonsai 2 27B от PrismML берет Qwen3.8-27B и сжимает ее размер с примерно 54 ГБ в FP16 до около 6 ГБ с помощью троичных весов. Это огромное уменьшение размера модели, и PrismML утверждает, что модель по-прежнему сохраняет около 98,2% совокупной производительности версии FP16 в бенчмарках. Разделы: 00:00 - Введение 01:27 - Запуск Bonsai 27B на Apple M5 04:39 - Миграция .NET 10 в Bonsai 2-27B по сравнению с QWEN3.8-27B 07:36 - Генерация SVG-изображений в Bonsai 2-27B по сравнению с QWEN3.8-27B 08:58 - Вывод SVG-изображений Мои курсы по ИИ, которые помогут вам развиваться уже сегодня: Пройдите мой последний курс, запущенный на этой неделе, по тестированию ИИ без кода: Автоматизация тестирования программного обеспечения простым языком: https://www.udemy.com/course/zero-cod... Используйте код: LEARN_SEP_26 для скидки 85% (ограниченное время) Другие мои курсы по ИИ, которые помогут вам развиваться уже сегодня: Чтобы узнать больше о создании собственных агентов ИИ и Тестирование агентов ИИ: пройдите курсы, доступные на Udemy, с промокодами и скидками. Используйте промокод: LEARN_SEP_26 🤖 Автоматизация тестирования на основе ИИ: Playwright, Selenium, LLM и многое другое https://www.udemy.com/course/ai-test-... 🤖 https://www.udemy.com/course/genai-mu... 🤖 Тестирование приложений ИИ и LLM с помощью DeepEval, RAGA и других инструментов с использованием Ollama https://www.udemy.com/course/ai-testi... 🤖 Создание и тестирование агентов ИИ, чат-ботов, RAG с помощью Ollama и Local LLM https://www.udemy.com/course/build-ai... 🤖2025 - Понимание, тестирование и тонкая настройка модели ИИ с помощью HuggingFace https://www.udemy.com/course/ai-with-... 🤖2025 - Использование генеративного ИИ в автоматизированном тестировании программного обеспечения https://www.udemy.com/course/generati... 🤖AgentQL:    • AgentQL: How Deepseek & OpenAI Supercharge...   🌐 Локальный Deepseek R1 для использования в браузере -    • Local Deepseek R1 for Browser Use: Does It...   🌐 Использование в браузере -    • 🔥 89% Accuracy in AI Browser Automation wi...   ➜ Купоны на скидку для всех курсов: LEARN_SEP_26 ► [Курс по разработке продвинутых фреймворков на Selenium C#] https://www.udemy.com/course/framewor... ► [Курс по разработке продвинутых фреймворков на Playwright C#] https://www.udemy.com/course/framewor... #Bonsai2 #Qwen3 #LocalLLM #M5Max #PrismML #ExecuteAutomation ► [Udemy] https://www.udemy.com/user/karthik-kk/ ► [XUnit с Selenium]    • XUnit with Selenium   ► [Основы Git]    • Git Basics - Everyday Commands   ► [SpringBoot для тестирования]    • Spring Boot for Automation testing   Selenium и C# ► [C# для автоматизированного тестирования]    • C# for Automation Testing   ► [Selenium с C#]    • Introduction to Selenium in C# -- Part 1 (...   ► [BDD с Specflow]    • BDD and Specflow   ► [BDD с Selenium]    • BDD with Selenium and Specflow   ► [Selenium .NET Core]    • Плейлист   Selenium и Java ► [Cucumber с Selenium]    • Section 1 - Cucumber with Selenium (Cucumb...   ► [Cucumber с Selenium]    • Section 2 - Cucumber With Selenium (Seleni...   ► [Обновление Cucumber 4]    • Section 3 - Upgrade to Cucumber 4   ► [Selenium Grid]    • Selenium Grid   ► [Разработка с использованием фреймворка Selenium]    • Selenium Framework Design and Development   ► [Selenium 4]    • Selenium 4   ► [Selenium Grid с Docker]    • Selenium Grid with Docker