Подождите, AMD сделали ДЕШЕВЫЙ компьютер для ИИ!?

В этом видео я расскажу вам о новом процессоре AMD Ryzen AI Max+ PRO 495, его поддержке до 192 ГБ унифицированной памяти и о том, что эта дополнительная емкость означает для локального запуска больших моделей ИИ. Я также объясню ограничения пропускной способности памяти, заявленные возможности для моделей с 300 миллиардами параметров, ожидаемую производительность и ориентировочные цены на будущие мини-ПК от GMKtec, Minisforum, ACEMAGIC, Lenovo и Bosgame. - Основные выводы: 🚀 Ryzen AI Max+ PRO 495 поддерживает до 192 ГБ унифицированной памяти по сравнению со 128 ГБ у Ryzen AI Max+ PRO 395. 🧠 Поддерживаемые системы могут выделять до 160 ГБ в качестве графической памяти, создавая больше места для больших локальных моделей ИИ и более длительных контекстов. 📊 Заявления о поддержке моделей с 300 миллиардами параметров сильно зависят от квантования, формата модели, накладных расходов и размера контекста. ⚡ Пропускная способность памяти увеличивается всего примерно на 7 процентов, несмотря на 50-процентное увеличение общей емкости памяти. 🎮 Radeon 8065S по-прежнему имеет 40 вычислительных блоков RDNA 3.5, в то время как его максимальная тактовая частота графики немного увеличивается до 3 ГГц. 🔧 Поддержка AMD ROCm и такие инструменты, как llama.cpp, могут обеспечить ускорение GPU, но драйверы, операционные системы и бэкэнды по-прежнему имеют значение. 💸 Полностью сконфигурированная система GMKtec EVO-X5 Pro или Minisforum с 192 ГБ памяти может стоить от 5000 до 7000 долларов, хотя официальные цены еще не объявлены. 👍 Обновление наиболее целесообразно для пользователей, которые регулярно превышают лимиты памяти существующих систем объемом 128 ГБ, а не для тех, чьи модели уже комфортно вмещают весь объем памяти.