Компактный ПК от AMD для локального ИИ
Coding Horizon
0:00 / 0:00
Компактный ПК от AMD для локального ИИ
15 148 просмотров · 2 дня назад
Coding Horizon
1,63 тыс. подписчиков
15 148 просмотров · 2 дня назад
AMD размещает 192 гигабайта унифицированной памяти в локальном чипе для ИИ.
Это не делает его самой быстрой машиной, но меняет представление о том, какие модели могут находиться у вас на столе.
Платформа AMD Ryzen AI Max PRO 400 повышает потолок локальной памяти для ИИ до 192 гигабайт, при этом до 160 гигабайт доступно в качестве графической памяти. Очевидный заголовок — 300 байт моделей на одном ПК, но настоящая победа заключается в том, что происходит на более низких уровнях: лучшее квантование, более длинный контекст, более крупные агенты и меньшее количество резервных копий в облако для частной работы. Однако загвоздка в том, что это в основном увеличение объема, а не чудо скорости, что делает борьбу с Nvidia, Apple и серверными графическими процессорами гораздо интереснее, чем обычный график бенчмарков.
0:00 Цифра, из-за которой ваша видеокарта кажется маленькой
1:38 Что такое Gorgon Halo на самом деле
3:16 В сравнении с RTX 5090
4:57 В сравнении с рабочей видеокартой на 96 ГБ
6:18 Apple уже увеличила объем памяти
7:27 Заявление о 300 байтах — это рекламный щит
8:59 Что уже доказывает Strix Halo на 128 ГБ
10:21 Почему программистам нужно больше места
11:27 Вопрос, который убивает команду ИИ
12:27 Предостережение, которое никто не указывает на слайде
13:42 Стоит ли ждать 192 ГБ?
Смотрите далее:
Мини-ПК, в которые устанавливается этот чип, рейтинг - • Mini PCs Can Run This Now. Which Is Best?
Машина, в которой уже была память, с другой стороны - • Apple Just Made The Mac Mini For Local AI
После установки, какой объем памяти следует использовать? • Which Local AI Size Should You Use?
Исходные данные и работа: https://codinghorizon.dev/192gb-just-...
@CodingHorizon на X: https://x.com/CodingHorizon
Синтезированный текст.
#localai #amd #ryzenai