Перейти к содержимому

Компактный ПК от AMD для локального ИИ

Coding Horizon

0:00 / 0:00

Компактный ПК от AMD для локального ИИ

15 148 просмотров · 2 дня назад
Coding Horizon
1,63 тыс. подписчиков
15 148 просмотров · 2 дня назад
AMD размещает 192 гигабайта унифицированной памяти в локальном чипе для ИИ. Это не делает его самой быстрой машиной, но меняет представление о том, какие модели могут находиться у вас на столе. Платформа AMD Ryzen AI Max PRO 400 повышает потолок локальной памяти для ИИ до 192 гигабайт, при этом до 160 гигабайт доступно в качестве графической памяти. Очевидный заголовок — 300 байт моделей на одном ПК, но настоящая победа заключается в том, что происходит на более низких уровнях: лучшее квантование, более длинный контекст, более крупные агенты и меньшее количество резервных копий в облако для частной работы. Однако загвоздка в том, что это в основном увеличение объема, а не чудо скорости, что делает борьбу с Nvidia, Apple и серверными графическими процессорами гораздо интереснее, чем обычный график бенчмарков. 0:00 Цифра, из-за которой ваша видеокарта кажется маленькой 1:38 Что такое Gorgon Halo на самом деле 3:16 В сравнении с RTX 5090 4:57 В сравнении с рабочей видеокартой на 96 ГБ 6:18 Apple уже увеличила объем памяти 7:27 Заявление о 300 байтах — это рекламный щит 8:59 Что уже доказывает Strix Halo на 128 ГБ 10:21 Почему программистам нужно больше места 11:27 Вопрос, который убивает команду ИИ 12:27 Предостережение, которое никто не указывает на слайде 13:42 Стоит ли ждать 192 ГБ? Смотрите далее: Мини-ПК, в которые устанавливается этот чип, рейтинг -    • Mini PCs Can Run This Now. Which Is Best?   Машина, в которой уже была память, с другой стороны -    • Apple Just Made The Mac Mini For Local AI   После установки, какой объем памяти следует использовать?    • Which Local AI Size Should You Use?   Исходные данные и работа: https://codinghorizon.dev/192gb-just-... @CodingHorizon на X: https://x.com/CodingHorizon Синтезированный текст. #localai #amd #ryzenai