Лучшие и худшие GPU для локального ИИ (октябрь 2026)
Locally
0:00 / 0:00
Лучшие и худшие GPU для локального ИИ (октябрь 2026)
14 478 просмотров · 4 дн. назад
Locally
4,07 тыс. подписчиков
14 478 просмотров · 4 дн. назад
20 видеокарт получили оценки от S до F за производительность в локальном ИИ, исходя из соотношения цены и качества, от 16,67 до 177 долларов за ГБ.
#реклама Партнерские ссылки на NVIDIA RTX 3090 (б/у), 24 ГБ, работает со всеми инструментами, NVIDIA RTX 5090, самая быстрая видеокарта GeForce, 32 ГБ и еще 3 видеокарты из этого видео (я могу получить комиссию, без дополнительных затрат для вас):
NVIDIA RTX 3090 (б/у), 24 ГБ, работает со всеми инструментами: https://www.amazon.com/s?k=rtx+3090+2...
NVIDIA RTX 5090, самая быстрая видеокарта GeForce, 32 ГБ: https://www.amazon.com/s?k=rtx+5090&t...
NVIDIA RTX 5060 Ti 16 ГБ, 16 ГБ, поддержка программного обеспечения с первого дня: https://www.amazon.com/s?k=rtx+5060+t...
NVIDIA RTX 4090, 24 ГБ, очень быстрая: https://www.amazon.com/s?k=rtx+4090&t...
NVIDIA RTX 5070 Ti, 16 ГБ, карта текущего поколения: https://www.amazon.com/s?k=rtx+5070+t...
Как партнер Amazon, я получаю доход от соответствующих покупок.
На этой неделе видеокарта для локального ИИ стоит от 325 до 17 000 долларов, и самые дорогие карты не являются лучшим соотношением цены и качества. Мы оценили 20 графических процессоров от S до F по производительности каждого из них в соответствии с ценой октября 2026 года. Каждая карта оценивается по двум показателям: доллары за ГБ видеопамяти, что определяет, какие модели вообще подходят, и доллары за токен в секунду на общедоступных табло Llama 2 7B от llama.cpp (CUDA для NVIDIA, Vulkan для AMD и Intel). Там, где это указано в обзоре или от владельца, скорость каждой карты также указана на процессоре Qwen 3.8 27B, модели, которую хотят использовать многие покупатели, для которой требуется около 18 ГБ памяти в 4-битном режиме. Эталоном считается подержанная RTX 3090 по цене около 72 долларов за ГБ.
В категории S находятся подержанные AMD Radeon Instinct MI50 32GB (649 долларов на eBay, 20 долларов за ГБ, пропускная способность памяти 1 ТБ/с, но с 2024 года находится в режиме обслуживания ROCm) и подержанные RTX 3060 12GB (370 долларов, Qwen 3 14B со скоростью от 23 до 31 ток/с). В категорию А входят подержанные RTX 3090 24 ГБ (1727 долларов, Qwen 3.8 27B с частотой 40 токов/с) и подержанные RX 7900 XTX 24 ГБ (1259 долларов, примерно та же скорость, на 468 долларов дешевле за те же 24 ГБ). В категорию B входят подержанные Tesla P40 24 ГБ (400 долларов, самая дешевая память по 16,67 долларов за ГБ, но с поддержкой CUDA 12 и без vLLM), Intel Arc Pro B60 24 ГБ (1000 долларов), RTX 5060 Ti 16 ГБ (790 долларов), RX 9070 XT 16 ГБ (920 долларов) и Radeon AI PRO R9700 32 ГБ (1800 долларов).
В категорию C входят RTX 5090 32 ГБ (самая быстрая карта здесь, 75 токов/с на 27B с небольшим контекстом, но по цене 4921 доллар и 154 доллара за ГБ), Intel Arc A770 16 ГБ (около 325 долларов б/у), Tesla T4 16 ГБ и RX 9060 XT 16 ГБ (650 долларов). В категорию D входят б/у RTX 4090 (3500 долларов, вдвое больше 3090, что на 15% быстрее), RTX PRO 6000 Blackwell 96 ГБ (17000 долларов, единственная карта здесь с 96 ГБ, которая работает с Llama 3.3 70B на скорости 32 тока/с на одной карте) и Intel Arc Pro B70 32 ГБ по рыночной цене на этой неделе 1946 долларов. В категорию F входят RTX 5060 8 ГБ, RTX 5070 12 ГБ, RTX 5070 Ti 16 ГБ и RTX 5080 16 ГБ.
Цифра, которую никто не упоминает: самая дешевая RTX 5080, которую мы нашли на этой неделе, стоит 2300 долларов за 16 ГБ, что соответствует объему памяти RTX 5060 Ti за 790 долларов, то есть за ту же модель придется доплатить 1510 долларов.
Как работают оценки: S — самая большая модель за меньшие деньги без существенных недостатков, A — отличная модель с одним недостатком, B — хорошая покупка для подходящего покупателя, C — неплохая, но что-то другое выполняет ту же работу за меньшие деньги, D — хорошая карта по плохой цене, а F — ловушка, которая выглядит выгодной, пока вы не попробуете загрузить модель. Чтобы оценить видеокарту, которой нет в списке, например, GTX 1080, RTX 2080 Ti, RTX 3080 или RTX 4060 Ti 16GB: проверьте, соответствует ли интересующая вас модель объему памяти, разделите текущую цену на объем видеопамяти в ГБ и сравните с ценой RTX 3090 в 72 доллара за ГБ, затем проверьте, работает ли она быстрее, чем скорость чтения. Цены указаны по состоянию на 27 октября 2026 года и меняются каждую неделю, поэтому все цены указаны ниже.
Цены на локальное оборудование для ИИ сегодня: https://locallyexplains.site/prices/
0:00 Все видеокарты для локального ИИ, оценка от S до F
0:39 Как оценивается каждая видеокарта: $ за ГБ и $ за токены/с
2:31 Уровень F: RTX 5060 8 ГБ, RTX 5070, RTX 5070 Ti, RTX 5080
3:58 Уровень D: б/у RTX 4090, RTX PRO 6000 96 ГБ, Arc Pro B70
5:23 Уровень C: RTX 5090, Arc A770, Tesla T4, RX 9060 XT
6:55 Уровень B: Tesla P40, Arc Pro B60, RTX 5060 Ti, RX 9070 XT, R9700
8:54 Уровень A: б/у RTX 3090 и RX 7900 XTX
9:59 S-уровень: б/у MI50 32 ГБ и RTX 3060 12 ГБ
11:29 Если вашей карты нет в списке
12:09 Почему старые карты выигрывают по соотношению цены и...