Новый китайский суперкомпьютер со 144 GPU может сделать ИИ на 40% дешевле

Сможет ли Китай действительно бросить вызов Nvidia, не создавая более быстрые чипы для ИИ? Китайский производитель чипов Iluvatar CoreX считает, что нашел другой способ: разместить больше графических процессоров в одном серверном шкафу и сделать производство каждого ответа ИИ дешевле. На отраслевой выставке в Шанхае Iluvatar представила новый вычислительный шкаф для ИИ, содержащий 144 графических процессора в одной стойке — вдвое больше, чем в флагманской стойке Nvidia. Компания утверждает, что ее система может снизить стоимость генерации одного миллиона токенов ИИ на 40% по сравнению с распространенными международными аналогами. Но является ли это преимущество реальным, или оно зависит от цифр, которые еще не были независимо подтверждены? В этом видео мы рассмотрим Iluvatar CoreX, растущую китайскую индустрию чипов для ИИ и ожесточенную борьбу за снижение затрат на вывод данных ИИ, поскольку спрос на искусственный интеллект продолжает стремительно расти. 🔍 ЧТО ВЫ УЗНАЕТЕ: Iluvatar CoreX: объяснение того, как шанхайский производитель чипов пытается конкурировать с Nvidia. Корпус на 144 GPU: почему размещение большего количества чипов в одной серверной стойке может улучшить экономику вывода ИИ. Заявление о 40% снижении стоимости: как Iluvatar утверждает, что может снизить стоимость миллиона токенов, несмотря на использование чипов, уступающих последнему поколению Nvidia. Связь с ByteDance: почему компания, стоящая за TikTok и Doubao, по сообщениям, рассматривала возможность крупной покупки чипов Iluvatar. Nvidia Blackwell против китайских чипов для ИИ: как память GPU, вычислительная производительность и конструкция системы влияют на стоимость запуска моделей ИИ. Конкуренция китайских производителей чипов для ИИ: где Huawei, Cambricon, MetaX и другие отечественные поставщики занимают свои места в этой гонке. Скрытые издержки ИИ: почему потребление электроэнергии, охлаждение, оптимизация программного обеспечения, надежность и поставки памяти могут подорвать стратегию низких затрат на чипы. Преимущество CUDA: почему программная экосистема Nvidia остается серьезным препятствием для китайских производителей GPU. Будущее вывода ИИ: что должны показать независимые тесты, прежде чем можно будет подтвердить ценовое преимущество Iluvatar. 💡 ПОЧЕМУ СТОИМОСТЬ ВЫВОДА ИИ ВАЖНА Обучение модели ИИ — это только начало. Каждый ответ чат-бота, сводка документа, сгенерированная строка кода и действие агента ИИ требуют вывода. В больших масштабах стоимость получения этих ответов становится значительной статьей расходов бизнеса. Именно поэтому конкуренция смещается от чистой скорости графического процессора. Более дешевый чип в сочетании с эффективной сетевой инфраструктурой и системным дизайном может быть привлекателен для китайских облачных провайдеров, которые не могут свободно получить доступ к новейшим системам центров обработки данных Nvidia. Однако, утверждение Iluvatar в заголовке все еще требует тщательного анализа. Сообщается, что его корпус имеет меньший общий объем памяти графического процессора, чем стойка Nvidia Blackwell Ultra, в то время как энергопотребление, производительность программного обеспечения и точный тест, лежащий в основе цифры в 40%, остаются критически важными нерешенными вопросами. Настоящее испытание заключается в том, сможет ли Iluvatar продемонстрировать заявленную экономию в независимых, общедоступных воспроизводимых тестах — и подтвердится ли эта экономия в производственных центрах обработки данных. 🚀 Сможет ли Китай конкурировать с Nvidia за счет более продуманного системного дизайна вместо более быстрых графических процессоров? Посмотрите видео, чтобы понять технологии, экономику и проблемы, стоящие за этой новой битвой за чипы для ИИ. Подпишитесь на Tomorrow Engineered, чтобы получать больше анализа чипов для ИИ, полупроводниковых технологий, центров обработки данных, передовых вычислительных систем и компаний, формирующих будущее технологий. 💬 Что вы думаете? Смогут ли китайские производители чипов для ИИ сократить отставание от Nvidia, создавая более дешевые и эффективные системы, или преимущества Nvidia в памяти и программном обеспечении останутся слишком сложными для преодоления? Поделитесь своими мыслями в комментариях. ▶️ СМОТРИТЕ ДАЛЕЕ: Узнайте, как IBM подошла к проблеме памяти в своем чипе NorthPole по-другому, используя более старый 12-нанометровый техпроцесс и разместив память непосредственно внутри чипа. #IluvatarCoreX #Nvidia #AIChips #ИскусственныйИнтеллект #КитайскиеТехнологии #GPU #AIInference #Полупроводники #Blackwell #ByteDance #ЦентрыОбработкиДанные #ТехнологическиеНовости #TomorrowEngineered