Перейти к содержимому

Lenovo: Koľko vás naozaj stojí jeden token? On-premise Lenovo vs. cloud

DataTrend Services

0:00 / 0:00

Lenovo: Koľko vás naozaj stojí jeden token? On-premise Lenovo vs. cloud

68 просмотров · 13 дн. назад
DataTrend Services
44 подписчика
68 просмотров · 13 дн. назад
Ešte pred rokom platilo, že vlastný hardvér pre AI sa vráti za 12 až 18 mesiacov. Dnes to je približne šesť. Prezentácia porovnáva šesť reálnych konfigurácií zo serverového portfólia Lenovo ISG (Infrastructure Solutions Group) — ThinkSystem SR650i V4, SR650a V4, SR675 V3, SR680a V3 a SR680a V4 — proti zodpovedajúcim inštanciám AWS, Azure a GCP, vrátane amortizácie, energie, chladenia aj kolokácie. Pozrieme sa na to, kde presne leží bod zvratu, prečo generácia Blackwell zmenila výpočet, a koľko naozaj stojí milión tokenov, keď si model prevádzkujete na vlastnej infraštruktúre Lenovo. Súčasťou je aj reálny prípad nasadenia ThinkSystem SR675 V3 s úsporou 97 % oproti API.