Эндрю Фельдман о создании Cerebras и будущем чипов | Эп. 57

Эндрю Фельдман — соучредитель и генеральный директор Cerebras Systems, компании по разработке чипов для искусственного интеллекта, которую он основал в 2016 году, опираясь на одну радикальную идею: для успеха в вычислительной технике требуется не постепенное улучшение, а принципиально иная архитектура. Cerebras является создателем крупнейшего в мире чипа Wafer Scale Engine, и среди её клиентов — правительство США, суверенные облачные провайдеры и OpenAI. Вместе с Эриком Вишриа из Benchmark мы обсудили, почему Эндрю считает, что если вы собираетесь атаковать Голиафа, то улучшение на 10% или даже вдвое — это невозможная стратегия, и нужно стремиться к 100-кратному или 500-кратному улучшению. Эндрю рассказал о почти крахе Cerebras: 18 месяцев заседаний совета директоров, где единственным отчетом было «по-прежнему не удается», ежемесячные расходы в размере 8 миллионов долларов, и что поддерживало команду. Он объяснил, как мы перешли от песка к ответу ChatGPT и почему цепочка поставок полупроводников в США находится в шатком положении. Эндрю рассказал о том, что большинство людей неправильно понимают в том, что делает Nvidia великой (это не CUDA), и почему он считает себя профессиональным Давидом в непрекращающейся битве с Голиафом. Временные метки: (0:00) Вступление (1:07) Почему Эндрю основал Cerebras в 2016 году (2:54) Эрик о том, почему он инвестировал, несмотря на отсутствие опыта работы с чипами (4:10) Атака на Голиафа (9:44) Околосмертные переживания и Долина Смерти (10:44) 18 месяцев «все еще не получается» (12:16) Решение 75-летней вычислительной задачи (13:26) Что будет после Wafer Scale (16:19) Объяснение цепочки поставок чипов (22:30) Почему США отказались от стратегически важной отрасли (25:51) Как быть хорошим членом совета директоров по аппаратному обеспечению (27:50) Инвестиции в аппаратное и программное обеспечение (29:05) Переход от обучения к инференции (27:00) Специализация против гибкости (35:22) Молодые лидеры продуктов и опытные специалисты по аппаратному обеспечению инженеры (39:14) Внешние связи и TSMC (42:20) Развитие инфраструктуры ИИ (44:12) Цепочка поставок центров обработки данных (53:14) Скорость создает рынки (54:10) Дезагрегация с AMD и AWS (55:24) Что на самом деле делает Nvidia великой (57:30) Околосмертные переживания и ДНК борца с Голиафом (59:58) Детство Эндрю рядом с Уильямом Шокли Ссылки: https://x.com/andrewdfeldman https://x.com/cerebras https://x.com/ericvishria https://x.com/jaltma https://uncappedpod.com/ friends@uncappedpod.com