691: ИИ-ускорители: специализированное «железо» для глубокого обучения — с Роном Диамантом

#УскорителиИИ #АппаратноеОборудованиеИИ #ПроектированиеЧипов GPU против CPU, проектирование чипов и важность чипов в исследованиях ИИ: этот высокотехнический эпизод предназначен для всех, кто хочет узнать, что входит в разработку чипов и как попасть в конкурентную индустрию проектирования ускорителей. В этом эпизоде ​​к @JonKrohnLearns присоединяется эксперт Рон Диамант, старший ведущий инженер AWS, от которого вы получите разбор необходимых технических терминов, о чем должны думать инженеры-разработчики чипов на этапе проектирования и что ждет будущее в области обработки данных на аппаратном обеспечении. Этот эпизод представлен компанией Posit, занимающейся наукой о данных с открытым исходным кодом (https://posit.co), подкастом AWS Insiders (https://pod.link/1608453414) и компанией WithFeeling.ai (https://withfeeling.ai), которая привносит человечность в ИИ. Заинтересованы в спонсорстве эпизода подкаста SuperDataScience? Посетите https://jonkrohn.com/podcast для получения информации о спонсорстве. В этом эпизоде ​​вы узнаете: • [00:00:00] Введение • [00:03:29] Что такое ЦП и ГП • [00:12:30] Различия между ускорителями, используемыми для глубокого обучения • [00:20:10] Trainium и Inferentia: решения AWS для искусственного интеллекта Ускорители • [00:41:17] Приведут ли оптимизации моделей к снижению спроса на оборудование для их обработки • [00:46:37] Как разработчик микросхем подходит к производству • [00:53:31] Разбор технической терминологии для микросхем (межсоединений ускорителей, динамического выполнения, коллективных коммуникаций) • [01:13:41] Важность AWS Neuron, комплекта для разработки программного обеспечения • [01:24:39] Как Рон начал свою карьеру в разработке микросхем Дополнительные материалы: https://www.superdatascience.com/691