Как законы масштабирования определят будущее ИИ | YC Decoded

В последние несколько лет лаборатории ИИ придерживаются подхода «чем больше, тем лучше» к масштабированию LLM. Вводя больше параметров, данных и вычислений, они смогли предсказуемо повысить производительность моделей. Однако в последнее время в сообществе ИИ разгорелись жаркие споры о том, достигли ли мы предела возможностей законов масштабирования. В этом выпуске YC Decoded президент и генеральный директор Гарри Тан рассматривает обе стороны дискуссии о законах масштабирования и то, как совершенно новая парадигма может потенциально предсказать будущее ИИ. Подать заявку в Y Combinator: https://yc.link/YCDecoded-apply Работа в стартапе: https://yc.link/YCDecoded-jobs Главы (на платформе https://bit.ly/chapterme-yc) - 00:00 - Введение 01:17 - Расшифровка закона масштабирования 04:10 - Данные и вычисления 05:33 - Шиншилла 06:00 - Большие модели и масштабирование 07:12 - Обучение 08:40 - Вычисления 09:42 - Робототехника