Новый ИИ-ноутбук Microsoft столкнулся с суровой реальностью при работе от аккумулятора

Microsoft утверждает, что Surface Laptop Ultra сохраняет 99,6% своей производительности при работе от батареи. Однако в независимом локальном тесте ИИ скорость генерации текста снизилась с примерно 25–28 до 18 токенов в секунду после отключения от сети. Эти цифры не обязательно противоречат друг другу: имеющиеся данные не подтверждают, что Microsoft тестировала одну и ту же модель в одинаковых условиях. Для ноутбука, предназначенного для работы с ИИ без облака, «производительность» требует наличия конкретной задачи. Конфигурация с 64 ГБ оперативной памяти запускала локально модель с 70 миллиардами параметров, но размещение модели в памяти — это не то же самое, что получение быстрых ответов. Начальная конфигурация за 2600 долларов имеет всего 24 ГБ общей памяти, а некоторые обещанные функции Windows AI на момент обзора еще не были готовы. Недостающий показатель для покупателей — это продолжительность работы локальной версии ИИ от батареи. Полезным тестом было бы сравнение одной и той же модели и задачи, подключенной и отключенной от сети, с отслеживанием скорости и расхода батареи с течением времени. «Работает», «работает быстро» и «хорошо работает от батареи» — это три разных утверждения. Подпишитесь на EnginerdsNews, чтобы получать понятные и основанные на фактах объяснения технических вопросов. -- Веб-сайт: https://www.enginerds.com LinkedIn:   / enginerds   YouTube:    / @enginerdsnews