Перейти к содержимому

Запуск миллионов ИИ-песочниц (за миллисекунды) без ущерба для бюджета | Unikraft

AI Council

0:00 / 0:00

Запуск миллионов ИИ-песочниц (за миллисекунды) без ущерба для бюджета | Unikraft

801 просмотр · 3 мес. назад
AI Council
48,9 тыс. подписчиков
801 просмотр · 3 мес. назад
[2026 - День 1 - ИНФРАСТРУКТУРА АГЕНТОВ] Агенты — это здорово, но они предъявляют жесткие требования к базовой инфраструктуре, на которой работают: (1) они должны быть строго изолированы (например, внутри виртуальной машины); (2) они должны запускаться как можно быстрее (в идеале за миллисекунды) и переводиться в спящий режим, когда не используются; и (3) они требуют огромных масштабов (например, миллионы агентов даже для одного поставщика/продукта). Использование стандартной инфраструктуры для запуска песочниц такого масштаба может привести к заоблачным счетам за облачную инфраструктуру. А попытка запустить песочницы за миллисекунды — это нерешенная задача. В этом докладе мы расскажем о нашем многолетнем пути, направленном на существенную оптимизацию и повышение эффективности развертывания рабочих нагрузок в облаке, начиная с исследований и работы с открытым исходным кодом. Попутно мы рассмотрим основы виртуализации и примитивы изоляции (например, виртуальные машины, микровиртуальные машины, контейнеры, изоляты) и их компромиссы в отношении производительности и безопасности. Итак, мы расскажем, как мы использовали результаты исследований и работы с открытым исходным кодом для создания системы виртуализации, которая может запускать любую рабочую нагрузку за несколько миллисекунд и размещать до 1 миллиона+ таких легковесных виртуальных машин на одном стандартном сервере, что позволяет размещать миллионы строго изолированных агентов в стойке, а не во всем центре обработки данных. Наконец, мы покажем краткую демонстрацию работы системы в реальном времени. ДОКЛАДЧИК: Фелипе Хуичи - генеральный директор и соучредитель Unikraft 👉 Подпишитесь на нашу рассылку «Без лишней болтовни», чтобы получать самые свежие технические данные и контент по ИИ: https://aicouncil.com/newsletter О AI COUNCIL: AI Council объединяет лучшие умы в области данных для обмена отраслевыми знаниями, техническими архитектурами и передовыми методами создания передовых систем и инструментов для работы с данными и ИИ. НАЙДИТЕ НАС: Веб-сайт: https://aicouncil.com/ LinkedIn:   / aicouncilconf   X: https://x.com/aicouncilconf