Перейти к содержимому

Confidence Okoghenun — Своя собственная ИИ-инфраструктура: создание полноценного локального ИИ-стека

Local-First Conf

0:00 / 0:00

Confidence Okoghenun — Своя собственная ИИ-инфраструктура: создание полноценного локального ИИ-стека

272 просмотра · 1 месяц назад
Local-First Conf
5,81 тыс. подписчиков
272 просмотра · 1 месяц назад
В этом докладе мы подробно рассмотрим создание с нуля полноценной, самостоятельно размещаемой инфраструктуры ИИ. Вы узнаете, как выбрать подходящую базовую модель для вашего варианса использования, подобрать соответствующий бэкенд для вывода результатов, управлять несколькими моделями с помощью оркестратора вывода и предоставлять доступ ко всему через API-шлюз. Затем мы продемонстрируем, как использовать эту локальную инфраструктуру ИИ для создания реальных приложений: самостоятельно размещаемого чат-интерфейса (OpenWebUI), агента для программирования (OpenCode) и персонального помощника (OpenClaw). Этот доклад предназначен для всех, кто хочет избавиться от зависимости от облачного ИИ, обеспечить конфиденциальность данных, снизить затраты и получить полный контроль над своей инфраструктурой ИИ. - Присоединяйтесь к нашему Discord!   / discord   Подписывайтесь на канал, чтобы не пропустить новые выступления: @localfirstconf Следите: https://bsky.app/localfirstconf.com Посетите: https://www.localfirstconf.com -- Спасибо нашим спонсорам: Cloudflare - https://workers.cloudflare.com/ PowerSync - https://www.powersync.com/ Coderabbit - https://www.coderabbit.ai/ Jazz - https://jazz.tools/ Bluesky - https://bsky.social/ Tangled - https://tangled.org/ Sol - https://solpbc.org/ -- Спасибо Moat Studio https://www.moat-studio.com/, Джои Баниа, Джошу Мини и Кормаку Данну за видео!