Перейти к содержимому

Tanstack AI уже здесь! Типобезопасный чат LLM, инструменты и демонстрация DevTools

Alem Tuzlak

0:00 / 0:00

Tanstack AI уже здесь! Типобезопасный чат LLM, инструменты и демонстрация DevTools

3 686 просмотров · 11 мес. назад
Alem Tuzlak
3,88 тыс. подписчиков
3 686 просмотров · 11 мес. назад
Наконец-то вышел TanStack AI (альфа)! В этом видео я показываю пользовательский чат на базе настоящего LLM, показываю TanStack AI DevTools в действии и разбираю код для полной настройки стека. Что вы увидите: Демонстрация помощника по продаже гитар (системное приглашение), который отвечает на вопросы и использует серверные инструменты для рекомендации гитар и добавления в корзину. 10 стеков инструментов разработчика, отображающих потоковые фрагменты, токены, информацию о поставщике/модели и вызовы инструментов в режиме реального времени. Процесс утверждения инструментов (например, добавление в корзину) с одобрением/отклонением из пользовательского интерфейса. Подробный анализ кода: маршрут API с чатом, адаптеры (Anthropic, Gemini, Olamma, OpenAI), системное приглашение, определения инструментов (имя/описание/схема входов/выходов/требует одобрения). Безопасность типов для каждой модели для параметров поставщика и сообщений (мультимодальный контент + метаданные). Клиентская сторона с useChat: подключение SSE, сообщения, sendMessage, остановка и обработка одобрения. Поддерживаемые адаптеры в примере: Anthropic, Gemini, Olamma, OpenAI. Есть отзывы или идеи до версии 1? Буду рад их услышать. Планируете ли вы использовать это? Круто? Есть что улучшить? Приветствуются ваши идеи! Смотрите, пробуйте и дайте мне знать, что вы думаете. Я также являюсь инструктором по Epic на Epic Web. Если вам интересно моё участие в мастер-классе по React-Router, смело бронируйте место ниже: https://www.epicweb.dev/events/react-... 👍 Если это помогло, ставьте лайк, подписывайтесь на канал, чтобы получать больше советов по React Router/TypeScript/TanStack, и оставляйте комментарии с вопросами! 📌 Оставайтесь на связи: Twitter:   / alemtuzlak   GitHub: https://github.com/AlemTuzlak Github компании: https://github.com/forge-42 ⏱️ Временные метки: 00:00 — Введение: TanStack AI (альфа) уже здесь 00:28 — Настройка демонстрации в реальном времени: пользовательский чат + системное приглашение 01:10 — Первый вопрос и ответ LLM 01:31 — TanStack DevTools: потоковые фрагменты, токены, модели 03:47 — Вызов серверных инструментов: получение гитар + рекомендация гитары 05:21 — Утверждение инструментов: добавление в корзину с одобрением/отклонением 06:41 — Обзор кода: маршрут API, адаптеры, системное приглашение 08:19 — Определение инструментов: схемы, требования к одобрению, повторное использование 10:01 — Безопасность типов для каждой модели в зависимости от поставщика 12:15 — Сообщения: многомодальный контент и метаданные 14:47 — Потоковые ответы и возврат из бэкенда 15:00 — Клиент: хук useChat, SSE, сообщения, остановка, подтверждения 18:43 — Подведение итогов и призыв к обратной связи/внести свой вклад 🔖 Теги: #TanStack #AI #DevTools #LLM #чат ИИ #вызовы инструментов #подтверждения #безопасность типов #потоковая передача #токены #Anthropic #Gemini #OpenAI #Olamma #мультимодальный #метаданные #события, отправленные сервером #React #Solid #SDK #пользовательский интерфейс чата #добавить в корзину #помощник гитариста