Перейти к содержимому

Zbuduj model AI trenowany na danych Twojej firmy

Maciej Zagozda

0:00 / 0:00

Zbuduj model AI trenowany na danych Twojej firmy

160 просмотров · 2 мес. назад
Maciej Zagozda
2,64 тыс. подписчиков
160 просмотров · 2 мес. назад
Wiele osób pyta mnie o zastosowania sztucznej inteligencji, w których dane naszej firmy nie wędrują "w świat". Dziś otwieram drzwi swojego warsztatu i pokazuję, nad czym ostatnio pracowałem – przedstawiam Wam lokalnego, prywatnego chatbota, który może stać się prawdziwym "mózgiem" Twojej firmy. W tym wideo testujemy pracę modelu lokalnego, uruchomionego dosłownie z "garażowego" komputera, który pozwala na rozmowę z bazą miliona wewnętrznych dokumentów – bez konieczności opłacania drogich API i bez ryzyka wysyłania wrażliwych danych (medycznych, finansowych czy HR-owych) do zewnętrznych dostawców. Z tego materiału dowiesz się: Dlaczego szukanie informacji po słowach kluczowych w 5000 dokumentów już nie wystarcza i jak wzorzec RAG rozwiązuje ten problem. Jak działa "Panel Ekspertów AI" – funkcja, w której kilku agentów (np. finansowy, operacyjny, prawny) ma sprzeczne cele i potrafi pokazać Ci alternatywne punkty widzenia, zamiast po prostu "potakiwać" na Twoje tezy. Na czym polega "Głos Wewnętrzny" (Sumienie) modelu, który może włożyć przysłowiowy "kij w szprychy" w trakcie analizy. Jak zbudować pamięć między sesjami i izolować konteksty (tzw. workspaces) dla różnych klientów. Dlaczego budowanie takiego lokalnego asystenta daje 90% efektu wielomilionowego projektu trenowania własnego LLM-a... za ułamek tej ceny. Zainteresowało Cię, jak takie technologie mogą wesprzeć bezpieczeństwo i rentowność Twojej firmy? Zajrzyj do linków poniżej i podziel się swoimi wrażeniami w komentarzach! Przydatne linki: Mój blog: zagozda.eu LinkedIn: linkedin.com/in/mzagozda Spis treści (Rozdziały): 00:00 - Wstęp: Budowa prywatnego chatbota bez drogiego API OpenAI 01:25 - Przestrzenie robocze (Workspaces) i izolowanie kontekstów 02:00 - Jak przepracować milion plików (Przewaga RAG nad zwykłą wyszukiwarką) 05:40 - Praktyczny test modelu lokalnego na wewnętrznych danych firmy 07:42 - Pluginy, trwała pamięć i koncepcja "Wewnętrznego Głosu" 09:50 - Prawdziwy przełom: Panel Ekspertów o sprzecznych celach 13:13 - Wymagania korporacyjne: Audytowalność, uprawnienia i bezpieczeństwo 20:15 - Limity "garażowego" modelu, długi czas reakcji i okno kontekstowe 24:00 - Przełączanie się na zewnętrzny model (OpenAI) w locie 33:17 - Przyszłość projektu: Integracja z systemami finansowo-księgowymi 35:22 - Podsumowanie: 90% efektu własnego LLM za ułamek kosztów