Zbuduj model AI trenowany na danych Twojej firmy
Maciej Zagozda
0:00 / 0:00
Zbuduj model AI trenowany na danych Twojej firmy
160 просмотров · 2 мес. назад
Maciej Zagozda
2,64 тыс. подписчиков
160 просмотров · 2 мес. назад
Wiele osób pyta mnie o zastosowania sztucznej inteligencji, w których dane naszej firmy nie wędrują "w świat". Dziś otwieram drzwi swojego warsztatu i pokazuję, nad czym ostatnio pracowałem – przedstawiam Wam lokalnego, prywatnego chatbota, który może stać się prawdziwym "mózgiem" Twojej firmy.
W tym wideo testujemy pracę modelu lokalnego, uruchomionego dosłownie z "garażowego" komputera, który pozwala na rozmowę z bazą miliona wewnętrznych dokumentów – bez konieczności opłacania drogich API i bez ryzyka wysyłania wrażliwych danych (medycznych, finansowych czy HR-owych) do zewnętrznych dostawców.
Z tego materiału dowiesz się:
Dlaczego szukanie informacji po słowach kluczowych w 5000 dokumentów już nie wystarcza i jak wzorzec RAG rozwiązuje ten problem.
Jak działa "Panel Ekspertów AI" – funkcja, w której kilku agentów (np. finansowy, operacyjny, prawny) ma sprzeczne cele i potrafi pokazać Ci alternatywne punkty widzenia, zamiast po prostu "potakiwać" na Twoje tezy.
Na czym polega "Głos Wewnętrzny" (Sumienie) modelu, który może włożyć przysłowiowy "kij w szprychy" w trakcie analizy.
Jak zbudować pamięć między sesjami i izolować konteksty (tzw. workspaces) dla różnych klientów.
Dlaczego budowanie takiego lokalnego asystenta daje 90% efektu wielomilionowego projektu trenowania własnego LLM-a... za ułamek tej ceny.
Zainteresowało Cię, jak takie technologie mogą wesprzeć bezpieczeństwo i rentowność Twojej firmy? Zajrzyj do linków poniżej i podziel się swoimi wrażeniami w komentarzach! Przydatne linki:
Mój blog: zagozda.eu
LinkedIn: linkedin.com/in/mzagozda
Spis treści (Rozdziały):
00:00 - Wstęp: Budowa prywatnego chatbota bez drogiego API OpenAI
01:25 - Przestrzenie robocze (Workspaces) i izolowanie kontekstów
02:00 - Jak przepracować milion plików (Przewaga RAG nad zwykłą wyszukiwarką)
05:40 - Praktyczny test modelu lokalnego na wewnętrznych danych firmy
07:42 - Pluginy, trwała pamięć i koncepcja "Wewnętrznego Głosu"
09:50 - Prawdziwy przełom: Panel Ekspertów o sprzecznych celach
13:13 - Wymagania korporacyjne: Audytowalność, uprawnienia i bezpieczeństwo
20:15 - Limity "garażowego" modelu, długi czas reakcji i okno kontekstowe
24:00 - Przełączanie się na zewnętrzny model (OpenAI) w locie
33:17 - Przyszłość projektu: Integracja z systemami finansowo-księgowymi
35:22 - Podsumowanie: 90% efektu własnego LLM za ułamek kosztów