Lokalne chatboty, agenci i systemy RAG z własną bazą wiedzy
Przegląd sekcji
-
-
ENHANCER+ wsparcie krótkich form kształcenia studentów i pracowników Politechniki Warszawskiej w środowisku międzynarodowym sojuszu ENHANCE.
-
- Autorzy/Autorki:
- Marcin Godziemba-Maliszewski
- Afiliacja autorów:
- Centrum Wsparcia Dydaktyki, Ośrodek Kształcenia na Odległość, Politechnika Warszawska
- Data publikacji:
- 1 października 2026
- Korzystaj na licencji::
CC BY 4.0 — Uznanie autorstwa
-
-
Kurs jest w formule otwartego dostępu w związku z czym elementy komunikacji wewnątrz kursu dla osób niezalogowanych nie są dostępne. Jeśli masz pytania lub znalazłeś błąd napisz do nas na pomoc.okno@pw.edu.pl.
-
-
-
-
W module 1 poznasz różnicę między zwykłym czatem z modelem językowym a systemem korzystającym z własnej wiedzy i dodatkowego kontekstu. Nauczysz się rozumieć rolę modelu LLM, promptu, kontekstu, historii rozmowy oraz ograniczeń okna kontekstowego. Przyjrzysz się typowym ograniczeniom modeli językowych, w tym możliwości generowania odpowiedzi nieopartych na źródłach i braku automatycznego dostępu do lokalnych dokumentów. Następnie poznasz podstawową ideę systemu RAG, który wyszukuje potrzebne informacje i przekazuje je modelowi jako kontekst do wygenerowania odpowiedzi. W ramach modułu porównasz działanie zwykłego czatu z rozwiązaniem korzystającym z dostarczonych dokumentów i ocenisz, dlaczego odpowiedzi powinny być weryfikowane na podstawie źródeł.
-
-
-
W module 2 nauczysz się przygotowywać dokumenty do wykorzystania jako lokalna baza wiedzy w systemie RAG. Będziesz pracować z różnymi rodzajami plików, odczytywać ich treść, usuwać elementy niepotrzebne oraz porządkować tekst bez utraty ważnych informacji. Poznasz sposoby dzielenia dokumentów na fragmenty i sprawdzisz, jak wielkość fragmentu oraz sposób podziału wpływają na zachowanie kontekstu. Nauczysz się także uzupełniać fragmenty o metadane pozwalające zachować związek z dokumentem źródłowym i później wskazać podstawę odpowiedzi. Efektem pracy będzie uporządkowany zbiór fragmentów dokumentów z metadanymi, gotowy do wykorzystania podczas tworzenia embeddingów i wyszukiwania semantycznego w kolejnym module.
-
-
-
W module 3 nauczysz się, jak reprezentować fragmenty tekstu w postaci embeddingów i wykorzystywać je do wyszukiwania semantycznego. Utworzysz embeddingi fragmentów dokumentów oraz pytań użytkownika, a następnie porównasz je za pomocą podobieństwa kosinusowego i wybierzesz najlepiej dopasowane wyniki z wykorzystaniem mechanizmu top-k. Zbudujesz prosty lokalny indeks semantyczny, zachowując powiązanie między wektorem, treścią fragmentu i jego metadanymi źródłowymi. Sprawdzisz także jakość wyszukiwania na przygotowanym zestawie pytań i przeanalizujesz przypadki, w których system zwraca fragmenty podobne tematycznie, ale nieprzydatne do odpowiedzi. Efektem modułu będzie przetestowany mechanizm wyszukiwania semantycznego gotowy do wykorzystania w budowanym w kolejnym module systemie RAG.
-
-
-
W module 4 połączysz mechanizm wyszukiwania semantycznego z lokalnym modelem językowym i zbudujesz pierwszy kompletny prototyp systemu RAG w Pythonie. Nauczysz się tworzyć kontekst z odnalezionych fragmentów dokumentów, przygotowywać prompt zawierający pytanie, instrukcje i źródła oraz przekazywać go do modelu uruchomionego lokalnie przez Ollama. Rozbudujesz rozwiązanie o kontrolę braku wystarczających informacji, ograniczanie odpowiedzi do dostarczonego kontekstu oraz prezentowanie fragmentów źródłowych i metadanych umożliwiających weryfikację odpowiedzi. Porównasz również działanie modelu bez kontekstu, z właściwym kontekstem oraz z kontekstem niepełnym lub błędnym, aby zobaczyć, gdzie mogą powstawać błędy w systemie RAG. Efektem modułu będzie działający lokalny prototyp przyjmujący pytanie użytkownika, wyszukujący odpowiednie fragmenty dokumentów i zwracający odpowiedź wraz z informacjami o źródłach
-
-
-
W tym module rozbudujesz prosty system RAG do postaci lokalnego asystenta DocAssist, który prowadzi rozmowę i odpowiada na podstawie własnej bazy dokumentów. Nauczysz się rozróżniać chatbota, asystenta i agenta oraz oceniać ich poziom samodzielności i sposób kontrolowania działań. Dodasz ograniczoną historię rozmowy, obsłużysz pytania uzupełniające i zadbasz, aby każde pytanie merytoryczne ponownie uruchamiało wyszukiwanie w dokumentach. Zdefiniujesz bezpieczne narzędzia, przygotujesz rejestr dozwolonych funkcji oraz mechanizmy walidacji wywołań, obsługi wyników i błędów. Na zakończenie połączysz interfejs, historię, RAG i narzędzia w funkcjonalny lokalny prototyp, który wskazuje źródła, sygnalizuje brak wystarczających danych i odrzuca niedozwolone działania.
-
-
-
W module 5 rozbudujesz zbudowany wcześniej system RAG do postaci prostego lokalnego chatbota lub asystenta, który prowadzi rozmowę i korzysta z własnej bazy dokumentów. Nauczysz się wykorzystywać ograniczoną historię konwersacji do interpretowania pytań uzupełniających, bez zastępowania nią ponownego wyszukiwania informacji w źródłach. Poznasz różnice między chatbotem, asystentem i agentem oraz zobaczysz, jak model może proponować użycie wybranych narzędzi pomocniczych. Nauczysz się również kontrolować wykonanie narzędzi przez listę dozwolonych funkcji, walidację argumentów i obsługę błędów. Efektem modułu będzie zintegrowany prototyp DocAssist łączący interfejs rozmowy, historię, mechanizm RAG i bezpieczne narzędzia.
-
-
-
-
-
Ten materiał pomoże Ci krok po kroku zbudować lokalnego chatbota działającego w konsoli, bez interfejsu graficznego. Wykorzystasz wiedzę zdobytą w modułach 1–6, łącząc ją w jeden projekt. Książka poprowadzi Cię od przygotowania środowiska i pierwszej rozmowy z modelem do wyszukiwania informacji we własnych dokumentach i generowania odpowiedzi ze wskazaniem źródeł. Najpierw spróbuj samodzielnie zbudować program, korzystając z objaśnień i kolejnych kroków w książce, zanim otworzysz gotowy kod przykładowy. Dołączoną paczkę z kodem, danymi i pytaniami testowymi wykorzystaj do porównania rozwiązania lub jako pomoc, gdy napotkasz trudności. Po sprawdzeniu przykładu podłączysz własne materiały i ocenisz jakość odpowiedzi chatbota. Na realizację całości przeznacz orientacyjnie 4–6 godzin, nie licząc instalacji i pobierania modeli; czas zależy od Twojego doświadczenia oraz możliwości komputera. Pracę możesz podzielić na krótsze sesje, zatrzymując się po kolejnych rozdziałach i punktach kontrolnych.
-
-
-
Materiał poprowadzi Cię krok po kroku przez budowę lokalnego asystenta działającego w konsoli, bez interfejsu graficznego. Wykorzystasz wiedzę z modułów 1–6, aby rozwinąć prostego chatbota o pamięć rozmowy, doprecyzowanie pytań i kontrolowane narzędzia. Asystent będzie odpowiadał na podstawie dokumentów, pokazywał źródła oraz odczytywał metadane, a Ty porównasz wybór działania przez reguły i przez model językowy. Najpierw spróbuj samodzielnie uzupełnić kod w wersji startowej, korzystając z zadań i wskazówek zawartych w książce. Dopiero po własnej próbie zajrzyj do przykładowego rozwiązania, aby porównać podejście i wyjaśnić napotkane trudności. Na wykonanie projektu i sprawdzenie wyników zaplanuj orientacyjnie **6–8 godzin**, nie licząc instalacji środowiska i pobierania modeli.
-
-
-
Podsumowanie kursu porządkuje najważniejsze elementy pracy z Pythonem, notatnikami Jupyter, bibliotekami analizy danych oraz modelami LLM. Przypomina całą drogę od zaplanowania pracy w notebooku, przez przygotowanie danych, analizę eksploracyjną i wizualizację, aż po wykorzystanie LLM oraz opracowanie raportu obliczeniowego. Szczególną uwagę zwraca na odtwarzalność analizy, jawne decyzje, kontrolę jakości danych oraz ostrożne formułowanie wniosków. Prezentacja podsumowująca może posłużyć jako ostatnia checklista przed finalnym oddaniem własnego projektu. Warto sprawdzić, czy raport zawiera wszystkie kluczowe elementy: kod, dane, wyniki, wykresy, interpretację, ograniczenia i dokumentację użycia LLM.
Dziękujemy za udział w kursie „Python, LLM i analiza danych w notatnikach Jupyter” oraz za wykonanie kolejnych etapów projektu analitycznego. Życzymy powodzenia w dalszym rozwijaniu własnych analiz danych i odpowiedzialnym korzystaniu z narzędzi AI.
-