Materiał merytoryczny
Przegląd sekcji
-
-
-
-
W module 1 poznasz różnicę między zwykłym czatem z modelem językowym a systemem korzystającym z własnej wiedzy i dodatkowego kontekstu. Nauczysz się rozumieć rolę modelu LLM, promptu, kontekstu, historii rozmowy oraz ograniczeń okna kontekstowego. Przyjrzysz się typowym ograniczeniom modeli językowych, w tym możliwości generowania odpowiedzi nieopartych na źródłach i braku automatycznego dostępu do lokalnych dokumentów. Następnie poznasz podstawową ideę systemu RAG, który wyszukuje potrzebne informacje i przekazuje je modelowi jako kontekst do wygenerowania odpowiedzi. W ramach modułu porównasz działanie zwykłego czatu z rozwiązaniem korzystającym z dostarczonych dokumentów i ocenisz, dlaczego odpowiedzi powinny być weryfikowane na podstawie źródeł.
-
-
-
W module 2 nauczysz się przygotowywać dokumenty do wykorzystania jako lokalna baza wiedzy w systemie RAG. Będziesz pracować z różnymi rodzajami plików, odczytywać ich treść, usuwać elementy niepotrzebne oraz porządkować tekst bez utraty ważnych informacji. Poznasz sposoby dzielenia dokumentów na fragmenty i sprawdzisz, jak wielkość fragmentu oraz sposób podziału wpływają na zachowanie kontekstu. Nauczysz się także uzupełniać fragmenty o metadane pozwalające zachować związek z dokumentem źródłowym i później wskazać podstawę odpowiedzi. Efektem pracy będzie uporządkowany zbiór fragmentów dokumentów z metadanymi, gotowy do wykorzystania podczas tworzenia embeddingów i wyszukiwania semantycznego w kolejnym module.
-
-
-
W module 3 nauczysz się, jak reprezentować fragmenty tekstu w postaci embeddingów i wykorzystywać je do wyszukiwania semantycznego. Utworzysz embeddingi fragmentów dokumentów oraz pytań użytkownika, a następnie porównasz je za pomocą podobieństwa kosinusowego i wybierzesz najlepiej dopasowane wyniki z wykorzystaniem mechanizmu top-k. Zbudujesz prosty lokalny indeks semantyczny, zachowując powiązanie między wektorem, treścią fragmentu i jego metadanymi źródłowymi. Sprawdzisz także jakość wyszukiwania na przygotowanym zestawie pytań i przeanalizujesz przypadki, w których system zwraca fragmenty podobne tematycznie, ale nieprzydatne do odpowiedzi. Efektem modułu będzie przetestowany mechanizm wyszukiwania semantycznego gotowy do wykorzystania w budowanym w kolejnym module systemie RAG.
-
-
-
W module 4 połączysz mechanizm wyszukiwania semantycznego z lokalnym modelem językowym i zbudujesz pierwszy kompletny prototyp systemu RAG w Pythonie. Nauczysz się tworzyć kontekst z odnalezionych fragmentów dokumentów, przygotowywać prompt zawierający pytanie, instrukcje i źródła oraz przekazywać go do modelu uruchomionego lokalnie przez Ollama. Rozbudujesz rozwiązanie o kontrolę braku wystarczających informacji, ograniczanie odpowiedzi do dostarczonego kontekstu oraz prezentowanie fragmentów źródłowych i metadanych umożliwiających weryfikację odpowiedzi. Porównasz również działanie modelu bez kontekstu, z właściwym kontekstem oraz z kontekstem niepełnym lub błędnym, aby zobaczyć, gdzie mogą powstawać błędy w systemie RAG. Efektem modułu będzie działający lokalny prototyp przyjmujący pytanie użytkownika, wyszukujący odpowiednie fragmenty dokumentów i zwracający odpowiedź wraz z informacjami o źródłach
-
-
-
W tym module rozbudujesz prosty system RAG do postaci lokalnego asystenta DocAssist, który prowadzi rozmowę i odpowiada na podstawie własnej bazy dokumentów. Nauczysz się rozróżniać chatbota, asystenta i agenta oraz oceniać ich poziom samodzielności i sposób kontrolowania działań. Dodasz ograniczoną historię rozmowy, obsłużysz pytania uzupełniające i zadbasz, aby każde pytanie merytoryczne ponownie uruchamiało wyszukiwanie w dokumentach. Zdefiniujesz bezpieczne narzędzia, przygotujesz rejestr dozwolonych funkcji oraz mechanizmy walidacji wywołań, obsługi wyników i błędów. Na zakończenie połączysz interfejs, historię, RAG i narzędzia w funkcjonalny lokalny prototyp, który wskazuje źródła, sygnalizuje brak wystarczających danych i odrzuca niedozwolone działania.
-
-
-
W module 5 rozbudujesz zbudowany wcześniej system RAG do postaci prostego lokalnego chatbota lub asystenta, który prowadzi rozmowę i korzysta z własnej bazy dokumentów. Nauczysz się wykorzystywać ograniczoną historię konwersacji do interpretowania pytań uzupełniających, bez zastępowania nią ponownego wyszukiwania informacji w źródłach. Poznasz różnice między chatbotem, asystentem i agentem oraz zobaczysz, jak model może proponować użycie wybranych narzędzi pomocniczych. Nauczysz się również kontrolować wykonanie narzędzi przez listę dozwolonych funkcji, walidację argumentów i obsługę błędów. Efektem modułu będzie zintegrowany prototyp DocAssist łączący interfejs rozmowy, historię, mechanizm RAG i bezpieczne narzędzia.
-
-