Instrukcja pracy z modułem 1
Moduł 1 | Instrukcja pracy | Lokalne chatboty i RAG
Instrukcja pracy z modułem 1
Od rozmowy z modelem językowym do idei systemu RAG
Wykonasz sześć krótkich ćwiczeń i sprawdzisz, jak dokument wpływa na odpowiedź lokalnego modelu. Instrukcja prowadzi przez przygotowanie stanowiska, pracę z rozdziałami i zapis wyników.
1Cel i rezultat modułu
Wyjaśnisz rolę wyszukiwania w systemie RAG i granice wiarygodności odpowiedzi. Rozróżnisz model, aplikację i prompt oraz ocenisz, czy twierdzenie ma oparcie w źródle.
Po zakończeniu masz
- sześć uzupełnionych notebooków i wybrane katalogi wyników R1–R6;
porownanie_AB.jsonz trzema próbami orazopis_projektu.md;- własne uzasadnienia ocen i oznaczenie wyników własnych oraz demonstracyjnych.
2Zanim zaczniesz
Rozpakuj cały pakiet i pracuj na własnej kopii katalogu Student. Zachowaj obok siebie foldery dane, kod, notebooki, karty_pracy i wyniki. Ścieżki w instrukcji są liczone od Student. Przeczytaj START.md; kod pomocniczy jest gotowy i nie trzeba przepisywać go ze slajdów.
| Materiał | Do czego służy |
|---|---|
START.md i requirements.txt | Skrócona instrukcja i zależności środowiska Python. |
konfiguracja.json | Nazwa modelu, adres Ollama i wspólne ustawienia. |
notebooki i karty_pracy | Test środowiska oraz ćwiczenia R1–R6. |
dane, kod i wyniki | Źródła ćwiczeń, gotowe funkcje i zapis rezultatów. |
Ważne: dokumentacja DocAssist jest fikcyjna. Zawarte w niej polecenia Linux są tekstem do analizy; nie wykonuj ich na komputerze. Nie potrzebujesz serwera DocAssist ani modelu embeddingowego.
Zaplanuj także około 75–95 minut narracji modułu, zależnie od tempa i pauz. Instalację wykonaj wcześniej. Prowadzący może rozdzielić oglądanie i pracę praktyczną.
3Przygotowanie stanowiska krok po kroku
Potrzebujesz Python 3.10 lub nowszego, JupyterLab i lokalnego Ollama. Podstawowy model to qwen3:4b-instruct-2507-q4_K_M. GPU nie jest wymagane przez pakiet; szybkość i możliwość wczytania modelu zależą od pamięci i komputera.
-
Pobierz model
Zainstaluj Python i Ollama z oficjalnych stron. Uruchom Ollama, a następnie wykonaj w terminalu:
ollama pull qwen3:4b-instruct-2507-q4_K_M -
Uruchom JupyterLab
Otwórz terminal w rozpakowanym folderze
Studenti wykonaj kolejno:py -m venv .venv .\.venv\Scripts\python.exe -m pip install -r requirements.txt .\.venv\Scripts\python.exe -m ipykernel install --prefix .venv --name m1 --display-name "Python M1" .\.venv\Scripts\python.exe -m jupyterlab -
Sprawdź pliki
W Jupyter otwórz notebook testowy i wybierz kernel Python M1:
notebooki/00_sprawdzenie_srodowiska.ipynbUruchamiaj komórki od góry przez Shift + Enter. Domyślne
MODE="demo"sprawdza pliki bez wywołania modelu. W razie wątpliwości zrestartuj kernel i uruchom wszystkie komórki. -
Sprawdź własny model
Zmień istniejące ustawienie na
MODE="ollama"i ponownie uruchom przygotowanie oraz test.W
konfiguracja.jsonsprawdź dokładną nazwę modelu i adreshttp://127.0.0.1:11434. Tag modelu porównaj z wynikiem poleceniaollama list. W zestawie A/B/C zachowaj wspólny model i ustawienia.
Linux i macOS — różnice w poleceniach
Utwórz środowisko poleceniem python3 -m venv .venv. W kolejnych poleceniach zastąp ścieżkę Windows przez .venv/bin/python.
Pobranie środowiska i modelu wymaga Internetu; po instalacji ćwiczenia mogą działać lokalnie.
4Wybierz i oznacz tryb pracy
| Sposób pracy | Co oznacza |
|---|---|
ollama | Rzeczywiste odpowiedzi, parametry i identyfikator modelu. W pełnej ścieżce praktycznej wymagany w R1, R3 i R6. |
demo | Ręcznie opracowane przykłady do nauki oceny, także w razie awarii. Nie potwierdzają własnego uruchomienia modelu. |
| Analiza bez LLM | R2, R4 i R5 można wykonać bez modelu. |
Ważne: po błędzie program nie przełącza się automatycznie na demo. Każdą zmianę trybu oznacz jawnie. Open WebUI jest alternatywą: kopiuj dokładne wiadomości z notebooka, zaczynaj nowy czat i ręcznie zapisuj model, ustawienia oraz odpowiedź.
5Praca z rozdziałami krok po kroku
Pracuj kolejno od R1 do R6. Do każdego rozdziału otwórz właściwą kartę z folderu karty_pracy i odpowiadający jej notebook z folderu notebooki.
| Rozdział | Temat ćwiczenia | Plik wynikowy |
|---|---|---|
| R1 | Jak działa zwykły czat z modelem językowym | dziennik_promptow.json |
| R2 | Ograniczenia modeli językowych | karta_ryzyk.md |
| R3 | Kontekst jako dodatkowe źródło wiedzy | porownanie_kontekstu.json |
| R4 | Od dokumentu do odpowiedzi opartej na źródłach | mapa_twierdzen.md |
| R5 | Podstawowa idea systemu RAG | architektura_projektu.md |
| R6 | Porównanie czatu LLM i systemu z własną wiedzą | porownanie_AB.jsonopis_projektu.md |
Rytm pracy w każdym rozdziale
-
Otwórz materiały
Obejrzyj odpowiednią prezentację HTML i zatrzymuj ją w miejscach ćwiczeń.
Sprawdź cel, materiały wejściowe i oczekiwany rezultat w karcie pracy. W R1, R3 i R6 wybierz właściwy tryb przed uruchomieniem komórki Przygotowanie.
-
Wykonaj ćwiczenie
Uruchamiaj komórki notebooka w kolejności wskazanej w karcie.
Zanotuj katalog wyświetlony po komunikacie Wyniki. Zachowaj oryginalne odpowiedzi i dane źródłowe; nie poprawiaj surowego wyniku modelu.
-
Uzupełnij własną ocenę
Zastąp pola
UZUPEŁNIJwłasną analizą i uzasadnieniem.Oceniaj poprawność, istotne warunki, możliwość sprawdzenia i dopowiedzenia. Sama nazwa źródła nie wystarcza. Dla TXT podaj dokument, wersję i sekcję, bez numeru strony z przykładu na slajdzie.
-
Zapisz i sprawdź rezultat
Uruchom komórkę oceny i zapisu, a następnie otwórz plik wynikowy.
Sprawdź zgodność raportu z analizowaną próbą i zapisz notebook przez Ctrl + S. Jeśli model się pomylił, opisz błąd i jego podstawę zamiast zmieniać odpowiedź.
6Punkty kontrolne pracy
| Po etapie | Masz sprawdzić | Gdy wynik nie pasuje |
|---|---|---|
| Przygotowanie | Test widzi pliki, a wybrany tryb jest poprawny. | Sprawdź folder Student, kernel i konfigurację. |
| Wykonanie | Zachowano wejście i oryginalny wynik tej próby. | Otwórz pliki we wskazanym katalogu wyników. |
| Ocena i zapis | Komentarze są własne, a raport dotyczy tej samej próby. | Popraw ocenę i ponownie uruchom komórkę zapisu. |
Ważne: ponowne uruchomienie komórki Przygotowanie tworzy nowy katalog wyników. Jeśli ponowisz generowanie, oceń nowe odpowiedzi. Po samej zmianie komentarzy uruchom komórkę oceny i zapisu, bez nowego wywołania modelu.
7Nazewnictwo i zapis wyników
Wyniki zapisują się w:
wyniki/Rx/<data_id>/ # Rx to R1–R6Nazwę <data_id> nadaje program. Odczytaj ścieżkę z komunikatu Wyniki; zachowaj nazwy plików z tabeli rozdziałów.
Zachowaj sześć uzupełnionych notebooków i wybrane katalogi R1–R6, w tym porownanie_AB.json z trzema próbami oraz opis_projektu.md. Oznacz wyniki własne i demonstracyjne.
8Lista kontroli przed zakończeniem
9Gdy pojawi się problem
Brak połączenia
Uruchom Ollama i sprawdź adres w konfiguracja.json. Klucz API nie jest potrzebny.
Brak wskazanego modelu
Porównaj tag z ollama list. Pobierz model lub wpisz dostępny tag i powtórz cały zestaw A/B/C.
Długi czas odpowiedzi lub timeout
Zwiększ timeout_seconds w konfiguracji. Zamknij zbędne obciążenia albo skorzystaj ze stanowiska prowadzącego.
Brak modułu m1_tools
Rozpakuj cały pakiet i uruchom Jupyter z folderu Student. Nie przenoś samych notebooków.
Odpowiedź urwana
Zwiększ num_predict i powtórz wszystkie warianty. Zachowaj poprzedni wynik jako niepełny.
Wynik różny od przykładu
Różny wynik jest normalny. Sprawdź źródło, opisz różnicę i zachowaj surową odpowiedź.
10Zasady odbioru
Sposób oddania i znaczenie ćwiczeń dla zaliczenia określa prowadzący. Raport ze slajdu 100 jest opcjonalny; materiały nie zmieniają zasad zaliczenia kursu.
Błędna odpowiedź modelu jest wartościowym wynikiem, jeśli poprawnie wykryjesz i opiszesz błąd.
Dokumentacja instalacji i modelu
Instrukcja pracy uczestnika | Moduł 1 | Lokalne chatboty i RAG