Moduł 1  |  Instrukcja pracy  |  Lokalne chatboty i RAG

Instrukcja pracy uczestnika · Moduł 1

Instrukcja pracy z modułem 1

Od rozmowy z modelem językowym do idei systemu RAG

Czas
około 135 min ćwiczeń
Pracujesz z
kartami pracy, notebookami i dokumentacją DocAssist
Rezultat
sześć notebooków i wyniki R1–R6

Wykonasz sześć krótkich ćwiczeń i sprawdzisz, jak dokument wpływa na odpowiedź lokalnego modelu. Instrukcja prowadzi przez przygotowanie stanowiska, pracę z rozdziałami i zapis wyników.

1Cel i rezultat modułu

Wyjaśnisz rolę wyszukiwania w systemie RAG i granice wiarygodności odpowiedzi. Rozróżnisz model, aplikację i prompt oraz ocenisz, czy twierdzenie ma oparcie w źródle.

Po zakończeniu masz

  • sześć uzupełnionych notebooków i wybrane katalogi wyników R1–R6;
  • porownanie_AB.json z trzema próbami oraz opis_projektu.md;
  • własne uzasadnienia ocen i oznaczenie wyników własnych oraz demonstracyjnych.

2Zanim zaczniesz

Rozpakuj cały pakiet i pracuj na własnej kopii katalogu Student. Zachowaj obok siebie foldery dane, kod, notebooki, karty_pracy i wyniki. Ścieżki w instrukcji są liczone od Student. Przeczytaj START.md; kod pomocniczy jest gotowy i nie trzeba przepisywać go ze slajdów.

MateriałDo czego służy
START.md i requirements.txtSkrócona instrukcja i zależności środowiska Python.
konfiguracja.jsonNazwa modelu, adres Ollama i wspólne ustawienia.
notebooki i karty_pracyTest środowiska oraz ćwiczenia R1–R6.
dane, kod i wynikiŹródła ćwiczeń, gotowe funkcje i zapis rezultatów.
!

Ważne: dokumentacja DocAssist jest fikcyjna. Zawarte w niej polecenia Linux są tekstem do analizy; nie wykonuj ich na komputerze. Nie potrzebujesz serwera DocAssist ani modelu embeddingowego.

Zaplanuj także około 75–95 minut narracji modułu, zależnie od tempa i pauz. Instalację wykonaj wcześniej. Prowadzący może rozdzielić oglądanie i pracę praktyczną.

3Przygotowanie stanowiska krok po kroku

Potrzebujesz Python 3.10 lub nowszego, JupyterLab i lokalnego Ollama. Podstawowy model to qwen3:4b-instruct-2507-q4_K_M. GPU nie jest wymagane przez pakiet; szybkość i możliwość wczytania modelu zależą od pamięci i komputera.

  1. Pobierz model

    Zainstaluj Python i Ollama z oficjalnych stron. Uruchom Ollama, a następnie wykonaj w terminalu:

    ollama pull qwen3:4b-instruct-2507-q4_K_M
  2. Uruchom JupyterLab

    Otwórz terminal w rozpakowanym folderze Student i wykonaj kolejno:

    py -m venv .venv .\.venv\Scripts\python.exe -m pip install -r requirements.txt .\.venv\Scripts\python.exe -m ipykernel install --prefix .venv --name m1 --display-name "Python M1" .\.venv\Scripts\python.exe -m jupyterlab
  3. Sprawdź pliki

    W Jupyter otwórz notebook testowy i wybierz kernel Python M1:

    notebooki/00_sprawdzenie_srodowiska.ipynb

    Uruchamiaj komórki od góry przez Shift + Enter. Domyślne MODE="demo" sprawdza pliki bez wywołania modelu. W razie wątpliwości zrestartuj kernel i uruchom wszystkie komórki.

  4. Sprawdź własny model

    Zmień istniejące ustawienie na MODE="ollama" i ponownie uruchom przygotowanie oraz test.

    W konfiguracja.json sprawdź dokładną nazwę modelu i adres http://127.0.0.1:11434. Tag modelu porównaj z wynikiem polecenia ollama list. W zestawie A/B/C zachowaj wspólny model i ustawienia.

Linux i macOS — różnice w poleceniach

Utwórz środowisko poleceniem python3 -m venv .venv. W kolejnych poleceniach zastąp ścieżkę Windows przez .venv/bin/python.

Pobranie środowiska i modelu wymaga Internetu; po instalacji ćwiczenia mogą działać lokalnie.

4Wybierz i oznacz tryb pracy

Sposób pracyCo oznacza
ollamaRzeczywiste odpowiedzi, parametry i identyfikator modelu. W pełnej ścieżce praktycznej wymagany w R1, R3 i R6.
demoRęcznie opracowane przykłady do nauki oceny, także w razie awarii. Nie potwierdzają własnego uruchomienia modelu.
Analiza bez LLMR2, R4 i R5 można wykonać bez modelu.
!

Ważne: po błędzie program nie przełącza się automatycznie na demo. Każdą zmianę trybu oznacz jawnie. Open WebUI jest alternatywą: kopiuj dokładne wiadomości z notebooka, zaczynaj nowy czat i ręcznie zapisuj model, ustawienia oraz odpowiedź.

5Praca z rozdziałami krok po kroku

Pracuj kolejno od R1 do R6. Do każdego rozdziału otwórz właściwą kartę z folderu karty_pracy i odpowiadający jej notebook z folderu notebooki.

RozdziałTemat ćwiczeniaPlik wynikowy
R1Jak działa zwykły czat z modelem językowymdziennik_promptow.json
R2Ograniczenia modeli językowychkarta_ryzyk.md
R3Kontekst jako dodatkowe źródło wiedzyporownanie_kontekstu.json
R4Od dokumentu do odpowiedzi opartej na źródłachmapa_twierdzen.md
R5Podstawowa idea systemu RAGarchitektura_projektu.md
R6Porównanie czatu LLM i systemu z własną wiedząporownanie_AB.json
opis_projektu.md

Rytm pracy w każdym rozdziale

  1. Otwórz materiały

    Obejrzyj odpowiednią prezentację HTML i zatrzymuj ją w miejscach ćwiczeń.

    Sprawdź cel, materiały wejściowe i oczekiwany rezultat w karcie pracy. W R1, R3 i R6 wybierz właściwy tryb przed uruchomieniem komórki Przygotowanie.

  2. Wykonaj ćwiczenie

    Uruchamiaj komórki notebooka w kolejności wskazanej w karcie.

    Zanotuj katalog wyświetlony po komunikacie Wyniki. Zachowaj oryginalne odpowiedzi i dane źródłowe; nie poprawiaj surowego wyniku modelu.

  3. Uzupełnij własną ocenę

    Zastąp pola UZUPEŁNIJ własną analizą i uzasadnieniem.

    Oceniaj poprawność, istotne warunki, możliwość sprawdzenia i dopowiedzenia. Sama nazwa źródła nie wystarcza. Dla TXT podaj dokument, wersję i sekcję, bez numeru strony z przykładu na slajdzie.

  4. Zapisz i sprawdź rezultat

    Uruchom komórkę oceny i zapisu, a następnie otwórz plik wynikowy.

    Sprawdź zgodność raportu z analizowaną próbą i zapisz notebook przez Ctrl + S. Jeśli model się pomylił, opisz błąd i jego podstawę zamiast zmieniać odpowiedź.

6Punkty kontrolne pracy

Po etapieMasz sprawdzićGdy wynik nie pasuje
Przygotowanie Test widzi pliki, a wybrany tryb jest poprawny. Sprawdź folder Student, kernel i konfigurację.
Wykonanie Zachowano wejście i oryginalny wynik tej próby. Otwórz pliki we wskazanym katalogu wyników.
Ocena i zapis Komentarze są własne, a raport dotyczy tej samej próby. Popraw ocenę i ponownie uruchom komórkę zapisu.
!

Ważne: ponowne uruchomienie komórki Przygotowanie tworzy nowy katalog wyników. Jeśli ponowisz generowanie, oceń nowe odpowiedzi. Po samej zmianie komentarzy uruchom komórkę oceny i zapisu, bez nowego wywołania modelu.

7Nazewnictwo i zapis wyników

Wyniki zapisują się w:

wyniki/Rx/<data_id>/ # Rx to R1–R6

Nazwę <data_id> nadaje program. Odczytaj ścieżkę z komunikatu Wyniki; zachowaj nazwy plików z tabeli rozdziałów.

i

Zachowaj sześć uzupełnionych notebooków i wybrane katalogi R1–R6, w tym porownanie_AB.json z trzema próbami oraz opis_projektu.md. Oznacz wyniki własne i demonstracyjne.

8Lista kontroli przed zakończeniem

9Gdy pojawi się problem

Brak połączenia

Uruchom Ollama i sprawdź adres w konfiguracja.json. Klucz API nie jest potrzebny.

Brak wskazanego modelu

Porównaj tag z ollama list. Pobierz model lub wpisz dostępny tag i powtórz cały zestaw A/B/C.

Długi czas odpowiedzi lub timeout

Zwiększ timeout_seconds w konfiguracji. Zamknij zbędne obciążenia albo skorzystaj ze stanowiska prowadzącego.

Brak modułu m1_tools

Rozpakuj cały pakiet i uruchom Jupyter z folderu Student. Nie przenoś samych notebooków.

Odpowiedź urwana

Zwiększ num_predict i powtórz wszystkie warianty. Zachowaj poprzedni wynik jako niepełny.

Wynik różny od przykładu

Różny wynik jest normalny. Sprawdź źródło, opisz różnicę i zachowaj surową odpowiedź.

10Zasady odbioru

Sposób oddania i znaczenie ćwiczeń dla zaliczenia określa prowadzący. Raport ze slajdu 100 jest opcjonalny; materiały nie zmieniają zasad zaliczenia kursu.

i

Błędna odpowiedź modelu jest wartościowym wynikiem, jeśli poprawnie wykryjesz i opiszesz błąd.

Dokumentacja instalacji i modelu

Instrukcja pracy uczestnika  |  Moduł 1  |  Lokalne chatboty i RAG