M1. Od czatu z modelem do systemu z własną wiedzą
Przegląd sekcji
-
W module 1 poznasz różnicę między zwykłym czatem z modelem językowym a systemem korzystającym z własnej wiedzy i dodatkowego kontekstu. Nauczysz się rozumieć rolę modelu LLM, promptu, kontekstu, historii rozmowy oraz ograniczeń okna kontekstowego. Przyjrzysz się typowym ograniczeniom modeli językowych, w tym możliwości generowania odpowiedzi nieopartych na źródłach i braku automatycznego dostępu do lokalnych dokumentów. Następnie poznasz podstawową ideę systemu RAG, który wyszukuje potrzebne informacje i przekazuje je modelowi jako kontekst do wygenerowania odpowiedzi. W ramach modułu porównasz działanie zwykłego czatu z rozwiązaniem korzystającym z dostarczonych dokumentów i ocenisz, dlaczego odpowiedzi powinny być weryfikowane na podstawie źródeł.