Sylwetka absolwenta
Absolwent kursu potrafi samodzielnie zaprojektować i zbudować prosty lokalny system RAG korzystający z własnej bazy dokumentów. Rozumie, że taki system nie polega wyłącznie na zadawaniu pytań modelowi językowemu, lecz wymaga przygotowania dokumentów, podziału tekstu na fragmenty, utworzenia embeddingów, wyszukania kontekstu i dopiero na tej podstawie wygenerowania odpowiedzi.
Absolwent zna podstawowe elementy architektury RAG i potrafi wyjaśnić rolę każdego z nich. Odróżnia model językowy od modelu embeddingowego, dokument źródłowy od fragmentu tekstu, indeks wektorowy od bazy dokumentów, kontekst od promptu oraz odpowiedź modelu od źródła informacji. Potrafi opisać, w jaki sposób pytanie użytkownika zostaje przekształcone w embedding, jak wyszukiwane są podobne fragmenty i jak trafiają one do promptu.
Absolwent potrafi przygotować dokumenty do wykorzystania w systemie RAG. Umie zorganizować lokalną bazę wiedzy, oczyścić treść, podzielić dokumenty na fragmenty, dodać metadane oraz zachować informacje pozwalające później wskazać źródła odpowiedzi. Rozumie, że nieprzemyślany podział tekstu, brak metadanych lub niska jakość dokumentów źródłowych może znacząco obniżyć jakość działania całego systemu.
Absolwent potrafi korzystać z embeddingów i wyszukiwania semantycznego. Umie utworzyć embeddingi dla fragmentów dokumentów, wyszukać fragmenty podobne do pytania użytkownika i ocenić, czy zwrócony kontekst jest rzeczywiście przydatny. Potrafi eksperymentować z liczbą zwracanych fragmentów, długością fragmentów i sposobem ich przygotowania.
Absolwent potrafi zbudować prosty przepływ RAG w Pythonie. Umie połączyć wyszukiwanie semantyczne z lokalnym modelem językowym, przygotować prompt z kontekstem, ograniczyć odpowiedź do dostarczonych źródeł oraz zwrócić użytkownikowi informację, na podstawie których fragmentów dokumentów została wygenerowana odpowiedź.
Absolwent rozumie różnice między chatbotem, asystentem i agentem. Potrafi przygotować prosty interfejs rozmowy oraz rozbudować system o podstawowe narzędzia pomocnicze, takie jak wyszukiwanie w dokumentach, wyświetlanie źródeł czy przygotowanie podsumowania wskazanego fragmentu. Wie jednocześnie, że bardziej autonomiczne działanie systemu wymaga szczególnej kontroli i testowania.
Absolwent potrafi krytycznie oceniać odpowiedzi generowane przez system AI. Wie, że RAG ogranicza ryzyko halucynacji, ale go nie usuwa. Potrafi sprawdzić, czy odpowiedź wynika z dostarczonego kontekstu, czy wskazane źródła rzeczywiście ją potwierdzają oraz czy system poprawnie reaguje na pytania, na które dokumenty nie zawierają odpowiedzi.
Absolwent jest przygotowany do realizacji prostych projektów związanych z lokalnymi asystentami wiedzy w kontekście technicznym, edukacyjnym, organizacyjnym lub projektowym. Potrafi przedstawić działanie prototypu, opisać jego ograniczenia, wskazać typowe błędy i zaproponować możliwe usprawnienia.