Przegląd sekcji

  • W module przedstawiono podstawowe pojęcia dotyczące sieci neuronowych: architektura, funkcja aktywacja, funkcja straty. Przedstawione zostaną podstawowe pojęcia wykorzystywane w sieciach neuronowych, szczególnie z uwzględnieniem biblioteki PyTorch, takie jak tensor oraz mechanizm gradientu zejścia. Omówiony zostanie cykl życia modelu, ze szczególnym uwzględnieniem przygotowywania danych oraz procesu optymalizacji na przykładzie implementacji biblioteki PyTorch. Przedstawione zostaną różne funkcje aktywacji jak ReLU, Sigmodi i Softmax ora ich wpływ na problem zanikania gradientu. W części praktycznej modułu przeanalizowany zostanie przykład prostego zbioru danych (takiego jak MNIST lub FashionMNIST) z wykorzystaniem warstw w pełni połączonych oraz analiza ograniczeń warstw liniowych w kontekście przetwarzania obrazów.