Podręcznik

1. Porównać działanie sieci MLP i RBF pod kątem zalet i wad.

2. Korzystając z funkcji pinv Matlaba wyznaczyć pseudoinwersję macierzy losowej $\mathbf{A}$ (wygenerowanej przy użyciu funkcji rand) przy założeniu, że macierz ta jest kwadratowa oraz prostokątna o liczbie wierszy większej i mniejszej niż liczba kolumn. Sprawdzić za każdym razem iloczyn macierzy $\mathbf{A}\mathbf{A}^{-1}$. powiązać wyniki z uwarunkowaniem macierzy (funkcja cond Matlaba). Sprawdzić jak wartość funkcji cond zmienia się z wymiarami macierzy $\mathbf{A}$.

3. Narysować szczegółową strukturę sieci RBF o dwu wejściach, dwu neuronach ukrytych i jednym wyjściu. Utworzyć sieć dołączoną do niej (sposób tworzenia identyczny jak dla sieci MLP przedstawionej w wykładzie 3). Napisać wyrażenia na gradient funkcji celu względem wag liniowych.

4. Rozważyć problem XOR opisany równaniem

Sieć RBF modelująca ten problem zawiera 2 neurony ukryte o centrach $\mathbf{c}_1 = [1 \;1], \mathbf{c}_2 = [0 \; 0], \sigma_1 = \sigma_2 = 1$. Określić macierz Greena oraz rozwiązanie względem wag $\mathbf{w}$ przy wykorzystaniu pseudoinwersji. Wykorzystać odpowiednie funkcje macierzowe Matlaba.

5. Dana jest sieć RBF o strukturze przedstawionej na rys. 4.7

Centra funkcji radialnych dane są w postaci

$\mathbf{c}_1=\left[\begin{array}{l} 1 \\ 1 \end{array}\right], \quad \mathbf{c}_2=\left[\begin{array}{l} 2 \\ 2 \end{array}\right], \quad \mathbf{c}_3=\left[\begin{array}{l} 3 \\ 0 \end{array}\right]$

a szerokość wszystkich funkcji równa $\sigma_1 = 1$. Wagi sieci są równe: $w_1 =1, w_2 =0.5, w_3=1.5, w_4=-0.5$. Sprawdzić przynależność do klasy 1 lub 2 następujących wektorów $\mathbf{x}$

$\mathbf{x}_1=\left[\begin{array}{l} -1 \\ 0 \end{array}\right], \quad \mathbf{x}_2=\left[\begin{array}{l} 2 \\ 1 \end{array}\right], \quad \mathbf{x}_3=\left[\begin{array}{l} 3 \\ 1 \end{array}\right]$

6. Zaprojektować sieć RBF modelującą funkcję nieliniową dwu zmiennych $f_1(\mathbf{x})=\sqrt{x_1^2+x_2^2}$ korzystając z programu RBF_win.

7. Wygenerować zbiór danych o rozkładzie losowym typu gaussowskiego o trzech centrach położonych w $\mathbf{c}_1 = [0.5 \; 1],  \mathbf{c}_2 = [0.3 \;  0.8],  \mathbf{c}_3 = [0.1  \; 0.5]$ (dla każdego centrum po 50 danych). Przyjąć wspólną wartość $\sigma = 1$. Napisać program w Matlabie określający centra 5 neuronów ukrytych przy wykorzystaniu metody off-line uczenia ze współzawodnictwem. Zilustrować graficznie otrzymany wynik na tle danych uczących.