2. Kwantyzacja skalarna i kodery PCM

2.2. Stosunek mocy sygnału do mocy błędu kwantyzacji

Po próbkowaniu mamy M próbek sygnału: x_1,x_2,\ldots x_M.  Ich wartości chwilowe są opisane gęstością prawdopodobieństwa p(x) – rys.3. 

 

Rysunek 3 Poziomy i przedziały kwantyzacji

Kwantyzator jest opisany L poziomami kwantyzacji, nazwijmy je y_1,y_2,\ldots y_L. Kwantowanie próbki x_n polega na jej zaokrągleniu do najbliższego poziomu kwantyzacji. Wartości próbek, które zostaną zaokrąglone do tego samego poziomu y_k, tworzą przedział kwantyzacji  Dk. Granice przedziałów leżą w równej odległości od najbliższych poziomów, choć poziom kwantyzacji niekoniecznie musi leżeć w środku przedziału.
W wyniku kwantowania próbka x_n zostanie zastąpiona wartością x_n^\ast , najbliższym jej poziomem kwantyzacji. Błąd zaokrąglenia (błąd kwantyzacji) wynosi e_n=x_n-x_n^\ast, jego moc chwilowa  e_n^2={(x}_n-x_n^\ast)^2,  a moc średnia 

\sigma_e^2=\frac{1}{M}\sum_{n=1}^{M}{(x_n-x_n^\ast)^2} (6)

Wzór (6) należałoby przepisać w takiej postaci, aby wystąpiły w nim wartości poziomów kwantyzacji. Można to uczynić, jeśli sumę po wszystkich próbkach sygnału rozdzielimy na L sum, każda z nich zawierająca próbki należące do tego samego przedziału kwantyzacji:

\sigma_e^2=\frac{1}{M}\sum\limits_{n=1}^{M}{\left(x_n-x_n^\ast\right)^2=}\frac{1}{M}\sum\limits_{k=1}^{L}\sum\limits_{x_n\in D_k}\left(x_n-y_k\right)^2 (7)

Mając dane poziomy kwantyzacji i próbki sygnału, można obliczyć średnią moc błędu (szumu) kwantyzacji ze wzoru (7). Można też szukać poziomów kwantyzacji minimalizujących moc błędu kwantyzacji. To zadanie nie jest już tak proste, gdyż poziomy kwantyzacji wpływają na przedziały kwantyzacji, wykorzystywane również we wzorze (7). Można jedynie uruchomić algorytm iteracyjny, obliczając na przemian poziomy i przedziały. Nosi on nazwę algorytmu Lloyda, Lloyda-Maxa, K-średnich. Zapoznamy się z nim omawiając kwantyzację wektorową. 
Minimalizacja średniej mocy błędu kwantowania oznacza maksymalizacje {SNR}_q=\frac{\sigma_x^2}{\sigma_e^2}  – stosunku mocy sygnału do mocy błędu kwantowania (wzór 4). Moc sygnału obliczymy ze wzoru:

\sigma_x^2=\frac{1}{M}\sum_{n=1}^{M}{(x_n)^2} (8)