Rozkład według wartości osobliwych

Rozkład według wartości osobliwych (rozkład według wartości szczególnych, dekompozycja głównych składowych, dekompozycja na wartości singularne, dekompozycja SVD, rozkład SVD, algorytm SVD (SVD – z ang. Singular Value Decomposition)) – pewien rozkład macierzy (dekompozycja) na iloczyn trzech specyficznych macierzy.

Jest to metoda matematyczna stosowana m.in. w analizie statystycznej służąca do redukcji wymiaru macierzy. Posiada wiele zastosowań np. przy przetwarzaniu obrazów i sygnałów, w robotyce i automatyce.

Teza

Każdą macierz rzeczywistą $A$ można przedstawić w postaci rozkładu SVD:

$A=U\Sigma V^{T},$

gdzie:

• $U$ i $V$ – macierze ortogonalne (czyli $U^{-1}=U^{T},$ $V^{-1}=V^{T}$),
• $\Sigma$ – macierz diagonalna (przekątniowa), taka że $\Sigma =\operatorname {diag} (\sigma _{i}),$ gdzie $\sigma _{i}$ – nieujemne wartości szczególne (osobliwe) macierzy $A,$ zwyczajowo uporządkowane nierosnąco.

Własności

Jeżeli macierz $A$ jest macierzą nieosobliwą, to można tak dobrać macierze $U$ oraz $V,$ żeby jej wszystkie wartości szczególne (osobliwe) były dodatnie. Jeżeli którakolwiek wartość szczególna macierzy jest równa 0, to macierz ta jest macierzą osobliwą.

Wartość bezwzględna wyznacznika kwadratowej macierzy $A$ jest iloczynem jej wszystkich wartości szczególnych (osobliwych):

$|\det(A)|=\sigma _{1}\sigma _{2}\cdots \sigma _{n}.$

Przykład

Rozważmy macierz: $4\times 5{:}$

$\mathbf {M} ={\begin{bmatrix}1&0&0&0&2\\0&0&3&0&0\\0&0&0&0&0\\0&4&0&0&0\end{bmatrix}}$

Rozkład według wartości osobliwych tej macierzy jest następujący:

${\begin{aligned}\mathbf {U} &={\begin{bmatrix}0&0&1&0\\0&1&0&0\\0&0&0&-1\\1&0&0&0\end{bmatrix}}\\{\boldsymbol {\Sigma }}&={\begin{bmatrix}4&0&0&0&0\\0&3&0&0&0\\0&0&{\sqrt {5}}&0&0\\0&0&0&0&0\end{bmatrix}}\\\mathbf {V} ^{T}&={\begin{bmatrix}0&1&0&0&0\\0&0&1&0&0\\{\sqrt {0{,}2}}&0&0&0&{\sqrt {0{,}8}}\\0&0&0&1&0\\-{\sqrt {0{,}8}}&0&0&0&{\sqrt {0{,}2}}\end{bmatrix}}\end{aligned}}$

Przy czym wartości na przekątnej macierzy ${\boldsymbol {\Sigma }}$ to pierwiastki wartości własnych macierzy: $\mathbf {M} \mathbf {M} ^{T},$ oraz istotnie:

${\begin{aligned}\mathbf {U} \mathbf {U} ^{T}&={\begin{bmatrix}1&0&0&0\\0&1&0&0\\0&0&1&0\\0&0&0&1\end{bmatrix}}\end{aligned}}$

tudzież:

${\begin{aligned}\mathbf {V} \mathbf {V} ^{T}&={\begin{bmatrix}1&0&0&0&0\\0&1&0&0&0\\0&0&1&0&0\\0&0&0&1&0\\0&0&0&0&1\end{bmatrix}}\end{aligned}}$

Zobacz też

• metody numeryczne
• PCA – Principal Component Analysis
• rozkład macierzy