Rozkład według wartości osobliwych

Z Wikipedii, wolnej encyklopedii
Skocz do: nawigacja, szukaj

Rozkład według wartości osobliwych (rozkład według wartości szczególnych, dekompozycja głównych składowych, dekompozycja na wartości singularne, dekompozycja SVD, rozkład SVD, algorytm SVD (SVD - z ang. Singular Value Decomposition)) to pewien rozkład macierzy (dekompozycja) na iloczyn trzech specyficznych macierzy.

Jest to metoda matematyczna stosowana m.in. w analizie statystycznej służąca do redukcji wymiaru macierzy. Posiada wiele zastosowań np. przy przetwarzaniu obrazów i sygnałów, w robotyce i automatyce.

Teza[edytuj | edytuj kod]

Każdą macierz rzeczywistą A można przedstawić w postaci rozkładu SVD:

A = U \Sigma V^T,\!

gdzie

  • U i V - macierze ortonormalne (są one ortogonalne czyli U^{-1}=U^T, V^{-1}=V^T oraz długość każdego wektora w macierzy jest równa 1),
  • Σ - macierz diagonalna (przekątniowa), taka że \Sigma = diag(\sigma_i), gdzie \sigma_i - nieujemne wartości szczególne (osobliwe) macierzy A, zwyczajowo uporządkowane nierosnąco.

Własności[edytuj | edytuj kod]

Jeżeli macierz A jest macierzą nieosobliwą, to można tak dobrać macierze U oraz V, żeby jej wszystkie wartości szczególne (osobliwe) były dodatnie. Jeżeli którakolwiek wartość szczególna macierzy jest równa 0, to macierz ta jest macierzą osobliwą.

Wartość bezwzględna wyznacznika kwadratowej macierzy A jest iloczynem jej wszystkich wartości szczególnych (osobliwych):

|\det(A)| = \sigma_1 \sigma_2 \cdots \sigma_n

Przykład[edytuj | edytuj kod]

Rozważmy macierz :4 \times 5:

\mathbf{M} = \begin{bmatrix}
                      1 & 0 & 0 & 0 & 2 \\
                      0 & 0 & 3 & 0 & 0 \\
                      0 & 0 & 0 & 0 & 0 \\
                      0 & 4 & 0 & 0 & 0
                    \end{bmatrix}

Rozkład według wartości osobliwych tej macierzy jest następujący:

\begin{align}
\mathbf{U} &= \begin{bmatrix}
               0 & 0 & 1 &  0 \\
               0 & 1 & 0 &  0 \\
               0 & 0 & 0 & -1 \\
               1 & 0 & 0 & 0
             \end{bmatrix} \\

\boldsymbol{\Sigma} &= \begin{bmatrix}
                        4 & 0 &        0 & 0 & 0 \\
                        0 & 3 &        0 & 0 & 0 \\
                        0 & 0 & \sqrt{5} & 0 & 0 \\
                        0 & 0 &        0 & 0 & 0
                      \end{bmatrix} \\

\mathbf{V}^T &= \begin{bmatrix}
                           0 & 1 & 0 & 0 &          0 \\
                           0 & 0 & 1 & 0 &          0 \\
                  \sqrt{0.2} & 0 & 0 & 0 & \sqrt{0.8} \\
                           0 & 0 & 0 & 1 &          0 \\
                 -\sqrt{0.8} & 0 & 0 & 0 & \sqrt{0.2}
               \end{bmatrix}
\end{align}

Przy czym wartości na przekątnej macierzy \boldsymbol{\Sigma} to pierwiastki wartości własnych macierzy :\mathbf{M}\mathbf{M}^T, oraz istotnie:

\begin{align}\mathbf{U} \mathbf{U}^T &= \begin{bmatrix}
                           1 & 0 & 0 & 0 \\
                           0 & 1 & 0 & 0 \\
                           0 & 0 & 1 & 0 \\
                           0 & 0 & 0 & 1 
               \end{bmatrix}
\end{align}

tudzież:

\begin{align}\mathbf{V} \mathbf{V}^T &= \begin{bmatrix}
                           1 & 0 & 0 & 0 &0 \\
                           0 & 1 & 0 & 0 &0 \\
                           0 & 0 & 1 & 0 &0 \\
                           0 & 0 & 0 & 1 &0 \\
                           0 & 0 & 0 & 0 &1 \\
               \end{bmatrix}
\end{align}

Zobacz też[edytuj | edytuj kod]