Łańcuch Markowa

Przykład procesu Markowa

Proces Markowa – ciąg zdarzeń, w którym prawdopodobieństwo każdego zdarzenia zależy jedynie od wyniku poprzedniego. W ujęciu matematycznym, procesy Markowa to takie procesy stochastyczne, które spełniają własność Markowa.

Łańcuchy Markowa to procesy Markowa z czasem dyskretnym.

Łańcuch Markowa jest ciągiem X₁, X₂, X₃, ... zmiennych losowych. Dziedzinę tych zmiennych nazywamy przestrzenią stanów, a realizacje X_n to stany w czasie n. Jeśli rozkład warunkowy X_n+1 jest funkcją wyłącznie zmiennej X_n:

$P(X_{n+1}\le y|X_0, X_1, X_2, \ldots, X_n) = P(X_{n+1}\le y|X_n)$

to mówimy, że proces stochastyczny posiada własność Markowa.

Przedstawiona definicja zakłada czas dyskretny. Istnieją procesy Markowa z czasem ciągłym, jednak nie są one przedstawione w tym artykule.

Procesy Markowa zawdzięczają swoją nazwę ich twórcy Andriejowi Markowowi, który po raz pierwszy opisał problem w 1906 roku. Uogólnienie na przeliczalnie nieskończone przestrzenie stanów zostało opracowane przez Kołmogorowa w 1936. Łańcuchy Markowa mają związek z ruchami Browna oraz hipotezą ergodyczną, dwoma ważnymi w fizyce tematami, ale powstały jako uogólnienie prawa wielkich liczb na zdarzenia zależne.

Własności łańcuchów Markowa

Rozkład początkowy

Rozkładem początkowym nazywamy rozkład (dyskretny) zmiennej $X_{0}\;$.

Macierz przejść

Definicja

Jeśli łańcuch Markowa jest jednorodny, rozkład prawdopodobieństw przejść między poszczególnymi stanami może być przedstawiony jako macierz, zwaną macierzą prawdopodobieństw przejścia. Jest to macierz stochastyczna, oznaczamy ją literą $\mathbb{P}$, gdzie elementy (i, j) są równe:

$p_{i,j} = P(X_{n+1}=j\mid X_n=i) \,$

• z jednorodności otrzymujemy, że rzeczywiście p_ij nie zależy od n;
• przykładowo element p_1,3 oznacza prawdopodobieństwo przejścia ze stanu pierwszego do stanu trzeciego.

Własności

Definicja. Prawdopodobieństwem przejścia ze stanu "i" do stanu "j" w "n" krokach nazywamy prawdopodobieństwo warunkowe $p_{i,j}^{(n)} = P(X_{m+n}=j| X_m = i)$.

Równania Chapmana-Kołmogorowa

$p_{i,j}^{(n + m)} = \sum_{k \in E} p_{i,k}^{(n)}p_{k,j}^{(m)}$. Intuicyjne jest jasne, że aby dojść do stanu "j" możemy po drodze przejść przez dowolny inny stan skomunikowany z "j" i "i". W zapisie macierzowym równania Ch-K można zapisać tak: $\mathbb{P}^{m+n} = \mathbb{P}^{m}\mathbb{P}^{n}$, gdzie przez $\mathbb{P}^{n}$ rozumiemy macierz przejść w n krokach.

Klasyfikacja stanów

Definicja. Mówimy, że stan "i" jest osiągalny ze stanu "j", jeśli p_j,i > 0

Definicja. Mówimy, że stany "i" i "j" są skomunikowane, jeśli są wzajemnie osiągalne. Oznaczamy ten związek przez i  ↔  j.

Podział zbioru stanów

Łatwo można wykazać, że relacja skomunikowania jest relacją równoważności. Zatem zbiór możliwych stanów można podzielić na klasy abstrakcji względem tej relacji. Każda z klas tworzy zbiór stanów wzajemnie skomunikowanych.

Stany chwilowe i rekurencyjne

Definicja. Oznaczmy przez f_i prawdopodobieństwo tego, że startując ze stanu "i" łańcuch kiedykolwiek do niego powróci.

Definicja. Jeśli f_i = 1 to stan "i" nazywamy rekurencyjnym.

Definicja. Jeśli f_i < 1 to stan "i" nazywamy chwilowym.

Wynika stąd, że każdy stan jest albo chwilowy albo rekurencyjny.

Poniższe twierdzenie jest prostym narzędziem do badania chwilowości lub rekurencyjności stanu łańcucha Markowa.

Twierdzenie. Stan "i" jest chwilowy wtw. gdy $\sum_{n=1}^{\infty} p_{i,i}^{(n)} = \infty$.

Rozkład stacjonarny

Rozkład prawdopodobieństw na przestrzeni stanów S nazywamy stacjonarnym wtedy i tylko wtedy, gdy spełniony jest warunek

$\pi_{j} = \sum_{i \in S} \pi_i p_{ij},$

czyli

$\pi\mathbf{P} = \pi,$

gdzie π jest wektorem wierszowym takim, że

$\sum_i \pi_i = 1 \quad \forall \pi_i \ge 0$.

Jeśli rozkład początkowy $\mathbf{x_0}$ jest stacjonarny, to każdy kolejny rozkład $\mathbf{x_n}$ również jest stacjonarny.

Może nie istnieć żaden, istnieć jeden lub więcej niż jeden rozkład stacjonarny dla danego procesu.

Zobacz też

• Andriej Kołmogorow
• Andriej Markow
• Własność Markowa

Bibliografia

• Maria Podgórska i in.: Łańcuchy Markowa w teorii i zastosowaniach. Warszawa: Szkoła Główna Handlowa, Oficyna Wydawnicza, 2002.
• Anzelm Iwanik, Jolanta Katarzyna Misiewicz: Wykłady z procesów stochastycznych z zadaniami. Cz. 1, Procesy Markowa. Zielona Góra: Oficyna Wydawnicza Uniwersytetu Zielonogórskiego, 2009.