Współczynnik korelacji rang Spearmana

Animacja wyjaśnia własności korelacji rangowej. Na osiach odłożone są wartości porównywanych zmiennych. Punkty symbolizują obserwacje w próbie. Współczynnik korelacji rang Spearmana jest obliczany w dwóch etapach: najpierw wykonywane jest rangowanie, czyli zastąpienie każdej zaobserwowanej wartości przez jej numer w zbiorze posortowanym rosnąco. Rangowanie pokazane jest tu w formie animacji, aby umożliwić śledzenie losów każdej z obserwacji; naprawdę żadne stadia pośrednie nie występują. Następnie obliczany jest zwykły współczynnik korelacji liniowej Pearsona. Jest on wprawdzie wrażliwy na obserwacje odstające, jednak rangowanie zbliża je do pozostałych, dzięki czemu niweluje się ich zakłócający wpływ na wynik. Dla pokazanych tu danych, przed rangowaniem współczynnik korelacji jest nieistotny statystycznie $(r=0{,}01561,\alpha =0{,}8775).$ Ten sam współczynnik dla rang wykazuje już istotną zależność pomiędzy zmiennymi $(r=0{,}41702,\alpha <0{,}0001).$ Monotoniczna nieliniowa zależność przekształca się przy rangowaniu w liniową, w wyniku czego współczynnik korelacji liniowej Pearsona, zastosowany do rang, mierzy siłę zależności monotonicznej.

Korelacja rang Spearmana (lub: korelacja rangowa Spearmana, rho Spearmana) – jedna z nieparametrycznych miar monotonicznej zależności statystycznej między zmiennymi losowymi.

Przyjmuje wartości od -1 do +1 włącznie. Skrajny wynik +1 oznaczałby, że wzrost jednej ze zmiennych zawsze pociąga za sobą wzrost drugiej, wynik -1 oznaczałby, że wzrost jednej ze zmiennych pociąga za sobą spadek drugiej, 0 to brak wykrytej zależności. W odróżnieniu od klasycznego współczynnika korelacji Pearsona, zależność ta z założenia nie musi być liniowa.

Pierwotny pomysł korelowania rang był już znany wcześniej i pochodził od Bineta i Henriego, jednak współczynnik ten został solidnie opisany i rozpropagowany dopiero w 1904 przez angielskiego psychologa Charlesa Spearmana. Zauważył on, że w wielu badaniach nie da się zastosować klasycznego współczynnika korelacji lub daje on fałszywie istotne wyniki ze względu na nadmiar obserwacji odstających.

Spearman zdefiniował swój współczynnik jako zwykły współczynnik korelacji Pearsona, liczony dla rang zmiennych (stąd nazwa współczynnik korelacji rang). Obecnie stosowanych jest kilka jego wersji, nieznacznie różniących się od siebie. Ich wartości są identyczne w przypadku, gdy obserwacje każdej zmiennej w próbie nie powtarzają się. Jeśli jednak nie jest to prawdą, to współczynnik korelacji dla rang opisuje jedynie wzór (2) i jego odmiany. Mimo to często używany jest też prostszy wzór (7).

Zastosowanie i interpretacja

Korelacja rangowa przyjmuje zawsze wartości z przedziału $[-1,+1].$ Ich interpretacja jest podobna do klasycznego współczynnika korelacji Pearsona, z jednym zastrzeżeniem: w odróżnieniu od współczynnika Pearsona, który mierzy liniową zależność między zmiennymi, a wszelkie inne związki traktuje jak zaburzone zależności liniowej, korelacja rangowa pokazuje dowolną monotoniczną zależność (także nieliniową).

Model korelacji rangowej zawiera szerszą klasę zależności niż model klasycznego współczynnika korelacji, nie obejmuje jednak wszystkich możliwych zależności. Na przykład zależność okresowa, spotykana często w analizie szeregów czasowych, gdzie nosi nazwę sezonowości, nie jest wykrywana ani przez korelację Pearsona, ani Spearmana.

Jako metoda rangowa, rho Spearmana jest w niewielkim tylko stopniu wrażliwe na obserwacje odstające, dzięki czemu szczególną użyteczność znajduje w analizie danych niskiej jakości.

Współczynnik korelacji Spearmana zależy wyłącznie od uporządkowania zaobserwowanych wartości. Może zatem być stosowany do dowolnych zmiennych, których wartości można uporządkować rosnąco, takich jak np. wykształcenie. Klasyczny współczynnik korelacji nie ma sensownej interpretacji dla zmiennych na skali porządkowej, gdyż uzależniony jest od różnic między wartościami zmiennych, które dla cech porządkowych nie są określone.

Współczynnik korelacji Spearmana oraz testy jego istotności mogą być stosowane przy dowolnym rozkładzie porównywanych zmiennych.

Korelacja rang Spearmana może być też opisana jako nachylenie (współczynnik kierunkowy) prostej najlepiej dopasowanej (w sensie najmniejszych kwadratów) do zbioru par rang. Istnieją inne, bardziej egzotyczne interpretacje, nie mają jednak znaczenia praktycznego.

Zależność między zmiennymi losowymi (niezależnie od tego, jakim wskaźnikiem jest mierzona) nie musi oznaczać związku przyczynowo-skutkowego.

Korelacja rang Spearmana zmiennych losowych

Ta wersja ma znaczenie w statystyce teoretycznej. Wartości dowolnych miar statystycznych wyliczanych z próby wygodnie jest uważać za estymatory (przybliżenia) miar liczonych na podstawie rozkładu zmiennej losowej z którego próba była losowana. W przypadku miar korelacji, dla zmiennych $X$ i $Y$ będzie to dwuwymiarowy rozkład wektora $(X,Y).$

Korelacja rang Spearmana zmiennych losowych $X$ i $Y$ wyrażona jest wzorem

$\rho _{S}=\operatorname {corr} {\big (}{\tilde {\mbox{F}}}_{X}(X),{\tilde {\mbox{F}}}_{Y}(Y){\big )},$

(1)

gdzie:

$\operatorname {corr}$ to współczynnik korelacji Pearsona,

${\tilde {\mbox{F}}}_{\zeta }(u)={\frac {F_{\zeta }(u)+F_{\zeta }(u^{-})}{2}},$

${\mbox{F}}_{\zeta }(u)$ dystrybuanta zmiennej $\zeta$ w punkcie $u,$

${\mbox{F}}_{\zeta }(u^{-})$ to lewostronna granica ${\mbox{F}}_{\zeta }(u)$ w punkcie $u.$

Dla ciągłych zmiennych losowych zachodzi ${\tilde {\mbox{F}}}_{\zeta }(u)={\mbox{F}}_{\zeta }(u)$ i wzór ten sprowadza się do

$\rho _{S}=\operatorname {corr} {\big (}{\mbox{F}}_{X}(X),{\mbox{F}}_{Y}(Y){\big )}=12\operatorname {cov} {\big (}{\mbox{F}}_{X}(X),{\mbox{F}}_{Y}(Y){\big )},$

(1a)

gdzie

${\mbox{F}}_{X}(X),{\mbox{F}}_{Y}(Y)$ to dystrybuanty porównywanych zmiennych,

$\operatorname {cov}$ to kowariancja.

Korelacja rang Spearmana z próby

W praktyce współczynnik korelacji rang oblicza się dla próby statystycznej. Używane do tego wzory można uważać za estymatory (przybliżenia) korelacji rang danej wzorem (1) lub korelacji rang istniejącej w populacji statystycznej. Przybliżenia nie są jednak tym samym, co wartość przybliżana. Ich wyniki będą zatem dla odróżnienia oznaczane przez $r_{S},$ podobnie jak w literaturze.

Współczynnik obliczany jest w następujący sposób:

1. Dla każdej porównywanej zmiennej dokonywane jest niezależnie rangowanie, czyli:

1a. Zaobserwowane wartości danej zmiennej porządkowane są rosnąco.

1b. Każdej wartości $x_{i}$ przypisywana jest ranga ${\mbox{R}}x_{i}$ równa pozycji danej wartości w rosnącym porządku (najmniejsza uzyskuje rangę 1, kolejna 2 itd.).

1c. W przypadku gdy dana wartość występuje wielokrotnie, każde z wystąpień ma przypisaną tę samą rangę równą średniej arytmetycznej pozycji w rosnącym porządku (tzw. ranga wiązana lub powiązana, ang. tied rank). Tym samym mogą występować rangi ułamkowe, np. ranga 1,5.

2. Po powrocie do pierwotnego porządku wartości w zmiennych obliczana jest korelacja rangowa z jednego ze wzorów omówionych poniżej ((2), (2a), (2b), (2c), (6), (6a), (6b), (7)). Istnieją różne wzory, gdyż poszczególne estymatory korelacji rang mają różne własności. Jeśli nie ma rang wiązanych, wszystkie one dają ten sam wynik. Jeśli występują rangi wiązane, to wzór (2) i jego odmiany są zgodne z pierwotną koncepcją Spearmana. Pomimo to często używany jest wzór (7), jak twierdzi część autorów, nieprawidłowo.

Wzory uwzględniające rangi wiązane

Oryginalna propozycja Spearmana

W oryginalnym ujęciu Spearmana, jego korelacja rang jest współczynnikiem korelacji Pearsona liczonym dla rang zmiennych zamiast ich surowych wartości, co jest bezpośrednim przełożeniem wzoru (1) na język rang.

$r_{S}=\operatorname {corr} ({\mbox{R}}X,{\mbox{R}}Y)$

(2)

gdzie:

$\operatorname {corr}$ to klasyczny współczynnik korelacji,

${\mbox{R}}X$ to rangi zmiennej $X$ w próbie,

${\mbox{R}}Y$ to rangi zmiennej $Y$ w próbie.

Wzór ten można uważać za próbkowy odpowiednik wzoru (1). Rozpisanie wzoru na korelację Pearsona prowadzi do

${\begin{aligned}r_{S}&={\frac {\operatorname {cov} ({\mbox{R}}X,{\mbox{R}}Y)}{\sqrt {\operatorname {var} ({\mbox{R}}X)\operatorname {var} ({\mbox{R}}Y)}}}\\[.5em]&={\frac {{\mbox{E}}({\mbox{R}}X\cdot {\mbox{R}}Y)-{\mbox{E}}({\mbox{R}}X)\cdot {\mbox{E}}({\mbox{R}}Y)}{{\sqrt {{\mbox{E}}({\mbox{R}}X)^{2}-{\mbox{E}}^{2}({\mbox{R}}X)}}\cdot {\sqrt {{\mbox{E}}({\mbox{R}}Y)^{2}-{\mbox{E}}^{2}({\mbox{R}}Y)}}}}\end{aligned}}$

(2a)

Wersja oparta na różnicy rang

Ten sam estymator można też zapisać w innej, równoważnej wersji jako:

$r_{S}={\frac {{\frac {1}{6}}(n^{3}-n)-\left(\sum \limits _{i=1}^{n}d_{i}^{2}\right)-T_{X}-T_{Y}}{\sqrt {\left({\frac {1}{6}}(n^{3}-n)-2T_{X}\right)\left({\frac {1}{6}}(n^{3}-n)-2T_{Y}\right)}}},$

(2b)

gdzie:

$d_{i}={\mbox{R}}x_{i}-{\mbox{R}}y_{i},$

(3)

$T_{X}={\frac {1}{12}}\sum _{j}(t_{j}^{3}-t_{j}),$

(4)

$T_{Y}={\frac {1}{12}}\sum _{k}(u_{k}^{3}-u_{k}),$

(5)

$t_{j}$ jest liczbą obserwacji w próbie posiadających tę samą $j$-tą wartość rangi zmiennej $X,$

$u_{k}$ jest liczbą obserwacji w próbie posiadających tę samą $k$-tą wartość rangi zmiennej $Y,$

sumowanie przebiega po wszystkich wartościach rang – wystarczy zsumować rangi wiązane, bo dla pozostałych $t_{j}^{3}-t_{j}=1^{3}-1=0$ (analogicznie $u_{k}$); gdy w danej zmiennej nie ma rang wiązanych, $T_{X}$ lub $T_{Y}$ jest równe zeru.

Wersja dla tablicy dwudzielczej

Rozkład porządkowych zmiennych losowych w próbie można przedstawić w formie tablicy dwudzielczej (tablicy kontyngencji), w której kolumny odpowiadają uszeregowanym wartościom jednej zmiennej (oznaczonej przez $X$), wiersze uszeregowanym wartościom drugiej zmiennej (oznaczonej przez $Y$), a w komórkach tablicy znajdują się liczności $n_{ij}.$

Wzór (2) przyjmuje wtedy postać:

$r_{S}={\frac {\sum \limits _{i=1}^{m}\sum \limits _{j=1}^{k}(F_{i+}-{\tfrac {n}{2}})(F_{+j}-{\tfrac {n}{2}})n_{ij}}{\sqrt {\sum \limits _{i=1}^{m}(F_{i+}-{\tfrac {n}{2}})^{2}n_{i+}\cdot \sum \limits _{j=1}^{k}(F_{+j}-{\tfrac {n}{2}})^{2}n_{+j}}}},$

(2c)

gdzie:

$i,j$ to odpowiednio indeksy wierszy oraz kolumn,

$m,k$ to odpowiednio liczba wierszy oraz kolumn,

$F_{k+}=\left(\sum \limits _{i=1}^{k}n_{i+}\right)-{\tfrac {1}{2}}n_{k+},$

$F_{+k}=\left(\sum \limits _{j=1}^{k}n_{+j}\right)-{\tfrac {1}{2}}n_{+k},$

$n_{i+}$ to suma $i$-tego wiersza,

$n_{+j}$ to suma $j$-tej kolumny,

$n$ to suma całej tabeli.

Dziś estymator (2) jest standardowym wzorem używanym np. przez pakiety statystyczne SAS oraz SPSS, a także w uwzględniających rangi wiązane pracach naukowych z dziedziny statystyki. W podręcznikach statystyki oraz w pracach naukowych z innych dziedzin nadal jednak popularny jest podany dalej wzór (7), ze względu na stopień komplikacji wzorów (2a) lub (2b), utrudniający ręczne obliczenia, mimo że w obliczeniach wykonywanych na komputerze wzór (2) jest nawet prostszy w zastosowaniu.

Niekiedy estymator (2)/(2a)/(2b)/(2c) nazywany jest „skorygowaną korelacją rangową”.

Poprawka do wzoru na $r_{s}$ w przypadku rang wiązanych wynikająca z zastosowania wzorów (2)/(2a)/(2b)/(2c) jest obszernie dyskutowana w monografii Kendalla. Lehmann wykazuje asymptotyczną zbieżność do rozkładu normalnego, w przypadku, gdy liczba rang wiązanych jest ograniczona.

Wzór dla rang wiązanych powstałych przez agregację

Powtarzające się wartości zmiennych, a tym samym rangi wiązane, mogą powstawać na dwa sposoby w zależności od natury badanego zjawiska:

1. jako odzwierciedlenie prawdziwych powtarzających się wartości w populacji – przykładem może być zastosowanie korelacji rangowej do obliczania zależności dwóch zmiennych na skali porządkowej, takich jak wykształcenie: dwie osoby mogą mieć to samo wykształcenie, powstanie wówczas ranga wiązana;
2. jako efekt pogrupowania (agregacji) wartości zmiennych w kilka rozłącznych przedziałów, a następnie przypisania jednej wartości (centroid) do każdej z nich – taka sytuacja ma miejsce np. gdy opracowywane są wyniki ankiet, w których badanych poproszono o przedziałowe określenie jakiejś wielkości, takiej jak dochód. Rangi wiązane powstają wówczas w sposób sztuczny.

Podczas agregacji tracona jest informacja o zróżnicowaniu obserwacji wewnątrz każdego przedziału, co sprawia, że zmienne, które przed agregacją nie miały identycznych rang, po agregacji mogą już mieć taki sam porządek. Agregacja jest zwykle zabiegiem wymuszonym warunkami badania, którego wpływ na wyniki powinien być jak najmniejszy. Przydatny byłby więc estymator, szacujący korelację rangową zmiennych przed agregacją na podstawie danych po agregacji. Taki estymator osiągałby wartości $\pm 1$ tylko przy próbie bez rang wiązanych.

Kendall proponuje aby w przypadku rang wiązanych powstałych sztucznie stosować w mianowniku wariancje takie, jak gdyby rang wiązanych nie było (gdyż tak jest w hipotetycznej nieskończonej populacji, dla której korelacja rangowa jest estymowana). Uzyskany w ten sposób estymator jest wartością oczekiwaną współczynnika korelacji rang obliczonego dla tych samych zmiennych przed agregacją (przy założeniu, że każda kombinacja rang prowadząca po agregacji do obserwowanej próby jest jednakowo prawdopodobna).

Postać ogólna

W ogólnym przypadku, po uwzględnieniu rang wiązanych, wariancja rang wynosi:

$\operatorname {var} ({\mbox{R}}X)={\frac {n(n+1)}{12}}-{\frac {T_{X}}{n-1}},$

gdzie współczynnik $T_{X}$ jest zdefiniowany tak jak wcześniej, wzorem (4).

W przypadku braku rang wiązanych, $T_{X}=T_{Y}=0,$ wariancje są zależne tylko od $n,$ w szczególności nie zależą od rozkładu zmiennych przed rangowaniem:

$\operatorname {var} ({\mbox{R}}X)=\operatorname {var} ({\mbox{R}}Y)={\frac {n(n+1)}{12}}.$

Niezależnie od tego, czy pojawiły się rangi wiązane, czy nie, średnia rang jest zależna jedynie od liczności próby:

${\mbox{E}}({\mbox{R}}X)={\mbox{E}}({\mbox{R}}Y)={\frac {n+1}{2}}.$

Podstawiając powyższe równania do wzoru (2a), uzyskuje się:

$r_{S}={\frac {3\sum \limits _{i=1}^{n}{\big (}(2{\mbox{R}}x_{i}-n-1)(2{\mbox{R}}y_{i}-n-1){\big )}}{n(n^{2}-1)}}={\frac {12}{n(n^{2}-1)}}\sum \limits _{i=1}^{n}{\mbox{R}}x_{i}{\mbox{R}}y_{i}-{\frac {3(n+1)}{n-1}}.$

(6)

Wersja oparta na różnicy rang

Ten estymator można zapisać w równoważnej postaci jako:

$r_{S}=1-{\frac {6\left(\sum \limits _{i=1}^{n}d_{i}^{2}+T_{X}+T_{Y}\right)}{n^{3}-n}},$

(6a)

gdzie $d_{i},T_{X},T_{Y}$ są zdefiniowane, jak wyżej, wzorami (3), (4), (5).

Wersja dla tablicy dwudzielczej

Dla tablic dwudzielczych estymator (6) przyjmuje postać

$r_{S}=3\sum \limits _{i=1}^{m}\sum \limits _{j=1}^{k}(U_{i-1}+U_{i}-1)(V_{j-1}+V_{j}-1){\frac {n_{ij}}{n}},$

(6b)

gdzie:

$U_{i}={\frac {n_{1+}+\ldots +n_{i+}}{n}},$

$V_{j}={\frac {n_{+1}+\ldots +n_{+j}}{n}},$

$n_{i+}$ to suma $i$-tego wiersza,

$n_{+j}$ to suma $j$-tej kolumny,

$n$ to suma całej tabeli.

Istnieje jeszcze inny estymator dla tablic dwudzielczych, zaproponowany przez Stuarta.

Wzór nieuwzględniający rang wiązanych

Często stosowanym estymatorem jest:

$r_{S}=1-{\frac {6\sum \limits _{i=1}^{n}d_{i}^{2}}{n(n^{2}-1)}},$

(7)

gdzie (tak jak wcześniej)

$d_{i}={\mbox{R}}x_{i}-{\mbox{R}}y_{i}$

to różnica między rangami zmiennych $X$ i $Y$ dla obserwacji $i.$

W przypadku gdy nie ma rang wiązanych (połączonych), czyli wartości nie powtarzają się w obrębie próby dla żadnej ze zmiennych z osobna, wzór (7) daje te same wyniki, co każdy z podanych wcześniej estymatorów (2) i (6). Jeśli choć jedna ranga jest wiązana, każdy z nich daje inny wynik.

Wzór (7) jest używany ze względu na prostotę obliczeń istotną dla kalkulacji wykonywanych bez pomocy komputera i do dziś jest popularny w podręcznikach. Estymator ten ma jednak nieoczekiwane własności w przypadku wystąpienia rang wiązanych, np.

• nie jest wówczas prawdą, iż $r_{S}(X,-Y)=-r_{S}(X,Y),$
• nie jest wtedy zgodny z pierwotną definicją korelacji rang Spearmana jako zwykłego współczynnika korelacji liczonego dla rang,
• dla zmiennych dyskretnych, minimalną wartością jego granicy, przy rozmiarze próby dążącym do nieskończoności, jest

${\frac {2}{(\min(m_{X},m_{Y}))^{2}}}-1,$

(8)

gdzie:

$m_{X}$ to liczba różnych wartości przyjmowanych przez zmienną $X$

$m_{Y}$ to liczba różnych wartości zmiennej $Y.$

• Wynika stąd, że estymator ten jest dla zmiennych dyskretnych niezgodny i asymptotycznie obciążony, w odróżnieniu od estymatora (2).

Część autorów uważa, że można ten estymator stosować tylko przy braku rang wiązanych, w przeciwnym wypadku jego stosowanie jest błędem. Inni autorzy stosują go także wówczas. Niektórzy uważają, że wzór można stosować, jeśli rang wiązanych jest nie więcej niż jedna czwarta ogółu i nie występują rangi wiązane z więcej niż dwóch obserwacji. Pakiety statystyczne SAS oraz SPSS używają podanego wcześniej bardziej ogólnego wzoru (2).

Niekiedy wzór (7) nazywany jest „nieskorygowaną korelacją rangową” w odróżnieniu od „skorygowanej korelacji rangowej” (2). Jest to związane z postacią wzoru (2b), który przypomina wzór (7) z dodaną „korektą na rangi wiązane”.

Własności

• Współczynnik jest unormowany:

$-1\leqslant r_{S}(X,Y)\leqslant +1;$

• Im bardziej wartości oddalone są od zera, tym większa siła związku między zmiennymi;
• Gdy każda zmienna jest ściśle rosnącą funkcją drugiej (np. $x_{i}=y_{i}^{3}$), występuje idealna zgodność rang i ich korelacja przyjmuje wartość +1;
  • W szczególności wartość ta jest przyjmowana, gdy zmienna jest korelowana sama ze sobą:

$r_{S}(X,X)=+1;$

• Gdy każda zmienna jest ściśle malejącą funkcją drugiej zmiennej, występuje maksymalna niezgodność rang i ich korelacja przyjmuje wartość –1;
  • W szczególności wartość ta jest przyjmowana, gdy zmienna $X$ korelowana jest z $-X{:}$

$r_{S}(X,-X)=-1;$

(9)

• Dla niezależnych zmiennych losowych wartością oczekiwaną estymatorów jest 0, a rozkład każdego z nich nie zależy od rozkładu zmiennych przed rangowaniem;
• Zachodzi symetria ze względu na zamianę zmiennych:

$r_{S}(X,Y)=r_{S}(Y,X);$

• Zachodzi symetria ze względu na zmianę znaku zmiennej:

$r_{S}(X,Y)=-r_{S}(X,-Y)=-r_{S}(-X,Y).$

(10)

W przypadku wystąpienia rang wiązanych część z tych własności nie jest spełniona dla niektórych estymatorów. Dla estymatora (7) nie są prawdziwe własności (9) i (10), a estymator (6)/(6a)/(6b) nie osiąga wartości $\pm 1.$

Matematyczne własności rho Spearmana mają związek z tożsamością Czebyszewa oraz twierdzeniem o ciągach jednomonotonicznych.

Przykład

numery obserwacji $i$	1	2	3	4	5
wartości $x_{i}$	1,1	1,57	0,51	1,1	1,1
wartości $y_{i}$	1,2	1	2,3	1	18
rangi ${\mbox{R}}x_{i}$	3	5	1	3	3
rangi ${\mbox{R}}y_{i}$	3	1,5	4	1,5	5
kwadraty różnic rang $d_{i}^{2}$	0	12,25	9	2,25	4

We wzorach (7), (2b) i (6a) wykonywane są pośrednie obliczenia:

$\sum \limits _{i=1}^{n}d_{i}^{2}=(3-3)^{2}+(5-1{,}5)^{2}+(1-4)^{2}+(3-1{,}5)^{2}+(3-5)^{2}=27{,}5.$

W (2b) i (6a) także:

$T_{X}={\frac {1}{12}}(3^{3}-3)=2$

(jest jedna ranga wiązana, mają ją trzy obserwacje),

$T_{Y}={\frac {1}{12}}(2^{3}-2)=0{,}5$

(jest jedna ranga wiązana, mają ją dwie obserwacje).

Po podstawieniu do wzorów otrzymuje się:

estymator	wynik
(2), (2a), (2b), (2c)	$r_{S}\approx -0{,}5735$
(6), (6a), (6b)	$r_{S}=-0{,}5$
(7)	$r_{S}=-0{,}375$

Testowanie istotności statystycznej

Aby przetestować istotność statystyczną korelacji rangowej, wykorzystuje się fakt, iż przy założeniu hipotezy zerowej o niezależności zmiennych losowych $X$ i $Y$ oraz niezależności od siebie par $(x_{i},y_{i})$ rozkład statystyki

$t=r_{S}{\sqrt {\frac {n-2}{1-r_{S}^{2}}}}$

korelacji rangowej dąży wraz ze wzrostem liczebności próby do rozkładu Studenta o $n-2$ stopniach swobody, gdzie $n$ jest licznością próby. Po obliczeniu tej statystyki korzysta się z tablic rozkładu Studenta lub komputera w celu obliczenia poziomu istotności $\alpha .$

Rozkład ten jest wyprowadzany przy założeniu braku rang wiązanych, jednak Kendall twierdzi, że w przypadku istnienia rang wiązanych poprawka do testu nie jest konieczna.

Inni autorzy z kolei zalecają stosowanie poprawki na ciągłość (przez dodanie lub odjęcie ${\tfrac {6}{n^{3}-n}}$).

Dla liczebności próby dążącej do nieskończoności, rozkład rho Spearmana dąży do rozkładu normalnego o wartości oczekiwanej równej prawdziwej wartości $\rho _{S}$ w populacji i wariancji ${\tfrac {1}{n-1}},$ stąd używana jest też inna statystyka:

$z=r_{S}{\sqrt {n-1}},$

której rozkład przy założeniu hipotezy zerowej dąży wraz ze wzrostem liczności próby do standardowego rozkładu normalnego ${\mbox{N}}(0,1).$

Część autorów sugeruje znowu stosowanie poprawki na ciągłość, która jednak nie daje znaczącego wzrostu dokładności przybliżenia.

Rozkład rho Spearmana dla 5-elementowej próby z dwóch niezależnych zmiennych losowych

Postulowano również stosowanie średniej arytmetycznej statystyki opartej na rozkładzie $t$ i normalnym.

Dla małych prób wszystkie te wzory są niedokładne (statystyka oparta na rozkładzie $t$ jest zazwyczaj nieco lepsza niż statystyka $z$), ale można sprawdzić komputerowo wszystkie permutacje rang lub skorzystać z tablic. Często stosuje się przy tym inną statystykę (nazywaną czasem Hotellinga-Pabst): $\sum _{i=1}^{n}d_{i}^{2}.$ Należy przy tym zauważyć, że między tymi statystykami zachodzi związek liniowy, a więc ich stosowanie prowadzi do identycznych wyników. Dokładne tablice rozkładu dla wielkości populacji do 25 można znaleźć w pracy.

Hipotezą alternatywną może być albo:

$H_{1}\colon \rho _{S}\neq 0$

(co prowadzi do dwustronnego obszaru krytycznego) albo

$H_{1}\colon \rho _{S}>0$ lub $H_{1}\colon \rho _{S}<0$

(co prowadzi do jednostronnego obszaru krytycznego).

Dla omawianego powyżej przykładu, dwustronnego obszaru krytycznego i wyliczeń według trzech estymatorów otrzymuje się następujące wartości:

estymator	$r_{S}$	$t$	$z$	$\alpha$ (przybliżenie rozkładem Studenta)	$\alpha$ (przybliżenie rozkładem normalnym)	$\alpha$ (wartość dokładna)
(2), (2a), (2b), (2c)	$-0{,}5735$	$-1{,}2127$	$-1{,}2824$	$0{,}312$	$0{,}0998$	$0{,}35$
(6), (6a), (6b)	$-0{,}5$	$-1{,}0000$	$-1{,}118$	$0{,}391$	$0{,}1318$	$0{,}45$
(7)	$-0{,}375$	$-0{,}7006$	$-0{,}8385$	$0{,}534$	$0{,}2009$	$0{,}5167$

W tabeli podano wartość $\alpha$ wyliczoną za pomocą przybliżenia rozkładem Studenta, z rozkładu normalnego i wreszcie dokładnie – z tablic. Dla tak małej próby przybliżenie rozkładem Studenta daje różnice rzędu 0,05, co może mieć znaczenie przy określaniu istotności statystycznej. Przybliżenie rozkładem normalnym jest w tym wypadku mniej dokładne. Dla małych prób konieczne jest więc stosowanie tablic lub symulacji komputerowych. Przy liczebności próby dążącej do nieskończoności różnica zmniejsza się i coraz bardziej uzasadnione jest stosowanie rozkładu Studenta, ewentualnie rozkładu normalnego, co jednak z reguły da nieco większy od Studenta błąd wyznaczania istotności.

Znacznie dokładniejsze wyniki przynosi stosowanie przybliżenia opartego na krzywych Pearsona II typu, metodzie opisanej przez Oldsa. Najdokładniejsze wyniki przynosi przybliżenie oparte na skorygowanym przy pomocy szeregu Edgewortha rozkładzie normalnym Implementację tego przybliżenia jako funkcję w programie Mathematica można znaleźć w pracy. Tam też dokonano porównania różnych metod aproksymacji statystyki Spearmana.

Istnieją też stabelaryzowane rozkłady korelacji rangowej dla innych założeń, np. $\rho =0{,}4.$ Odpowiednie tabele podaje praca Fritza i Henze’a.

Związki z innymi współczynnikami i metodami statystycznymi

Współczynnik korelacji Pearsona

Współczynniki te określają innego rodzaju zależność między zmiennymi (Pearson – zależność liniową, Spearman – dowolną monotoniczną), czasem jednak korelacja rang jest używana jako odporna wersja klasycznego współczynnika korelacji Pearsona. W takiej roli widział ją zresztą sam Spearman.

Jest to uzasadnione w przypadku zakładanej liniowej zależności między zmiennymi w warunkach zanieczyszczenia próby obserwacjami odstającymi. Korelacja rangowa jest bowiem znacznie bardziej odporna na obserwacje odstające, które potrafią skrajnie zaburzyć wynik zwykłego współczynnika korelacji Pearsona. Wartości tych dwóch współczynników nie są jednak wtedy równe – korelacja rangowa daje na ogół (nie zawsze) wyniki nieco bliższe zeru.

W szczególności dla dwuwymiarowego rozkładu normalnego zachodzi:

$\rho _{S}={\tfrac {6\arcsin(\rho /2)}{\pi }},$

$\rho =2\sin {\tfrac {\pi \rho _{S}}{6}},$

gdzie:

$\rho _{S}$ – współczynnik korelacji Spearmana pomiędzy zmiennymi (wzór (1)),

$\rho$ – współczynnik korelacji Pearsona pomiędzy zmiennymi.

Zależność ta jest ścisła przy braku rang wiązanych i nieskończonej populacji. Dla skończonej próby zależność między estymatorami Spearmana $r_{S}$ i Pearsona $r$ różni się od tego wyidealizowanego przypadku. Wartość oczekiwana wynosi wtedy dla każdego z podanych estymatorów:

${\mbox{E}}(r_{S})={\tfrac {6}{\pi }}\left({\tfrac {n-1}{n+1}}\arcsin {\tfrac {1}{2}}\rho +{\tfrac {1}{n+1}}\arcsin \rho \right).$

Współczynnik korelacji rang Spearmana jest więc estymatorem obciążonym (także asymptotycznie) i niezgodnym współczynnika korelacji Pearsona. (Naturalnie na tej samej zasadzie współczynnik korelacji Pearsona będzie obciążonym, niezgodnym i nieefektywnym estymatorem korelacji rangowej Spearmana).

Rho Spearmana jest też przy założeniu rozkładu dwuwymiarowego normalnego mniej efektywne niż współczynnik korelacji Pearsona liczony klasycznym wzorem, bez rangowania. Dla dwuwymiarowego rozkładu normalnego błąd standardowy korelacji Pearsona liczonej za pomocą wzoru:

$r=2\sin {\tfrac {\pi r_{S}(X,Y)}{6}},$

(11)

(gdzie $r_{S}$ to dowolny z estymatorów rho Spearmana), jest ok. 1,88 raza większy od błędu korelacji liczonej za pomocą klasycznego wzoru bez rangowania:

$r={\tfrac {\operatorname {cov} (X,Y)}{\sqrt {\operatorname {var} X\operatorname {var} Y}}}$

Jednak, gdy obserwacje nie spełniają założenia o normalności rozkładu, szczególnie gdy pojawiają się obserwacje odstające, wzór (11) często daje lepsze oszacowanie korelacji liniowej. Jeszcze dokładniejszy jest współczynnik tau Kendalla.

Współczynnik korelacji Pearsona nie zakłada żadnej postaci rozkładu porównywanych zmiennych, jednak wzory na jego istotność statystyczną zakładają już dwuwymiarowy rozkład normalny. W wielu przypadkach warunek ten nie jest spełniony i nie da się łatwo sprawdzić, czy wyniki korelacji Pearsona są przejawem rzeczywistej zależności. Istotność współczynnika korelacji rangowej daje się zawsze określić, gdyż rozkład rang nie zależy od rozkładu porównywanych zmiennych, o ile nie ma rang wiązanych, a nawet wtedy testy istotności nie są znacząco zaburzone.

Inne miary korelacji rangowej

Korelacja rangowa to szersze pojęcie niż korelacja rang Spearmana. Korelacja to ogólnie w statystyce zależność zmiennych losowych. Miary tej zależności wyliczane na bazie rang zwane są miarami korelacji rangowej.

Wymienione poniżej miary nie są jednak uznawane za estymatory korelacji rang Spearmana – są odrębnymi współczynnikami o odrębnej interpretacji. Istnieją też inne, nie wymienione tutaj, współczynniki korelacji rangowej.

Miara Spearmana

Miara Spearmana (ang. Spearman’s footrule) to współczynnik zaproponowany w tej samej pracy, co rho Spearmana, liczony podobnie jak we wzorze (7), jednak z wartością bezwzględną w miejsce kwadratu i z wynikającą z tego inną normalizacją:

$R=1-{\frac {3\sum \limits _{i=1}^{n}|d_{i}|}{n^{2}-1}}$

Jak pokazał Pearson, współczynnik ten nie ma dobrych własności statystycznych, w szczególności choć osiąga +1, nie osiąga nigdy wartości -1, z wyjątkiem przypadku $n=2$.

Tau Kendalla

Inną miarą korelacji rangowej dwóch zmiennych jest tzw. tau Kendalla. Między tymi wartościami zachodzą nierówności:

${\tfrac {3}{2}}\tau -{\tfrac {1}{2}}\leqslant r_{S}\leqslant {\tfrac {1}{2}}+\tau -{\tfrac {1}{2}}\tau ^{2}\ {\text{ dla }}\ \tau \geqslant 0,$

${\tfrac {1}{2}}\tau ^{2}+\tau -{\tfrac {1}{2}}\leqslant r_{S}\leqslant {\tfrac {3}{2}}\tau +{\tfrac {1}{2}}\ {\text{ dla }}\ \tau \leqslant 0.$

Podawane jest też grubsze oszacowanie:

$-1\leqslant 3\tau -2r_{S}\leqslant 1.$

Można też pokazać, że jeśli przedstawić łączny rozkład dwuwymiarowy zmiennych $X$ i $Y$ w postaci unormowanej do jedności macierzy prawdopodobieństwa $m\times k$ o elementach $[p_{ij}],$ wówczas obydwie te wielkości dają się przedstawić za pomocą średnich ważonych z minorów stopnia drugiego . W tym ujęciu rho Spearmana jest ważonym współczynnikiem tau Kendalla.

$r_{S}=\sum _{i=1}^{m-1}\sum _{q=i+1}^{m}\sum _{j=1}^{k-1}\sum _{r=j+1}^{k}w_{ijqr}{\begin{vmatrix}p_{ij}&p_{ir}\\p_{qj}&p_{qr}\end{vmatrix}},$

$\tau =\sum _{i=1}^{m-1}\sum _{q=i+1}^{m}\sum _{j=1}^{k-1}\sum _{r=j+1}^{k}2{\begin{vmatrix}p_{ij}&p_{ir}\\p_{qj}&p_{qr}\end{vmatrix}},$

gdzie:

$w_{ijqr}=12\left({\mbox{Sc}}_{row}(q)-{\mbox{Sc}}_{row}(i)\right)\left({\mbox{Sc}}_{col}(r)-{\mbox{Sc}}_{col}(j)\right),$

${\mbox{Sc}}_{row}(i)=\left(\sum _{a=1}^{i-1}\sum _{b=1}^{k}p_{ab}\right)+{\frac {1}{2}}\sum _{b=1}^{k}p_{ib},$

${\mbox{Sc}}_{col}(j)=\left(\sum _{a=1}^{m}\sum _{b=1}^{j-1}p_{ab}\right)+{\frac {1}{2}}\sum _{a=1}^{m}p_{aj}.$

Kendall i Stuart pokazali, że dla niezależnych zmiennych korelacja między tau i rho wynosi co najmniej 0,98 i dąży do 1 dla $n\to \infty .$ (Wspólny rozkład tau Kendalla i rho Spearmana w swojej monografii podaje Kendall.) Nie oznacza to jednak, że ich wyniki są proporcjonalne dla zmiennych zależnych, a dla takich właśnie na ogół liczy się korelację.

Uogólnienia rho Spearmana

Chi kwadrat Friedmana

Rho Spearmana jest znormalizowaną i przeskalowaną do przedziału $[-1,1]$ miarą chi kwadrat Friedmana dla dwóch zmiennych. Jeśli wartość chi kwadrat Friedmana wynosi $X,$ to

$r_{S}={\frac {X}{n-1}}-1.$

L Page’a

Kolejnym uogólnieniem rho Spearmana na przypadek wielu zmiennych jest test L Page'a. Korelację rangową można stosować jako metodę sprawdzania, czy zmienna $X$ ma ten sam porządek rang co zmienna $Y.$ Test L Page’a podaje z jakim prawdopodobieństwem ciąg zmiennych $X_{1},X_{2},\dots ,X_{k}$ ma pewne zadane ustawienie. Jego wynik można też podać w formie współczynnika z zakresu $[-1,1],$ który dla $k=1$ sprowadza się do korelacji rang Spearmana.

Analiza odpowiedniości oparta na rho Spearmana

Klasyczna analiza odpowiedniości (inna nazwa: analiza korespondencji) jest metodą statystyczną, która wszystkim możliwym wartościom dwóch zmiennych nominalnych przyporządkowuje takie liczby (tzw. skory), aby przy pewnych założeniach maksymalizować współczynnik korelacji Pearsona między tymi zmiennymi.

Istnieje odpowiednik klasycznej analizy odpowiedniości, zwany gradacyjną analizą odpowiedniości (ang. Grade Correspondence Analysis; GCA), który maksymalizuje rho Spearmana lub tau Kendalla.

Krytyka

Te same własności rho Spearmana, które zwolennicy metod rangowych uważają za zalety, przeciwnicy mają za wady. Sam Spearman, który traktował swój współczynnik wyłącznie jako odporne na obserwacje odstające przybliżenie korelacji Pearsona, uważał za wadę fakt, że mierzy ona także zależność nieliniową.

Twórca klasycznego współczynnika korelacji, Karl Pearson, krytykował niezależność od rozkładu korelacji rang:

Żadne dwie korelacje rangowe nie są w najmniejszym stopniu rzetelne czy porównywalne, dopóki nie założymy, że rozkłady są tego samego typu (…) wynikającego z hipotezy rozkładu normalnego (…) Dr Spearman zasugerował, że szeregi rang powinny być typem korelowanym, lecz nie uznał tej korelacji rangowej za odskocznię (…) umożliwiającą osiągnięcie prawdziwej korelacji.

Prof. Karl Pearson, Further Methods in Correlation

Przy okazji tej krytyki pierwszy raz w historii użyto określenia „korelacja rangowa”.

Historia

Pomysł korelowania rang był już znany przed Spearmanem i pochodził od Bineta i Henriego. Redakcja czasopisma Biometrika w przypisie pracy Studenta zaznaczyła, że „ich wywód był bardzo niejasny i chyba nie zauważyli, że korelacja zmiennych różni się od korelacji rang”.

Współczynnik został solidnie opisany, zbadany i rozpropagowany dopiero w 1904 przez angielskiego psychologa Charlesa Spearmana. Praca Spearmana była opisem różnych metod korelacji dla psychologów, m.in. korelacji Pearsona dla rang (choć Spearman nie zapisał swojej metody w postaci wzoru). Autor zauważył też, że w wielu badaniach nie da się zastosować klasycznego współczynnika korelacji Pearsona lub daje on nieistotne albo fałszywie istotne wyniki ze względu na nadmiar obserwacji odstających, natomiast problemy te znikają po rangowaniu. Nadal traktował jednak korelację rang jedynie jako poszerzenie możliwości współczynnika korelacji Pearsona, choć znał różnice między nimi.

Koncepcja rang wiązanych nie była jeszcze znana w początkach XX wieku – została ona wprowadzona później przez Pearsona. Wówczas znany był już wzór (7), wyprowadzony naturalnie przy założeniu braku rang wiązanych. Student (William Sealy Gosset) w pracy z 1921 zauważył, że wzór (7) nie zgadza się z definicją Spearmana w przypadku rang wiązanych (sprowadzającą się wówczas do wzoru (2)) i podał wzór (2b), wyprowadził też wzór na wariancję korelacji rangowej.

W 1948 Maurice Kendall napisał monografię Rank Correlation Methods, w której szczegółowo zbadał własności rho Spearmana i związki z własnym współczynnikiem tau Kendalla.

Nacisk Spearmana na budowę stabilnych metod statystycznych, niezależnych od konkretnych parametrów rozkładu, został uogólniony w filozofii nauki do tzw. zasady Spearmana (ang. Spearman’s Principle):

Załóżmy, że wybieramy między dwoma modelami, z których obydwa pasują do posiadanych danych. Załóżmy, że dane te doprowadziły nas do przypuszczenia, że pewne odpowiedzialne za nie zjawiska podporządkowują się pewnym zależnościom. Załóżmy, że obydwa rywalizujące ze sobą modele odzwierciedlają te zależności. Zasada Spearmana mówi, że jeżeli pierwszy z modeli generuje te zależności bez względu na wartości przyporządkowywane do jego „wolnych parametrów”, a drugi tylko dla konkretnych wartości swoich wolnych parametrów, przy czym nie ma innych przesłanek wyboru, to powinniśmy przedkładać pierwszy model nad drugi.

Marc Lange, Spearman’s Principle

Podejście to dało początek całej nowej dziedzinie statystyki, zwanej statystyką odpornościową (ang. robust statistics), zajmującej się budową metod statystycznych odpornych na obserwacje odstające.

Oznaczenia

W literaturze spotyka się różne oznaczenia korelacji rang Spearmana:

$\rho$

• Kendall (wzór (7))
• Yule, Kendall (także wzór (2b))

$\rho _{a}$

• Kendall (wzory (6),(6a))

$\rho _{b}$

• Kendall (wzory (2),(2b))
• Agresti (wzór (2c))

$r_{S}$

• Koronacki, Mielniczuk
• Jokiel, Kostrubiec
• Norcliffe
• Jóźwiak, Podgórski dla korelacji z próby
• Krysicki et al.

$\rho _{g}$

• Kendall dla korelacji między zmiennymi losowymi

$\rho _{S}$

• Jóźwiak, Podgórski dla korelacji między zmiennymi losowymi

$\rho ^{*}$

• Kowalczyk, Pleszczyńska, Ruland

$R_{xy}$

• Maksimowicz-Ajchel
• Hammerl, Sambor

$R_{rr}$

• Piechota

$r'$

• Mathworld

Zobacz też

• metody rangowe
• przegląd zagadnień z zakresu statystyki
• współczynnik korelacji Pearsona

Bibliografia

• Janina Jóźwiak, Jarosław Podgórski: Statystyka od podstaw. Wyd. VI zmienione. Warszawa: Polskie Wydawnictwo Ekonomiczne, 2006. ISBN 83-208-1615-7.
• Maurice G. Kendall: Rank Correlation Methods. Londyn: Charles Griffin & Company Limited, 1948.
• Jacek Koronacki, Jan Mielniczuk: Statystyka dla studentów kierunków technicznych i przyrodniczych. Warszawa: WNT, 2006. ISBN 83-204-3242-1.
• Teresa Kowalczyk: Link between grade measures of dependence and of separability of pairs of conditional distributions. Statistics and Probability Letters 46, 2000, s. 371–379.
• Teresa Kowalczyk, Elżbieta Pleszczyńska, Fred Ruland: Grade Models and Methods for Data Analysis with Applications for the Analysis of Data Populations. Berlin Heidelberg New York: Springer Verlag, 2004, seria: Studies in Fuzziness and Soft Computing vol. 151. ISBN 978-3-540-21120-4.
• W.W. Krysicki W.W. i inni, Rachunek prawdopodobieństwa i statystyka matematyczna w zadaniach, część 2. Statystyka matematyczna, Warszawa: PWN, 2006, s. 230–231, ISBN 83-01-14292-8 .
• E.L. Lehmann: Nonparametrics:Statistical methods based on ranks. San Francisco: 1975. Brak numerów stron w książce
• Charles Spearman. The proof and measurement of association between two things. „Americal Journal of Psychology”. 15 (1904). s. 72–101. 
• Student. An Experimental Determination of the Probable Error of Dr Spearman’s Correlation Coefficients. „Biometrika”. Vol. 13, No. 2/3 (Jul., 1921). s. 263–282. 
• George Udny Yule, Maurice G. Kendall: Wstęp do teorii statystyki. PWN, 1966.

Linki zewnętrzne

• Spearman Rank Correlation – Free Statistics Software (Calculator). [dostęp 2008-07-15]. (ang.). – internetowy kalkulator obliczający korelację rangową według wzorów (7) i (2).
• Barcelona Field Studies Centre S.L: Spearman’s Rank Correlation Coefficient. [dostęp 2008-07-15]. (ang.). – ciekawy przykład zastosowania korelacji rangowej do badania zależności cen w Barcelonie od położenia sklepu w mieście