Współczynnik determinacji

Współczynnik determinacji R² – jedna z historycznych miar jakości dopasowania modelu do danych uczących. Jego dopełnieniem jest współczynnik zbieżności, $\varphi ^{2}=1-R^{2}$. Występuje obecnie w wielu wariantach stosujących różnorodne poprawki. Jego pierwotne opracowanie przypisuje się m.in. publikacji Sewalla Wrighta z 1921, która opiera się z kolei m.in. na artykule K. Pearsona z 1897.

Współczynnik determinacji nie jest uznawany współcześnie za dobrą miarę dopasowania, i wykorzystuje się go głównie w celach pomocniczych. Lepszymi narzędziami do tego celu są np. kryteria informacyjne AIC, BIC, czy sprawdzian krzyżowy. Już Wright nie przedstawiał R² jako wyczerpującej miary dopasowania modelu do badanego zjawiska, szczególnie nie w sensie wyjaśnienia przyczynowego. Współczynnik determinacji opisuje jedynie oszacowaną na podstawie próby macierz wielokrotnej korelacji obecnych w modelu zmiennych, przy założeniu prawdziwości modelu. Ignoruje dopasowanie modelu do danych spoza próby, oraz problem zmiennych ubocznych. Maksymalizacja tej miary prowadzi do nadmiernego dopasowania modelu do danych uczących. Schmueli uznaje w tym kontekście tradycję opisywania korelacji zmiennych jako ich wzajemnego „wyjaśniania” – co może sugerować wyjaśnienie przyczynowe – za szczególnie zwodniczą.

Współczynnik determinacji

Informuje o tym, jaka część zmienności (wariancji) zmiennej objaśnianej w próbie pokrywa się z korelacjami ze zmiennymi zawartymi w modelu. Jest on więc miarą stopnia, w jakim model pasuje do próby. Współczynnik determinacji przyjmuje wartości z przedziału [0;1] jeśli w modelu występuje wyraz wolny, a do estymacji parametrów wykorzystano metodę najmniejszych kwadratów. Jego wartości najczęściej są wyrażane w procentach. Dopasowanie modelu jest tym lepsze, im wartość R² jest bliższa jedności. Wyraża się on wzorem:

$R^{2}={\frac {\sum \limits _{t=1}^{n}({\hat {y}}_{t}-{\overline {y}})^{2}}{\sum \limits _{t=1}^{n}(y_{t}-{\overline {y}})^{2}}},$

gdzie:

$y_{t}$ – rzeczywista wartość zmiennej Y w momencie t,

${\hat {y}}_{t}$ – wartość teoretyczna zmiennej objaśnianej (na podstawie modelu),

${\overline {y}}$ – średnia arytmetyczna empirycznych wartości zmiennej objaśnianej.

Współczynnik zbieżności

Współczynnik zbieżności $\varphi ^{2}$ określa, jaka część zaobserwowanej w próbie zmienności zmiennej objaśnianej nie pasuje do modelu (mieści się w jego błędzie). Współczynnik zbieżności przyjmuje wartości z przedziału [0;1]; wartości te najczęściej są wyrażane w procentach. Dopasowanie modelu jest tym lepsze, im wartość $\varphi ^{2}$ jest bliższa zeru. Wyraża się on wzorem:

$\varphi ^{2}=1-R^{2},$

lub też

$\varphi ^{2}={\frac {\sum \limits _{t=1}^{n}(y_{t}-{\hat {y}}_{t})^{2}}{\sum \limits _{t=1}^{n}(y_{t}-{\overline {y}})^{2}}}$

gdzie ${\hat {y}}_{t},$ $y_{t}$ oraz ${\overline {y}}$ są określone jak w części poprzedniej.