Poprawna specyfikacja modelu
Ekonometria
Weryfikacja liniowego modelu jednorównaniowego
Jakub Mućk
Katedra Ekonomii Ilościowej
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 1 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Agenda
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2 Mierniki dopasowania modelu
Współczynnik R
2Kryteria informacyjne
3 Test istotności zmiennych
Błąd I rodzaju
Test t-Studenta Test Walda
4 Współliniowość
5 Poprawna specyfikacja modelu
Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 2 / 28
Poprawna specyfikacja modelu
Agenda
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3 Test istotności zmiennych
Błąd I rodzaju
Test t-Studenta Test Walda
4 Współliniowość
5 Poprawna specyfikacja modelu
Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 2 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Agenda
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4 Współliniowość
5 Poprawna specyfikacja modelu
Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 2 / 28
Poprawna specyfikacja modelu
Agenda
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4
Współliniowość
5 Poprawna specyfikacja modelu
Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 2 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Agenda
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4
Współliniowość
5
Poprawna specyfikacja modelu Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 2 / 28
Poprawna specyfikacja modelu
Outline
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4
Współliniowość
5
Poprawna specyfikacja modelu Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 3 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
Oznaczenia
Zapis ogólny:
y = β
0+ β
1x
1+ β
2x
2+ . . . + β
kx
k+ (1) Zapis macierzowy
y = Xβ + ε (2)
gdzie
y =
y
1y
2. . . y
n
X =
1 x
1,1x
1,2. . . x
1,k1 x
2,1x
2,2. . . x
2,k. .
. . . . . . . . . . . . . 1 x
n,1x
n,2. . . x
n,k
β =
β
0β
1. . . β
k
ε =
ε
1ε
2. . . ε
n
k – liczba zmiennych objaśniających; n – liczba obserwacji.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 4 / 28
Poprawna specyfikacja modelu
Estymator MNK
Załóżmy, że badane zjawisko można opisać modelem postaci [lub prawdziwy proces generujący zmienną y jest następujący]:
y = β0+ β1x1+ β2x2+ ... + βkxk+ ε (3) Nieznane parametry można uzyskać przy pomocyMetody Najmniejszych Kwa- dratów (OLS – ordinary least squares). Idea tej metody polega na znalezieniu takich wartości nieznanego wektora parametrów β, który minimalizują sumę kwa- dratów reszt, czyli różnic pomiędzy wartościami obserwowanymi a teoretycznymi:
β = arg minˆ
β eTe (4)
gdzie e = y − ˆy = y − X ˆβ.
Ostatecznie estymator OLS (MNK) dla wektora β:
βˆOLS= (XTX)−1XTy (5)
Szczegóły
β a ˆβ
β oznaczanieznany i prawdziwy wektor parametrów, a ˆβ jestoszacowaniem punktowym wektora parametrów.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 5 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
Załóżmy:
1
rz(X) = k + 1 ≤ n
2
Zmienne x
isą nielosowe, a zatem są niezależne od składnika losowego
3
E() = 0
4
D
2(ε) = E(εε
T) = I σ
5
ε
i∼ N (0, σ
2)
Twierdzenie Gaussa - Markowa
Estymator ˆ β uzyskany Klasyczną Metodą Najmniejszych Kwadratów jest estymatorem
BLUE [best linear unbiased estimator], tj. zgodnym, nie-obciążonym i najefektywniejszy w klasie liniowych estymatorów wektora β.
nieobciążoność, czyli E( ˆ β) = β
najefektywniejszy, czyli posiadający najmniejszą wariancję w swojej kla- sie
zgodny, czyli lim
n→∞P(| ˆ β
n− β|) < δ
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 6 / 28
Poprawna specyfikacja modelu
Interpretacja
Załóżmy, że oszacowaliśmy parametry modelu ekonometrycznego:
ˆ
y = ˆ β
0+ ˆ β
1x
1+ ˆ β
2x
2+ . . . + ˆ β
kx
k(6) Interpretacja:
Wzrost x
io jednostkę powoduje wzrost y o β
i ceteris paribusjednostek.
Uwagi:
Należy pamiętać o zasadzie ceteris paribus.
Oszacowanie wyrazu wolnego zazwyczaj nie ma interpretacji ekonomicznej (dlaczego?).
Pułapka przyczynowości.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 7 / 28
Przykład
[Greene, 2003] Funkcja konsumpcji została oszacowana dla gospodarki amerykańskiej w latach 1970-1979. Wydatki konsumpcyjne (C ) są objaśniane dochodem do dyspozycji (Y ) [obie zmienne w mln USD w cenach bieżących]:
C = −67.58 + 0.979Y ˆ (7)
750 800 850 900 950 1000
700750800850900
Dochod
Konsumpcja
3.6636 1.3359
11.181
−11.291
−9.3407
−9.78 2.6814
8.5299 2.4815
0.53924
Obserwowane wartości,wartości teoretyczne,reszty.
Poprawna specyfikacja modelu
Estymacja błędów szacunku
W przypadku MNK, możemy wyznaczyć estymator macierzy wariancji-kowariancji dla parametrów ˆ β
OLS:
D ˆ
2( ˆ β
OLS) = S
2ε(X
TX)
−1(8) gdzie
S
2= ε
Tε
n − (k + 1) = SSE ( ˆ β
OLS)
df (9)
gdzie SSE ( ˆ β
OLS) to suma kwadratów reszt, a df to
liczba stopni swobody.Element diagonalne macierzy wariancji-kowariancji (oznaczmy jako ˆ d
ii), sta- nowią wariancję estymowanych parametrów. Zatem błąd szacunku dla i-tego parametru jest równy:
S( β ˆ
i) = √
d
ii(10)
Względny błąd szacunku
S( β ˆ
i) β ˆ
i(11)
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 9 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Współczynnik R2 Kryteria informacyjne
Outline
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4
Współliniowość
5
Poprawna specyfikacja modelu Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 10 / 28
Poprawna specyfikacja modelu
Współczynnik determinacji R
2Współczynnik determinacji R
2pozwola zmierzyć
jaką częścią zmien- ności (wariancji) zmiennej objaśnianejjest wyjaśniana zmiennością wartości teoretycznych wynikających z modelu.
R
2=
n
X
i=1
(ˆ y
i− ¯ y)
2n
X
i=1
(y
i− ¯ y)
2(12)
gdzie:
yi - empiryczna (obserwowana) wartość zmiennej y dla i-tej obserwacji, ˆ
yi - teoretyczna wartość zmiennej y dla i-tej obserwacji,
¯
y - średnia wartość zmiennej objaniającej.
Zazwyczaj R
2∈ (0, 1)
Konstrukcja współczynnika determinacji R
2posiada
dwa mankamenty:i) faworyzuje modele z większą liczbą zmiennych egzogenicznych
ii) jego konstrukcja opiera się o uwzględnienie wyrazu wolnego w modelu.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 11 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Współczynnik R2 Kryteria informacyjne
Niescentrowany współczynnik R
2NW przypadku, gdy w specyfikacji modelu ekonometrycznego nie uwzględ- niono wyrazu wolnego, współczynnik R
2może przyjmować wartości powyżej jedności.
Rozwiązaniem tego problemu jest niescentrowany R
2N: R
2N= 1 − ee
Tyy
T(13)
e - wektor reszt.
y - wektor obserwacji zmiennej endogenicznej.
R
2N∈< 0, 1 >
Interpretacja: większa wartość R
2Noznacza większa rola zmiennych egzoge- nicznych w wyjaśnianiu zmienności zmiennej objaśnianej.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 12 / 28
Poprawna specyfikacja modelu
Skorygowany współczynnik ¯ R
2Współczynnik determinacji R
2zawsze będzie faworyzował modele z większą liczbą zmiennych.
W porównaniu z podstawowym współczynnikiem R
2,
skorygowany współ- czynnik ¯R2uwzględnia również
liczbę stopni swobody:R ¯
2= R
2− k
n − (k + 1) (1 − R
2) (14) Skorygowany współczynnik R
2przyjmuje zazwyczaj niższe wartości:
R ¯
2≤ R
2(15)
w szczególności możliwe jest przyjmowanie wartości poniżej 0.
R ¯
2jest
pozbawiony standardowej interpretacji.Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 13 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Współczynnik R2 Kryteria informacyjne
Wartości wpółczynnika R
2Typowe wartości R
2zależą od rodzaju danych empirycznych, tj. :
Dane makroekonomiczne oparte na surowych (poziomach) szeregach cza- sowych: R
2> 0.9
Dane makroekonomiczne oparte na przyrostach szeregów czasowych:
R
2∈ (0.7, 0.9)
Dane przekrojowe o wyższym poziomie agregacji: R
2∈ (0.3, 0.7) Dane przekrojowe dla jednostek indywidualnych: R
2∈ (0.05, 0.4)
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 14 / 28
Poprawna specyfikacja modelu
Kryterium Akaike’a
Kryterium Akaike’a (AIC) jest miernikiem, który uwzględnia zarówno dopaso- wanie do obserwacji (funkcja wiarygodności) oraz liczbę stopni swobody:
AIC = ln1 n
n
X
i=1
e2i
| {z }
funkcja wiarygodności
+ 2(k + 1)
n
| {z }
liczba stopni swobody
(16)
gdzie n to liczba obserwacji, k + 1 to liczba oszacowanych parametrów oraz ei to reszta dla i-tej obserwacji.
Kryterium AICmaleje wraz ze wzrostem funkcji wiarygności orazrośnie wraz ze wzrostem liczby parametrów.
Kryterium AIC nie posiada interpretacji i jest wykorzytywane do porównania do- pasowania modeli.
W większośći pakietów ekonometryczny dostępne są inne kryteria informacyjne, jak np. bayesowskie kryterium Schwarza (BIC ), Hannana-Quinna (HQ). Kryteria te różnią się od AIC, ponieważ w większym stopniu uwzględniają liczbę stopni swobody. Ogólnie:
AIC ≤ HQ ≤ BIC (17)
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 15 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Współczynnik R2 Kryteria informacyjne
Mierniki dopasowania modelu ekonometrycznego do danych
Miernik Opis
R
2Ogólny miernik,
interpretacja, rośnie wraz z liczbązmiennych
Skorygowany R
2uwzględnia korektę na liczbę zmiennych, porówna- nie modeli
Niescentrowany R
2model bez wyrazu wolnego
Kryterium AIC uwzględnia korektę na liczbę zmiennych, porówna- nie modeli
Powyższe mierniki kwantyfikują jedynie dopasowanie modelu do obserwowanych danych. Wspomniane dopasowanie do danych ma charekter informacyjny i
nie stanowi głównego kryterium w wybo- rze modelu.Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 16 / 28
Poprawna specyfikacja modelu
Outline
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4
Współliniowość
5
Poprawna specyfikacja modelu Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 17 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Błąd I rodzaju Test t-Studenta Test Walda
Błąd I i II rodzaju a p-value
Zgodnie z zasadami wnioskowania statystycznego można wyróżnić dwa ryzyka wy- nikające z wykorzystania testów statystycznych, których konstrukcja opiera się na klarownie sformułowanych hipotezach:zerowej (H0)orazalternatywnej (H1):
Błąd pierwszego rodzaju
toodrzucenieH0, która w rzeczywistości jestprawdziwa.
Błąd drugiego rodzaju
toprzyjęcieH0, która w rzeczywistości jestfałszywa.
W pakietach ekonometryczno-statystycznych szeroko stosowane jestp-value, które mierzyprawdopobieństwo błędu pierwszego rodzaju.
W praktyce ekonometrycznej nie rozważa się minimalizacji obu ryzyk i wnioskowa- nie statystyczne jest najczęściej przeprowadzane na podstawie analizy prawdopodo- bieństwa błędu pierwszego rodzaju.
Poziom krytycznyoznacza arbitralnie wybrany poziom prawdopodobieństwa błędu I rodzaju, który można uznać za akceptowalny. Najczęściej jest równy: 0.01, 0.05 lub 0.1.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 18 / 28
Poprawna specyfikacja modelu
Test t-Studenta
Test t-studenta pozwala zweryfikować istotność oszacowania parametru dla każdej zmiennej objaśniającej (x
j) osobno, tj.:
H
0: β
j= 0 H
1: β
j6= 0 (18) Statystyka testowa:
t
j= β ˆ
jS( β ˆ
i) (19)
gdzie ˆ β
jto oszacowanie punktowe parametru β
j, a S( ˆ β
i) to błąd szacunku.
Statystyka testowa testu t-studenta jest odwrotnością względnego błędu sza- cunku.
Wartości krytyczne pochodzą z rozkładu t-studenta i można je uzyskać dla określonej liczby stopni swobody (df = n − (k + 1)) oraz przyjętego poziomu krytycznego (α).
Jeżeli |t
j| > t
df ,α- to są podstawy do odrzucenia H
0na rzecz H
1. Jeżeli |t
j| < t
df ,α- to nie ma podstaw do odrzucenia H
0na rzecz H
1.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 19 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Błąd I rodzaju Test t-Studenta Test Walda
Test Walda
Łączna istotność oszacowań parametrów może być weryfikowana przy po- mocy testu Walda, tj.:
H
0: β
1= β
2= . . . = β
k= 0 (20)
H
1: ∃
j∈{1,...,k}β
j6= 0 (21)
Statystyka testowa:
F = R
2/k
(1 − R
2)/(n − (k + 1)) (22) Statystyka testowa F ma rozkład F-Snedecora z r
1= k oraz r
2= n − (k + 1) stopniami swobody.
Jeżeli F > F
r1,r2,α- to są podstawy do odrzucenia H
0na rzecz H
1. Jeżeli F < F
r1,r2,α-to nie ma podstaw do odrzucenia H
0na rzecz H
1.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 20 / 28
Poprawna specyfikacja modelu
Test Walda
Test Walda umożliwia przede wszystkimszersze testowanie restrykcji linio- wych.
H0: R × β = q (23)
Macierz restrykcji R jest wymiarów r × (k + 1), gdzie r to liczba restrykcji. Re- strykcje są zapisywane wierszowo, a test Walda pozwala na weryfikację koniunkcji wszystkich restrykcji.
Statystyka testowa:
F =(SSE( ˆβ) − SSE( ˆβR))/r
SSE( ˆβ)/(n − (k + 1)) (24)
ma rozkład F-Snedecora z r1= r oraz r2= n − (k + 1).
SSE( ˆβR) - jest sumą kwadratów reszt modelu z restrykcjami;
SSE( ˆβ) - jest sumą kwadratów reszt modelu bez restrykcji;
Przykłady wykorzystania testu Walda:
Weryfikowanie restrykcji ekonomicznych.
Test pominiętych zmiennych.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 21 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Błąd I rodzaju Test t-Studenta Test Walda
Przykłady zapisu macierzowego w teście liniowych restrykcji Walda
Przykład #1: test Walda na istotność zmiennych w modelu:
R =
0 1 0 . . . 0 0 0 1 . . . 0
.. .
.. .
..
. . .. ... 0 0 0 . . . 1
oraz q =
0 0 .. . 0
Przykład #2: załóżmy, że mamy cztery zmienne egzogeniczne oraz
1 β1= β3 2 β2= ν
3 β1+ β4= γ.
Wtedy:
R =
"
0 1 0 −1 0
0 0 1 0 0
0 1 0 0 1
#
oraz q =
"
0 ν γ
#
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 22 / 28
Poprawna specyfikacja modelu
Outline
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4
Współliniowość
5
Poprawna specyfikacja modelu Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 23 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Współliniowość deterministyczna to sytuacja, w której jedna ze zmiennych objąśniających może zostać przedstawiona jako kombinacja liniowa pozostałych re- gresorów. Wówczas niemożliwe jest uzyskanie estymatora βOLS.
Współliniowość stochastycznapolega na wysokiej zależności statystycznej po- między zmiennymi objaśniającymi.
Problem współliniowości (stochastycznej) może powodować zwiększeniewariancji estymatora MNK (zmniejszenie efektywności).
Współliniowość może zostać zidentyfikowana przy pomocyczynnika inflacji wa- riancji CIW (ang. Variance Inflation Factor). Dla każdej ze zmniennych objaśniających konstruowany jest model xj, w którym zmienną objaśnianą jest ona sama, a zmiennymi objaśniającymi pozostałe zmienne z wyjściowego zbioru regre- sorów, czyli:
∀j∈J −{j}xj= β0+ β1x1+ ... + βJxJ+ ε (25) Dla każdego modelu jest obliczany współczynnik determinacji R2, a następnie CIWj:
CIWj= 1
1 − R2j (26)
Wartości CIW powyżej 10 sugerują problem współliniowości. Wtedy R2 z regresji pomocniczej jest większe od 0.9.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 24 / 28
Poprawna specyfikacja modelu
Współliniowość– rozwiązanie
W przypadku współlniowości kluczowa jest identyfikacja źródeł tego pro- blemu, tj. czy wynika z jakości danych czy też specyfikacji modelu ekonome- trycznego.
Brak zmian.
Usunięcie zmiennych współliniowych zmiennych objaśniającyh.
Usunięcie zmiennych objaśniających z specyfikacji modelu może dopro- wadzić do obciążenia oszacowań parametrów uzyskanych MNK.
Transformacja zmiennych objaśniających.
Wykorzystanie regresji grzbietowej (ridge regression):
β ˆ
RIDGE= (X
TX + λI )
−1X
Ty (27) gdzie λ to skalar a I to macierz jednostkowa.
Estymator regresji grzbietowej ˆ β
RIDGEjest
obciążony, ale posiadamniej- szą wariancję (jest bardziej efektywny)niż ˆ β
OLS.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 25 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Test RESET
Test Davidsona-McKinnona
Outline
1
KMNK – przypomnienie Estymator MNK
Twierdzenie Gaussa -Markowa
Estymator macierzy wariancji-kowariancji
2
Mierniki dopasowania modelu Współczynnik R
2Kryteria informacyjne
3
Test istotności zmiennych Błąd I rodzaju
Test t-Studenta Test Walda
4
Współliniowość
5
Poprawna specyfikacja modelu Test RESET
Test Davidsona-McKinnona
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 26 / 28
Poprawna specyfikacja modelu
Test poprawnej specyfikacji modelu Ramseya RESET (ang. Regression Equation Specification Error Test) jest ogólnym testem, który pozwala zidentyfikować nie- poprawną postać funkcyjną modelu ekonometrycznego.
Rozważmy standardowy model regresji liniowej:
y = β0+ β1x1+ β2x2+ . . . + βkxk+ ε (28) W drugim kroku, obliczmy wartości teoretyczne, tj.
ˆ
y = ˆβ0+ β1x1+ ˆβ2x2+ . . . + ˆβkxk (29) W kolejnym kroku, rozważmy model (28) rozszerzonego o kwadraty i iloczyny war- tości teoretycznych ˆy:
y = γ0+ γ1x1+ . . . + γkxk+ γk+1ˆy2+ γk+2ˆy3+ ε (30) Następnie przy pomocy testu Walda, zweryfikujmy istostność oszacowań parame- trów γk+1oraz γk+1.Hipoteza zerowa oznacza poprawną postać funkcyjną modelu:
H0: γk+1= γk+2= 0 (31)
Statystyka testu RESET ma rozkład F-Snedecora.
W przypadkudużej liczby stopni swobody, warto równieżtestować nieli- niowy wpływ poszczególnych zmiennych objąśniających(tj. przez uwzględ- nienie kwadratów i sześcianów) orazinterakcje pomiędzy tymi zmiennymi (ich iloczyny).
Alternatywna statystyka testu RESET jest równa nR2, gdzie współczynnik deter- minacji jest obliczany z modelu (30). Alternatywna statystyka ma rozkład χ2 z liczbą stopni swobody równej liczbie dodanych zmiennych.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 27 / 28
KMNK – przypomnienie Mierniki dopasowania modelu Test istotności zmiennych Współliniowość Poprawna specyfikacja modelu
Test RESET
Test Davidsona-McKinnona
Test Davidsona-McKinnona pozwala na porównanie dwóch modeli, które:
1 tłumaczą tę samą zmienną objaśniającą,
2 posiadają identyczną postać funkcyjną,
3 posiadają rozłączne zbiory zmiennych objaśniających.
Rozważmy dwa modele:
model A: y = β0+ β1x1+ β2x2+ . . . + βkxk+ ε model B: y = γ0+ γ1z1+ γ2z2+ . . . + γkzk+ η Szacujemy wektory parametrów, tj ˆβ oraz ˆγ.
Wyznaczamy wartości teoretyczne zmiennej objaśnianej z modeli A i B, tj. ˆyAoraz ˆ
yB. Wyznaczone wartości teoretyczne dołączamy do konkurencyjnego modelu, tj.
model A: y = β0+ β1x1+ β2x2+ . . . + βkxk+βk+1yˆB+ ε model B: y = γ0+ γ1z1+ γ2z2+ . . . + γkzk+γk+1ˆyA+ η Sprawdzamy czy parametr przy wartości teoretycznej z konkurencyjnego modelu jest statystycznie istotny (np. czy βk+1w modelu A).
W przypadku, gdy oszacowanie parametru nie jest istotne statystycznie, to wówczas model jest kompletny względem swojego konkurenta (np. jeżeli βk+1nie jest statystycznie istotne, to model A jest kompletny względem modelu B)
Korzystając z testu Davidsona-Mackinnona należy sprawdzić kompletność modeli w obu wariantach. Może się okazać, że oba modele są (nie)kompletne względem siebie i wtedy test nie jest konkluzywny.
Jakub Mućk Ekonometria Wykład 2 Weryfikacja liniowego modelu jednorównaniowego 28 / 28