Ekonometria, lista zadań nr 1
Definicja 1 Wartością oczekiwaną macierzy losowej X = (Xij) nazywamy macierz EX o tej własności, że (EX)ij = EXij.
Fakt 1 (Własności wartości oczekiwanej macierzy) Niech a ∈ R, X i Y będą macie- rzami losowymi zaś A macierzą deterministyczną (stałą), przy czym zakładamy, że macierze są takich rozmiarów, że da się wykonać poniższe dodawania i mnożenia. Wówczas:
EX0 = (EX)0,
EA = A,
E(aX) = aEX,
E(X + Y ) = EX + EY ,
E(X + A) = EX + A,
E(AX) = A · EX, E(XA) = EX · A,
jeśli X i Y są niezależnymi macierzami losowymi (tzn. dowolny wyraz macierzy X i do- wolny wyraz macierzy Y są niezależnymi zmiennymi losowymi), to E(XY ) = EX · EY . Definicja 2 Macierzą kowariancji wektora losowego X = (Xi) nazywamy macierz Cov(X) o tej własności, że (Cov(X))ij = Cov(Xi, Xj).
Fakt 2 (Własności macierzy kowariancji) Niech X i Y będą wektorami losowymi, A – macierzą deterministyczną (stałą) zaś b – wektorem deterministycznym (stałym), przy czym zakładamy, że macierze są takich rozmiarów, że da się wykonać poniższe dodawania i mnożenia.
Wówczas:
Cov(X) = E(X − EX)(X − EX)0,
Cov(X) = EXX0− (EX)(EX)0,
Cov(X + b) = Cov(X),
Cov(AX) = A · Cov(X) · A0,
Cov(X) jest macierzą symetryczną i nieujemnie określoną,
(Cov(X))ii= V ar(Xi),
jeśli X jest wektorem niezależnych zmiennych losowych, to Cov(X) jest macierzą diago- nalną,
jeśli X i Y są niezależnymi wektorami losowymi (tzn. dowolna współrzędna wektora X i dowolna współrzędna wektora Y są niezależnymi zmiennymi losowymi), to Cov(X + Y ) = Cov(X) + Cov(Y ).
Macierz kowariancji możemy traktować jako uogólnienie pojęcia wariancji zmiennej losowej na przypadek wektora losowego.
Definicja 3 Mówimy, że wektor losowy X o wartościach w Rn ma wielowymiarowy rozkład normalny o wartości oczekiwanej µ i macierzy kowariancji Σ (co oznaczamy: X ∼ N(µ, Σ)), gdzie µ ∈ Rn zaś Σ jest macierzą rozmiaru n × n symetryczną i dodatnio określoną, jeśli jego gęstość jest postaci:
fX(x) = 1
p(2π)ndet Σ e−12(x−µ)0Σ−1(x−µ).
Fakt 3 Jeśli wektor losowy X o wartościach w Rn ma wielowymiarowy rozkład normalny o wartości oczekiwanej µ i macierzy kowariancji Σ, to:
(i) wszystkie rozkłady brzegowe wektora X są również rozkładami normalnymi (tzn. każdy podwetkor wektora X ma również rozkład normalny odpowiedniego wymiaru),
(ii) dla każdego i ∈ {1, 2, . . . , n} zachodzi Xi ∼ N (µi, (Σ)ii).
1. Udowodnij podane własności wartości oczekiwanej macierzy losowej, w szczególności zaś dwie ostatnie.
2. Udowodnij dwie pierwsze własności macierzy kowariancji, a następnie, traktując dwie pierwsze własności jako równoważne definicje macierzy kowariancji, udowodnij pozostałe własności, w miarę możliwości każdą na trzy sposoby, korzystając z trzech definicji ma- cierzy kowariancji.
3. Wykorzystując twierdzenie z jakobianem, udowodnij, że jeśli X jest wektorem losowym o wartościach w Rn i X ∼ N (µ, Σ), A jest macierzą nieosobliwą rozmiaru n × n a b ∈ Rn, to AX + b ∼ N (Aµ + b, AΣA0).
4. Oblicz wartość oczekiwaną zmiennej losowej o rozkładzie normalnym N (µ, σ2), gdzie µ ∈ R, σ > 0.
5. Oblicz wariancję zmiennej losowej o rozkładzie normalnym N (µ, σ2), gdzie µ ∈ R, σ > 0.
6. Dany jest wektor losowy (X, Y )0 o wielowymiarowym rozkładzie normalnym, przy czym X ∼ N (µ, σ2) i Y ∼ N (ν, τ2). Niech ρ = Corr(X, Y ). Udowodnij, że zmienne losowe X i Y są niezależne wtedy i tylko wtedy, gdy są nieskorelowane tzn. gdy ρ = 0.
7. W równaniu regresji liniowej:
yi = β0+ β1xi+ εi, i = 1, 2, 3, 4, 5, 6
dokonano estymacji parametrów trzema istotnie różnymi metodami w tym metodą naj- mniejszych kwadratów. Otrzymano trzy różne wektory reszt:
2 4 1
−3
−1
−3
,
1
−7 2
−1 7
−2
,
2 6
−2 4
−5
−6
.
Który z nich pochodzi od metody najmniejszych kwadratów?
8. Jakiej wartości współczynnika determinacji należy się spodziewać, jeśli oszacowano model liniowy
yi = β0+ β1xi,1+ β2xi,2+ β3xi,3+ β4xi,4+ β5xi,5+ εi, i = 1, 2, 3, 4, 5, 6?
Pytanie celowo jest sformułowane nieprecyzyjnie, tak żeby prowadziło do szerszych roz- ważań.