Ile wynosi liczebność próby, jeżeli b1= 25, b2 = −0, 5,Pn i=1yi = 100, Pn i=1xi = 200

Zadanie 1: Algorytm MNK

Rozpatrujemy model y_i = β₁+ β₂x_i+ ε_i oszacowany na próbie n-elementowej.

• Pokazać przy użyciu wzoru = (X^TX)⁻¹X^Ty, że w tym modelu estymator MNK parametru β2

ma postać:

b₂ = nPn

i=1x_iy_i−Pn

i=1x_iPn i=1y_i nPn

i=1x²_i − (Pn i=1x_i)²

• Pokazać, że w tym modelu estymator MNK parametru β₁ spełnia ¯y = b₁+ b₂x.¯

• Ile wynosi liczebność próby, jeżeli b₁= 25, b2 = −0, 5,Pn

i=1yi = 100, Pn

i=1xi = 200.

• Znaleźć wektor reszt, wektor wartości dopasowanych, estymator σ², estymator macierzy wariancji- kowariancji oraz R².

Rozwiązanie: W modelu wystepuje stała (kolumna jedynek), dlatego postaci macierzy X oraz y to:

X =









 1 x1

1 x₂ ... ... 1 xn











y =









 y1

y₂ ... yn











Wykonujemy obliczenia ze wzoru:

• Obliczamy (X^TX):

X^TX =

 1 1 . . . 1 x₁ x₂ . . . x_n











 1 x1

1 x2

... ... 1 xn











=

 n Pn

i=1xi

Pn

i=1x_i Pn i=1x²_i



• Odwracamy uzyskaną macierz:

(X^TX)⁻¹= 1

nPn

i=1x²_i − (Pn i=1xi)²

 Pn

i=1 −Pn

i=1xi

−Pn

i=1x_i n



• Obliczamy X^Ty

X^Ty =

 1 1 . . . 1 x₁ x₂ . . . x_n











 y1

y2

... yn











=

 P_n

i=1y_i Pn

i=1x_iy_i



• Mnożymy z odwrotnością macierzy, wynik to szukane oszacowanie.

(X^TX)⁻¹X^Ty = 1 nPn

i=1x²_i − (Pn i=1x_i)²

 Pn

i=1 −Pn

i=1xi

−P_n

i=1x_i n

  Pn i=1yi

P_n

i=1x_iy_i



= 1

nPn

i=1x²_i − (Pn i=1x_i)²

 Pn

i=1x²_i Pn

i=1yi−Pn

i=1xiPn i=1xiyi

−Pn

i=1xiyi+ nPn i=1xiyi



1

Dla drugiego podpunktu wstawiamy znalezione oszacowania do formuły, upraszczamy:

P = Pn

i=1x²_iPn

i=1yi−Pn

i=1xiPn

i=1xiyi+

Pn i=1xi

n [nPn

i=1xiyi−Pn

i=1xiPn i=1yi] nPn

i=1x²_i − (Pn

i=1x_i)² =

Pn i=1y_i

n W trzecim podpunkcie korzystamy z wyników podpunktu drugiego:

¯

y = b1+ b2X¯ Stąd wiemy, że:

n = Pn

i=1y_i− b₂Pn i=1x_i b1

= 100 + 0, 5 ∗ 200

25 = 8

Żeby znaleźć wektor reszt niezbędny jest nam wektor wartości dopasowanych (podstawiamy macierze do wzoru):

y = y − Xbˆ Wtedy wektor reszt:

e = y − ˆy Oszacowanie sigma²:

σ² = e^Te

N − k = e^Te N − 2

k to liczba parametrów do oszacowania (u nas 2: dla stałej i zmiennej).

I postać macierzy wariancji kowariancji (korzystamy z fragmentu rozwiązania z podpunktu 1):

σ²(X^TX)⁻¹

Żeby obliczyć R² przyda się wartość średnia ¯y. Proszę zauważyć, że w modelu występuje stała, dlatego dekompozycja wariancji jest możliwa!

R² = 1 − e^Te (y − ¯y)²

Zadanie 2:

Znaleźć estymator MNK wektora dla modelu y_i = β0 + β1x1i+ β2x2i+ εi, w którym n = 4, x^T₁ = [1, 1, 2, −4], x^T₂ = [−3, −3, 5, 1], y^T = [1, 2, 3, 1]. Znaleźć wektor reszt, wektor wartości dopa- sowanych, estymator σ², estymator macierzy wariancji-kowariancji oraz R². Rozwiązanie: Zadanie oparte na podobnym schemacie, co poprzednie. Odpowiedzi:

b ∼



 1, 75 0, 23 0, 16



y ∼ˆ







 1, 5 1, 5 3 1







 e ∼









−0, 5 0, 5

0 0









2

σ² = 0, 5 σ²(X^TX)⁻¹=





1/8 0 0

0 1/22 0

0 0 1/88



 R²= 1 −_(y−¯^eT_y)^e2 ∼ 0, 82

Zadanie 3:

Dany jest następujący model:

y_i= β₁+ β₂d_i+ ε_i, dla i = 1, . . . , N d_i=

 1 dla i ≤ q 0 gdy i > q

Var(εi) = σ²I

• Podać estymatory MNK dla parametrów β₁, β₂, dla N = 60, q = 40,PN

i=1yi= 50,Pq

i=1yi= 30.

• Udowodnić, że estymatory te są nieobciążone.

• Podać postać macierzy wariancji-kowariancji dla estymatorów β₁, β₂, jeżeli spełnione są zało- żenia KMRL.

Rozwiązanie:

3