Estymacja punktowa – teoria Definicja 1 Próbą losową n-elementową nazywamy ciąg zmiennych losowych X1

Estymacja punktowa – teoria

Definicja 1 Próbą losową n-elementową nazywamy ciąg zmiennych losowych X₁, . . . , X_no tym samym rozkładzie. Jeśli, dodatkowo, zmienne X₁, . . . , X_n są niezależne, to próbę taką nazy- wamy próbą losową prostą.

Przez (x₁, . . . , x_n) oznaczać będziemy próbkę, czyli dowolną realizację próby losowej X₁, . . . , X_n. W zadaniach będziemy zawsze rozważać tylko próbki proste, czyli realizacje prób losowych pro- stych.

Niech X(1) 6 X⁽²⁾ 6 . . . 6 X⁽ⁿ⁾będzie ciągiem zmiennych losowych powstałych z X1, . . . , X_npo ich uporządkowaniu w ciąg niemalejący. X_(i), 1 6 i 6 n, nazywamy i-tą statystyką pozycyjną (porządkową). W szczególności, X₍₁₎ = min{X₁, . . . , X_n}, X_(n) = max{X₁, . . . , X_n}.

Definicja 2 Niech Xⁿ = {(x₁, . . . , x_n) : (x₁, . . . , x_n) – próbka} ⊂ Rⁿ będzie przestrzenią próbek. Statystyką nazywamy funkcję mierzalną T : Xⁿ → R.

Niech Θ ∈ B^d będzie zbiorem parametrów oraz X będzie zmienną losową o rozkładzie P_θ za- leżnym od nieznanego parametru θ ∈ Θ. Na podstawie realizacji (x₁, . . . , x_n) próby losowej X₁, . . . , X_n z rozkładu P_θ należy oszacować nieznany parametr θ.

Definicja 3 Estymatorem parametru θ ∈ Θ nazywamy odwzorowanie mierzalne ˆθ : Xⁿ → Θ.

Własności estymatorów

• Estymator ˆθ : Xⁿ→ Θ jest nieobciążony, jeśli Eˆθ = θ dla każdego θ ∈ Θ.

• Estymator ˆθ : Xⁿ → Θ jest asymptotycznie nieobciążony, jeśli lim

n→∞Eˆθ = θ dla każdego θ ∈ Θ.

• Estymator ˆθ : Xⁿ→ Θ jest zgodny, jeśli ˆθ −→

P θ dla każdego θ ∈ Θ.

• Estymator ˆθ : Xⁿ→ Θ jest mocno zgodny, jeśli ˆθ −−→

p.w. θ dla każdego θ ∈ Θ.

Definicja 4 Ryzykiem kwadratowym estymatora ˆθ : Xⁿ → Θ parametru θ ∈ Θ nazywamy funkcję R : Θ → [0, ∞),

R(θ) = E(ˆθ − θ)². Estymacja wartości oczekiwanej

Zdefiniujmy estymator zwany średnią z próby

x : R¯ ⁿ → R, x =¯ 1 n

n

X

i=1

x_i.

Fakt 5 Jeżeli X jest zmienną losową posiadającą wartość oczekiwaną, to ¯x jest nieobciążonym i mocno zgodnym estymatorem wartości oczekiwanej.

Estymacja wariancji

Zdefiniujemy estymator zwany wariancją z próby.

1. Niech X będzie zmienną losową o znanej wartości oczekiwanej, równej a. Wówczas wa- riancję z próby definiujemy

∗s² : Rⁿ→ R, ^∗s² = 1 n

n

X

i=1

(x_i− a)².

Fakt 6 Jeżeli X jest zmienną losową posiadającą wariancję, to ^∗s² jest nieobciążonym i mocno zgodnym estymatorem wariancji.

2. Niech X będzie zmienną losową o nieznanej wartości oczekiwanej. Wówczas wariancję z próby definiujemy

s² : Rⁿ → R, s² = 1 n − 1

n

X

i=1

(x_i− ¯x)², n > 2,

ˆ

s² : Rⁿ → R, sˆ² = 1 n

n

X

i=1

(x_i− ¯x)².

Fakt 7 Jeżeli X jest zmienną losową posiadającą wariancję, to

• s² jest nieobciążonym i mocno zgodnym estymatorem wariancji,

• ˆs² jest asymptotycznie nieobciążonym i mocno zgodnym estymatorem wariancji.