Własności estymatorów
Niech X = (X1, . . . , Xn) będzie próbą losową na przestrzeni próbkowej Xn, zaś {Pθ : θ ∈ Θ} będzie rodziną rozkładów prawdopodobieństwa na Xn.
Definicja 1. Estymator ˆg(X) wielkości g(θ) jest nieobciążony, jeżeli dla każdego θ ∈ Θ Eθˆg(X) = g(θ).
Definicja 2. Jeżeli statystyka ˆg(X) jest estymatorem g(θ), to wielkość b(θ) = Eθ(ˆg(X) − g(θ)), θ ∈ Θ
nazywamy obciążeniem tego estymatora.
Definicja 3. Ryzykiem średniokwadratowym estymatora ˆg(X) wielkości g(θ) nazywamy funkcję postaci
R(θ) = Eθ(ˆg(X) − g(θ))2, θ ∈ Θ.
Fakt 1. R(θ) = V arθˆg(X) + b(θ)2.
Fakt 2. Jeżeli estymator ˆg(X) wielkości g(θ) jest nieobciążony, to R(θ) = V arθˆg(X).
Definicja 4. Mówimy, że estymator g1(X) jest lepszy niż g2(X), jeżeli dla każdego θ ∈ Θ R1(θ) ≤ R2(θ)
i dla pewnego θ ∈ Θ mamy R1(θ) < R2(θ).
Definicja 5. Estymator ˆg(X) wielkości g(θ) jest zgodny, jeżeli
∀θ∈Θ g(X) −→ˆ Pθ g(θ), n → ∞, czyli dla każdego θ ∈ Θ mamy
∀>0 Pθ(|ˆg(X) − g(θ)| ≥ )−→ 0 .n→∞
Definicja 6. Estymator ˆg(X) wielkości g(θ) jest mocno zgodny, jeżeli
∀θ∈Θ g(X) −→ˆ p.w.g(θ), n → ∞, czyli dla każdego θ ∈ Θ mamy
Pθ
n→∞lim g(X) = g(θ)ˆ
= 1.
Twierdzenie (Mocne Prawo Wielkich Liczb). Niech X1, X2, . . . będzie ciągiem pa- rami niezależnych zmiennych losowych o jednakowym rozkładzie. Jeżeli E|X1| < ∞,
to X1+ . . . + Xn
n
n→∞−→ EX1, P -prawie wszędzie.