Estymator największej wiarygodności – teoria Niech
f (θ; x1, . . . , xn) =
(Pθ(X1 = x1, . . . , Xn= xn), dla rozkładów dyskretnych,
fθ(x1, . . . , xn), dla rozkładów absolutnie ciągłych, dla próby X1, . . . , Xn, gdzie parametr θ jest nieznany.
Definicja 1 Funkcją wiarygodności nazywamy funkcję L : Θ → R daną wzorem L(θ) = f (θ; x1, . . . , xn),
którą rozważamy jako funkcję parametru θ przy ustalonych wartościach obserwacji x1, . . . , xn. Definicja 2 ˆθ jest estymatorem największej wiarygodności parametru θ, jeśli
L(ˆθ) = sup
θ∈Θ
L(θ).
Oznaczenie: ENW(θ).
Uwaga 3 W definicji 1 nie jest wymagane założenie niezależności obserwacji X1, . . . , Xn. Uwaga 4 Jeśli zmienne X1, . . . , Xn są niezależne, to
f (θ; x1, . . . , xn) =
n
Q
i=1
Pθ(Xi = xi), dla rozkładów dyskretnych,
n
Q
i=1
fθ(xi), dla rozkładów absolutnie ciągłych,
Fakt 5 Jeżeli ˆθ = ENW(θ) i g : Θ → R jest funkcją ciągłą, to g(ˆθ) = ENW(g(θ)).
Uwaga 6 Ponieważ logarytm jest funkcją rosnącą, więc arg sup
θ∈Θ
L(θ) = arg sup
θ∈Θ
ln L(θ).
Wyznaczenie arg sup
θ∈Θ
ln L(θ) jest zadaniem łatwiejszym niż wyznaczenie arg sup
θ∈Θ
L(θ).
Fakt 7 Estymator największej wiarygodności jest 1. asymptotycznie nieobciążony,
2. zgodny,
3. asymptotycznie normalny.
