Zadanie 1: MLE dla rozkładu geometrycznego
Wyznaczyć metodą największej wiarogodności estymator parametru p w rozkładzie geometrycznym P (X = k) = p(1 − p)k−1, k = 1, 2, ...
na podstawie n-elementowej próby prostej X1, ..., Xn pochodzącej z tego rozkładu.
Rozwiązanie:
(a) Każda z obserwacji pochodzi z rozkładu geometrycznego. Prawdopodobieństwo uzyskania obserwacji o wartości k opisane jest wzorem:
P (X = k) = p(1 − p)k−1 Dla rozkładów ciągłych korzystalibyśmy z funkcji gęstości.
(b) Funkcja wiarogodności (jak bardzo prawdopodobne jest uzyskanie tej próby, którą obserwu- jemy). Przemnażamy wartości prawdopodobieństw dla każdej obserwacji z próby:
L(X1, X2, ..., Xn, p) =
n
Y
i=1
p(1 − p)Xi−1= pn(1 − p)Pni=1Xi−n
Konwencja: argumentami funkcji wiarogodności są obserwacje z próby oraz parametry do osza- cowania.
(c) Zlogarytmowanie funkcji wiarogodności i obliczenie pochodnej po parametrze
ln L = n ln p + ln(1 − p)(
n
X
i=1
Xi− n)
∂ ln L
∂p = n p − 1
1 − p(
n
X
i=1
Xi− n)
(d) Przyrównanie pochodnej do zera (zakładamy p ∈ (0, 1)) :
n p − 1
1 − p(
n
X
i=1
Xi− n) = n(1 − p) − p(Pn
i=1Xi− n)
p(1 − p) = 0
n − np − p(
n
X
i=1
Xi− n) = 0
p = n
Pn i=1Xi
= 1 X¯
(e) Sprawdzenie, czy faktycznie uzyskaliśmy maksimum. Liczymy drugą pochodną po parametrze, sprawdzamy jej znak w punkcie X1¯. Wiadomo, że ¯X > 0 (nie możemy uzyskać sukcesu bez co najmniej jednego losowania, nie istnieją ujemne losowania).
1
