Ry s za rd Wal k ow iak (Poznań)
Estymacja liniowych funkcji parametrycznych w modelach wieloreakcjowych*
(Praca wpłynęła do Redakcji 1984.12.15)
1. Wstęp. Modele wieloreakcjowe, nazywane też wielozmiennymi, stoso- wane są w doświadczeniach wielocechowych. Standardowo używane są mo- dele zwane dalej kompletnymi, wymagające obserwowania wszystkich intere- sujących badacza cech na każdej jednostce eksperymentalnej. Teoria estyma- cji liniowych funkcji parametrycznych w takich modelach jest dobrze znana.
Istnieją sytuacje, w których zastosowanie modeli kompletnych jest niemożli- we ze względu na brak możliwości obserwowania wszystkich cech na każdej jednostce. Przykłady takich eksperymentów opisane są między innymi w książce [10] oraz w pracach [7], [15], [13], [16], [3], [6]. Odpowiednie dla tych doświadczeń modele określa się mianem modeli wieloreakcjowych nie- kompletnych. Charakteryzują się one możliwością obserwowania na poszcze- gólnych jednostkach eksperymentalnych dowolnie wybranych cech spośród wszystkich cech badanych w doświadczeniu. Klasie takich właśnie ogólnych modeli wieloreakcjowych poświęcona jest niniejsza praca. Obejmuje ona jako przypadki szczególne wszystkie modele opisane w literaturze, w tym także modele wieloreakcjowe kompletne.
Parametry występujące w rozważanych w pracy modelach podzielono na dwie grupy. Pierwszą z nich stanowią parametry interesujące badacza, zwane dalej głównymi. Drugą grupę tworzą parametry nazywane pobocznymi, wprowadzone wyłącznie w celu zwiększenia adekwatności modelu do warun- ków doświadczalnych. Interesujące są jedynie funkcje parametrów głównych.
Dla układów takich funkcji sformułowano w pracy kryterium estymowalnoś- ci oraz kryterium istnienia estymatorów o minimalnej dyspersji w klasie estymatorów liniowych i nieobciążonych, oznaczanych dalej w skrócie LNMD. Wyniki te rozszerzają stosowalność teorii „najlepszej” estymacji nieobciążonej na klasę dowolnych modeli wieloreakcjowych niekompletnych, co stało się możliwe dzięki wprowadzeniu oryginalnego warunku koniecznego
* Wyniki przedstawione w pracy są głównymi rezultatami rozprawy doktorskiej R. Walko- wiaka pod tym samym tytułem, napisanej w Zakładzie Metod Matematycznych i Statystycznych Akademii Rolniczej w Poznaniu pod kierunkiem dr. hab. Radosława Kali.
i dostatecznego istnienia estymatora LNMD dla układu estymowalnych funkcji parametrycznych w ogólnym modelu liniowym.
Z kolei podano warunki konieczne i dostateczne istnienia estymatora LNMD dla układu wszystkich funkcji parametrów głównych estymowalnych w danym modelu wieloreakcjowym. Zwrócono przy tym uwagę na stronę aplikacyjną formułowanych wyników, które w rezultacie pozwalają rozstrzyg- nąć o istnieniu estymatora LNMD dla układu wszystkich funkcji parame- trów głównych na podstawie znajomości struktury macierzy dyspersji mode- lu oraz schematu przyporządkowania obserwowanych cech do jednostek eksperymentalnych.
2. Estymacja liniowych funkcji parametrycznych w ogólnych modelach liniowych. W rozdziale tym przedstawimy pewne elementy teorii estymacji liniowych funkcji parametrycznych w modelach liniowych. Teoria ta będzie stanowiła podstawę dla późniejszych rozważań dotyczących modeli wielo- reakcjowych.
Przez ogólny model liniowy będziemy rozumieć rodzinę m-wymiarowych zmiennych losowych y o wartości oczekiwanej
£(y) = Uą i macierzy dyspersji D (y)eir , gdzie
(2.1) r = {V = ź1V1+ ... + źpVp: V ^ 0 , ź,eR},
U jest znaną m x q -wymiarową macierzą, £, jest ^-wymiarowym wektorem nieznanych parametrów, ź,, / = 1,..., p, są nieznanymi skalarami, natomiast V{, i = 1,..., p, są znanymi liniowo niezależnymi i określonymi nieujemnie m x m-wymiarowymi macierzami. Zapis V ^ 0 jest tu równoważny stwier- dzeniu: „V jest macierzą określoną nieujemnie”.
Tak zdefiniowany model będziemy zapisywać symbolicznie w postaci trójki (y, Uą, V}.
Teoria estymacji w modelach liniowych koncentruje się wokół problemu znajdowania ocen układów liniowych funkcji nieznanych parametrów T!%
gdzie Z jest ustaloną q x r-wymiarową macierzą. Z uwagi na liniowy charak- ter funkcji estymowanych, rozważania nasze ograniczymy do poszukiwania estymatorów będących liniowymi funkcjami obserwowanych zmiennych loso- wych reprezentowanych łącznie przez wektor y.
Zacznijmy od definicji estymowalności układu funkcji parametrycznych Z'ę. Pojęcie estymowalności pojedynczej liniowej funkcji parametrycznej zostało wprowadzone przez Bose’a [2] w odniesieniu do prostego modelu Gaussa-Markowa {y, U^, Im}, gdzie Im oznacza macierz jednostkową stop- nia m. Bez trudu może być ono zaadaptowane do ogólnego modelu liniowe- go, w którym klasa V macierzy dyspersji zawiera macierz jednostkową Im bądź inną macierz określoną dodatnio.
De f in ic j a 2.1. Układ funkcji parametrycznych Z'£ nazywamy estymowal- nym w modelu {y, U£, Y'}, gdy istnieje taka m xr-wymiarowa macierz W, że
(2.2) E(W'y) = Z'ą
dla każdego § eR q.
Kolejne definicje pozwalają wyróżnić w klasie nieobciążonych estymato- rów liniowych estymator o „minimalnej macierzy dyspersji” zwany też esty- matorem najlepszym.
De f in ic ja 2.2. Statystykę L'y nazywamy estymatorem liniowym nieobcią- żonym o minimalnej dyspersji (estymatorem LNMD) układu funkcji parame- trycznych Z'I* w modelu Gaussa-Markowa {y, U£, V}, jeżeli jest ona esty- matorem nieobciążonym wektora Z' £ oraz dla każdego innego nieobciążone- go estymatora K'y tego wektora zachodzi relacja
D (K 'y)-D (L 'y)^0.
De f in ic j a 2.3. Statystykę L'y nazywamy estymatorem LNMD układu funkcji parametrycznych 7J\ w ogólnym modelu liniowym (y, U§, Y'}, gdzie klasa Y określona jest wzorem (2.1), jeżeli dla każdej macierzy V e f statystyka ta jest estymatorem LNMD układu Z'£ w modelu Gaussa- Markowa {y, U£, V}.
Powyższa definicja jest skonstruowana analogicznie do znanej w literatu- rze definicji najlepszego estymatora liniowego dla wartości oczekiwanej zmiennej losowej y w modelu {y, U£, Y'} (patrz np. [5]).
W przeciwieństwie do modelu Gaussa-Markowa, w ogólnym modelu liniowym nie dla każdego układu funkcji estymowalnych można znaleźć estymator LNMD. Warunek konieczny i dostateczny istnienia takiego esty- matora dla pojedynczej estymowalnej funkcji parametrycznej został podany przez Mitrę w [8], s. 497. Kryterium to jest jednak mało operatywne. Dla potrzeb niniejszej pracy udowodnimy inne, znacznie wygodniejsze kryte- rium. Wynika ono także z warunku 8, Zmyślony [19].
Twier dz enie 2.1. Niech (y, u ą , Y'} będzie ogólnym modelem liniowym takim, że lmeY', gdzie klasa Y' zdefiniowana jest w (2.1) oraz niech TJ\ będzie układem estymowalnych funkcji parametrycznych. Wtedy
(a) warunkiem koniecznym i dostatecznym istnienia estymatora LNMD dla Z' ę jest, aby
(2.3) <p(V,U(U'U)-Z)c<p(U), i = 1,■.., p,
gdzie ę(A) oznacza przestrzeń liniową rozpiętą na kolumnach macierzy A;
(b) jeśli warunek (2.3) jest spełniony, to estymatorem LNMD dla 7J ł; jest
(2.4) z rą = Z'(U 'U )~U 'y.
Dowód. Jeżeli w modelu (y, Ul;, Y"} statystyka L'y jest estymatorem LNMD układu funkcji parametrycznych to wobec definicji 2.3, L'y jest
estymatorem LNMD dla 7J\ w modelu Gaussa-Markowa [y, U%, Imj.
Wynika stąd, że ma ona postać
(2.5) L'y = Z'(U 'U )-U 'y,
przy czym spełniony jest warunek nieobciążoności, tzn.
(2.6) E(L'y) - Z'(U'U)- U'Uą = 7J\.
Wykorzystamy teraz rezultat Zyskinda [17] (patrz także [18]), który stwier- dza, że w modelu Gaussa-Markowa {y, U£, V] statystyka L'y jest estymato- rem LNMD swojej wartości oczekiwanej wtedy i tylko wtedy, gdy
<p(VL) c: <p(U). Na mocy tego rezultatu oraz równości (2.5) i (2.6) statystyka Z'(U 'U )~U 'y jest estymatorem LNMD dla układu funkcji Z'Ł, w ogólnym modelu liniowym {y, U£, Y ] wtedy i tylko wtedy, gdy dla każdego V e f (2.7) <p(VU(U'U)-Z)c=<p(U).
Ponieważ warunek ten jest równoważny z (2.3), więc dowód tezy (a) jest zakończony.
Dla dowodu tezy (b) wystarcza zauważyć, że wobec wspomnianego wyżej rezultatu Zyskinda, spełnienie warunku (2.3) lub równoważnego warunku (2.7) zapewnia, że statystyka dana wzorem (2.4) jest estymatorem LNMD dla Z'£ w każdym modelu Gaussa-Markowa [y, U£, V}, gdzie \ eY , a to na mocy definicji 2.3 zapewnia, że statystyka ta jest estymatorem LNMD dla układu funkcji Z'£ w ogólnym modelu liniowym [y, U£, Y'}. ■
3. Modele wieloreakcjowe. Przejdźmy teraz do formalnego opisu modelu wieloreakcjowego dopuszczającego możliwość obserwowania na poszczegól- nych jednostkach eksperymentalnych tylko niektórych cech spośród cech badanych w doświadczeniu.
Niech t będzie liczbą cech obserwowanych w eksperymencie i niech cechy te będą w pewien sposób uporządkowane. Ponadto, niech n będzie ogólną 7 liczbą jednostek biorących udział w doświadczeniu. Dokonajmy pogrupowa-
nia jednostek eksperymentalnych w podzbiory tak, aby na jednostkach na- leżących do tego samego podzbioru były obserwowane te same cechy. W ten sposób otrzymamy u (u ^ 1) rozłącznych podzbiorów Sh
o liczebnościach nh przy czym £ n, = n. Niech teraz t{ oznacza liczbę cechU
i = 1
obserwowanych w podzbiorze 5,. Wtedy zmienne losowe opisujące poszcze- gólne cechy kolejnych jednostek podzbioru S, można przedstawić w postaci n, x fr wymiarowej macierzy Y,, której kolejne wiersze odpowiadają kolejnym jednostkom doświadczalnym, a kolejne kolumny kolejnym cechom. W kon-
sekwencji zbiór
(3.1) [Y1? Y2,..., YbJ
reprezentuje wszystkie obserwowane w doświadczeniu zmienne losowe.
Chcąc skonstruować model liniowy dla zmiennych losowych ze zbioru (3.1), musimy określić ich wartości oczekiwane oraz strukturę macierzy dyspersji, uwzględniając z jednej strony to, że dla każdej losowej macierzy Yf można przyjąć założenia standardowego modelu wielowymiarowego, a z drugiej strony to, że wszystkie te zmienne losowe dotyczą tego samego układu t cech i tego samego eksperymentu, skąd wynika ich powiązanie z tymi samymi nieznanymi parametrami. W celu rozwiązania tych trudności wygodnie będzie każdemu podzbiorowi St przyporządkować t x f,-wymiarową macierz M, utworzoną z macierzy I( przez usunięcie z niej kolumn o numerach odpowiadających numerom cech nie obserwowanych na jednost- kach tego podzbioru. Wtedy wielowymiarowy model liniowy dla jednostek podzbioru S, można zapisać za pomocą równości
gdzie X; oraz W, są znanymi macierzami odpowiednio ty x oraz n{ x v- -wymiarowymi odzwierciedlającymi plan eksperymentalny dla jednostek podzbioru Si? Ę jest /z, x r,-wymiarową macierzą nieznanych parametrów dla t, cech obserwowanych w podzbiorze Sh T jest v x t-wymiarową macierzą nieznanych parametrów dla wszystkich t cech w całym eksperymencie i wreszcie £ jest nieznaną określoną nieujemnie macierzą dyspersji dla wszyst- kich t cech. Należy tu jeszcze wyjaśnić, że symbol (x) oznacza iloczyn Kroneckera macierzy oraz że macierz dyspersji macierzy losowej X, jest rozumiana zgodnie z tożsamością
gdzie vec(Yi) jest wektorem kolumnowym utworzonym z kolejnych kolumn macierzy Y, podpisanych jedna pod drugą.
Powyższy model dotyczy jedynie części materiału doświadczalnego, tj.
jednostek eksperymentalnych zaliczonych do podzbioru St, będziemy więc nazywać go i-tym modelem cząstkowym. W celu utworzenia modelu całoś- ciowego, tj. modelu dla wszystkich m= £ n. t,- zmiennych losowych obser- wowanych w całym eksperymencie, pozostaje zatem dokonać połączenia modeli cząstkowych. Z uwagi na rozmaitość wymiarów macierzy Yf występu- jących w zbiorze (3.1) cel ten może być osiągnięty po uprzednim przekształce- niu każdego modelu cząstkowego postaci (3.2) do modelu jednowymiaro- wego, która to możliwość opisana została np. przez Searle’a w pracy [12].
W związku z tym utwórzmy wektory
yf = vec(Y,), i = l,...,u .
Korzystając z opisanej w pracy [9] własności vec(ABC) = (C'®A) vec(B) (3.2)
(3.3) D(Y,-) = D (vec(Yf)), i = 1,..., u,
U
1= 1
oraz z pierwszej równości w (3.2), możemy teraz zapisać wartość oczekiwaną wektora y, w postaci
E (y,) = E (vec (Y,)) = vec (X, Ę) + vec (W, TM,-) = (I,. ®Xf) ą, + (M; <g> W,) y, gdzie
(3.4) ^, = vec(S,) oraz y = vec(r)-
Otrzymana równość, w połączeniu z (3.3) oraz z drugą równością w (3.2), pozwala zapisać i-ty model cząstkowy w formie modelu liniowego postaci (3.5) {y„ (I,,.®Xi)ąi + (M;®W,)y, MJ
Model całościowy otrzymamy przez zestawienie tak przedstawionych modeli cząstkowych pamiętając przy tym, że wektory losowe y1?..., yu są nieskore- lowane, gdyż dotyczą różnych jednostek eksperymentalnych. W rezultacie otrzymamy model
(3.6) Jcol (y,), diag (I, <g>Xf) col (ą,) + col (MJ®Wf) y, diag(M; EM,- ®I„.)},
i — 1 i = 1 i=l i = 1 i ~ 1
gdzie col (A,) oznacza macierz blokową postaciu
;= i
col (Af) = (A'x: ... :AX i= i
natomiast diag (A,) oznacza macierz blokowo-diagonalną, której kolejnymiU
i = 1
blokami diagonalnymi są macierze A ^ .^ A ,,.
Model całościowy (3.6) jest modelem wieloreakcjowym spełniającym wy- magania postulowane na początku tego rozdziału. Mimo iż został on skons- truowany głównie pod kątem widzenia modeli niekompletnych, obejmuje również modele kompletne. Jest tak wtedy, gdy Mi = ... = Mu = It. W tej sytuacji można w zasadzie wszystkie jednostki eksperymentalne zaliczyć do wspólnego zbioru. Wtedy jednak model (3.6) staje się zwykłym modelem wielowymiarowym. Z drugiej strony obecność w modelu (3.6) parametrów związanych z poszczególnymi podzbiorami Su pozwala ob- jąć tym modelem doświadczenia zakładane w układach blokowych wielo- reakcjowych niekompletnych (patrz prace [3], [6], [13], [14]), w układach wierszowo-kolumnowych wieloreakcjowych niekompletnych, bądź dowolnych układach wieloreakcjowych niekompletnych z tzw. parametrami pobocznymi.
Rolę tych parametrów spełniają właśnie wektory ^ i,...,^ u. Ich obecność podyktowana jest zwykle chęcią zwiększenia adekwatności modelu do wa- runków eksperymentalnych. Estymacja samych tych parametrów nie jest natomiast najczęściej interesująca. Fakt ten uzasadnia ich określenie jako parametry poboczne. Mogą być one w prosty sposób wyeliminowane
z modelu. W tym celu wystarczy przyjąć, że X, = 0 dla i = 1,..., u. Tą drogą otrzymamy model wieloreakcjowy postaci
(3.7) fcól (y,), col (M; ®W,) y, diag (M; SM, ®I )}.
i = 1 i = l i = l
W odróżnieniu od modelu (3.6) będziemy nazywać go modelem z parametrami głównymi, które są reprezentowane w modelu (3.7) przez jednakowy dla wszystkich modeli cząstkowych wektor y. Pewne przypadki szczególne mode- lu wieloreakcjowego z parametrami głównymi były już rozważane w literatu- rze (patrz [16]).
Wszystkie dotychczasowe uwagi o różnych modelach wieloreakcjowych dotyczą w zasadzie wartości oczekiwanej m-wymiarowej wektorowej zmien-
ił u
nej losowej col (y,), gdzie m = £ nt t{. Niżej przejdziemy do sprecyzowania
i = 1 i = 1
założeń o macierzy dyspersji tej zmiennej losowej. Najistotniejsze założenia o nieskorelowaniu jednostek eksperymentalnych, o niekompletności oraz o jednakowym względem podzbiorów Sj,..., Su skorelowaniu wszystkich cech zostały już uwzględnione w trakcie tworzenia obu modeli. Pozostaje jeszcze rozważenie konsekwencji założenia o nieznajomości macierzy £. Przyjęcie tego założenia powoduje, że o macierzy D(col(yj)) możemy jedynie stwier-U
dzić, iż jest ona elementem pewnej klasy macierzy nieujemnie określonych.
Klasę tę możemy zdefiniować równością
(3.8) r = {v = I Ką V*,: v ^ 0, l kqeR},
(k.ą)
w której \ kq jest macierzą postaci
(3-9) \ kt = diagfMJL^M,®!^.),
i = 1
przy czym
(3.10) Lkq = (ek + eq) (ek + eq)', 0 ^ k < ą ^ r,
gdzie e0 = 0, a e, jest f-wymiarowym wersorem o /-tej składowej równej jedności.
Istota konstrukcji klasy t ' polega na wyrażeniu nieznanej nieujemnie określonej macierzy £ w postaci
£ = X £ kq >
(k,q)
gdzie Akq są nieznanymi skaląrami takimi, że £ ^ 0, przy czym sumowanie przebiega po wszystkich parach wskaźników {k, q), takich, że 0 ^ k < ą ^ t.
Utworzenie tej klasy powoduje, że modele (3.6) i (3.7) należy zaliczyć do
rodziny ogólnych modeli liniowych opisanych w rozdziale poprzednim. Upo- ważnia nas to do zapisania modelu wieloreakcjowego w postaci
(3.11) {col (y,), diag (I, 0X t-) col (ąf) + col (M;0W.) y , ^ } ,
i = 1 i = 1 i = 1 i = 1
a modelu wieloreakcj owego z parametrami głównymi w postaci (3.12) {col(yf), col(M-0Wi) y, iT}.,
i=l i — 1
Na zakończenie zwróćmy jeszcze uwagę na dość istotny fakt. Mianowicie klasa 'V, pojawiająca się w wyżej określonych modelach zawiera macierz jednostkową stopnia m (m = Z t fU
i = 1
Spostrzeżenie to wynika z następujących równości M,'M, = Ir., i = 1,..., u,
Z eqe'q — If
q - i
które zastosowane w (3.8) i (3.9) prowadzą do równości
V = Z diag (Mi % < Mi = diag (M*: ( Z % ei) Mi = Im •
q = 1 i = 1 i —1 q ~ 1
4. Estymowalność liniowych funkcji parametrycznych w modelach wielo- reakcjowych. W rozdziale tym scharakteryzujemy klasę liniowych funkcji parametrycznych estymowalnych w modelu wieloreakcjowym. Ograniczymy się przy tym do funkcji liniowych związanych z parametrami głównymi.
Układ takich funkcji zapiszemy w postaci macierzy Z 'ID lub równoważnie w postaci wektora
(4.1) vec(Z'rD) = (D '0Z')y,
gdzie Z i D są znanymi macierzami odpowiednio v x r i t x s-wymiarowymi, a Y jest wektorem określonym w (3.4). Kryterium estymowalności funkcji (4.1) w modelu wieloreakcjowym z parametrami pobocznymi można sformułować następująco:
Twierd ze nie 4.1. Układ funkcji parametrycznych (D '0Z')y jest estymowal- ny w modelu wieloreakcjowym (3.11) z parametrami pobocznymi wtedy i tylko wtedy, gdy
(4.2) ę>(D®Z) <= ę(di'ag( £ W;Q, W,)),
j = 1 i e Aj
gdzie
(4.3) Q, = Ini - Xf (x; X,)- x;, i = i ,...,
a Aj jest zbiorem wskaźników tych modeli cząstkowych, w których obserwowa- na jest cecha j-ta.
Dowód. Niech X oraz W oznaczają odpowiednio macierze
(4.4) X = diag (lt. ®X,)
(4.5) W = col(MJ®Wi).
i = 1
Wtedy model wieloreakcjowy (3.11) można zapisać w postaci (4.6) {col ( y X col (ą,) + Wy, Y '}.
i = 1 i = 1
Ponieważ estymowalność funkcji parametrycznych w ogólnym modelu liniowym [y, U^, V ) nie zależy od struktury macierzy dyspersji D(y), więc dla ustalenia warunków estymowalności układu (4.1) możemy wykorzystać rezultaty sformułowane dla prostego modelu Gaussa-Markowa. Najwygod- niej będzie zastosować tu wynik podany przez Baksalarego w pracy [1]
(patrz także [4]), który stwierdza, że w modelu {y, Uot + Tp, Im} funkcja parametrów głównych p' p jest estymowalna wtedy i tylko wtedy, gdy (4.7) p e ? (r (I.-U (U 'U rU ')).
Dla układu funkcji (4.1) w modelu (4.6) warunek ten przybiera postać (4.8) <p(D®Z) <= ę (W'(Im- X(X'X)" X')),
U
gdzie m = Yj ni U • Z uwagi na symetrię i idempotentność macierzy
i = 1
I„-X (X 'X rX ' mamy
(4.9) 4>(W'(Im-X (X 'X )“ X')) = ę. (W' (I„ - X (X' X) - X') W).
Korzystając teraz z (4.4), (4.5), z własności iloczynu Kroneckera macierzy
U U
oraz z równości [col(A,-)]' = row(A-), otrzymujemy
i = 1 i= 1
(4.10) W(Im-X (X 'X )“ X,)W =
= row (M, ®WJ) diag (i, ®(I.. — X, (X,' X,)~ X;))cól(M;®W,.) =
i = l i = 1 i = 1
= £(M,.M;®w;QiW,.).
i = 1
Ponieważ każdy iloczyn M, M-, i = l,...,n , jest macierzą diagonalną o elementach niezerowych, wszystkich równych jedności, znajdujących się
— Matematyka stosowana
w kolumnach o numerach odpowiadających numerom cech związanych z /-tym modelem cząstkowym, więc spełniona jest równość
(4.11) £ (M;M)®W,'Q,-W,) = di'ag(£ W(Q,W,),
i=l j — 1 i eAj
która w świetle (4.10), (4.9) i (4.8) kończy dowód. ■
Kryterium zawarte w powyższym twierdzeniu jest dość uciążliwe w praktycznym zastosowaniu z uwagi na wymiary występujących w nim macie- rzy. Postaramy się usunąć tę wadę. Zauważmy, że w układzie funkcji Z 'ID kolejne wiersze macierzy D są związane z kolejnymi cechami, którym w macierzy parametrów T odpowiadają kolejne kolumny. Wiersze macierzy Z' określają natomiast współczynniki kombinacji liniowych wierszy macierzy T.
Informacje te wykorzystamy w poniższym kryterium estymowalności, które poza wygodą obliczeniową pozwala dodatkowo, w przypadku nieestymowal- ności układu funkcji Z 'ID , wskazać co jest tego przyczyną.
Twierdzenie 4.2. Niech D będzie t x s-wymiarową macierzą i niech Aj oznacza zbiór wskaźników tych modeli cząstkowych, w których występuje cecha j-ta. Wtedy warunkiem koniecznym i dostatecznym estymowalności układu funkcji parametrycznych (D'(x)Z')y w modelu wieloreakcjowym (3.11) z parame-
trami pobocznymi jest, aby dla każdego j będącego numerem niezerowego wiersza macierzy D spełniona była relacja
(4.12) <p(Z) <=?(*£ WJQ.WJ,
i eAj
gdzie macierze Q,, i = 1,..., u, określone są w (4.3).
D o wód. Macierz D(g)Z może być wyrażona w postaci
t S
D (x)Z = col (row (djk Z)),
j = 1 k = i
gdzie djk oznacza j, k-ty element macierzy D.
Warunek (4.2) z twierdzenia 4.1 można zapisać za pomocą inkluzji ę (col (row (djk Z))) c: ę (diag ( £ W| Q, W;)),
j = 1 k = l 7=1 ieAj
która jest równoważna układowi relacji
(4.13) <p(dn Z :djsZ) c ic p ^ W|Q(W(), 7 = 1,
ieAj
Z otrzymanych warunków (4.13) łatwo zauważyć, że będą one spełnione wtedy i tylko wtedy, gdy (4.12) zachodzi dla każdego j dla którego istnieje k takie, że dJk # 0, czyli dla każdego j będącego numerem niezerowego wiersza macierzy D. ■
Sformułowanie powyższego kryterium nasuwać może pytanie o związek, jaki zachodzi między estymowalnością układu funkcji (4.1) w modelu całoś-
ciowym a jego estymowalnością w poszczególnych modelach cząstkowych.
Rozważmy najpierw i-ty model cząstkowy. Wykorzystując ponownie waru- nek estymowalności (4.7), lecz tym razem w odniesieniu do modelu cząstko- wego (3.5), łatwo stwierdzić, że układ funkcji (D'(g)Z') y jest w tym modelu estymowalny wtedy i tylko wtedy, gdy zachodzi relacja
p(D<g>Z)c<p(Mi<g>W;Qi),
którą można zapisać równoważnie w postaci układu inkluzji (4.14) ę>(D)<=ę»(Mi), <p(Z) c: <p(W-Q*).
Z drugiej strony, wykorzystując symetrię i idempotentność macierzy Q, można wykazać, że warunek (4.12) związany z estymowalnością układu funkcji (4.1) w modelu całościowym jest równoważny warunkowi
(4.15) (p{Z)czę (row (W; Q,)) = (J (Wi Q;) •
i eAj ieAj
Z porównania warunków (4.14) i (4.15) wynika, że jeżeli układ funkcji Z 'ID jest estymowalny przynajmniej w jednym modelu cząstkowym, to jest on także estymowalny w modelu całościowym. Implikacja przeciwna nie jest jednak prawdziwa. Praktycznie oznacza to, że łączenie modeli cząstkowych w model całościowy jest z punktu widzenia estymacji nieobciążonej w pełni uzasadnione, gdyż prowadzi do rozszerzenia klasy funkcji estymowalnych.
Udowodnione w tym rozdziale kryteria estymowalności układu funkcji Z' ID dotyczą modeli wieloreakcjowych z parametrami pobocznymi. Odpo- wiednie kryteria dla modelu wieloreakcjowego (3.12) z parametrami główny- mi uzyskujemy, uwzględniając fakt, że w modelach tych X, = 0, i = 1,..., u.
Z estymowalnością funkcji parametrycznych związana jest jeszcze pewna inna ważna własność modeli wieloreakcjowych. Mianowicie, w świetle dysku- towanych warunków estymowalności układów funkcji parametrycznych w modelach cząstkowych, a w szczególności w świetle relacji (4.14), łatwo stwierdzić, że warunkiem koniecznym na to, aby istniał układ funkcji para- metrycznych (D'(x)Z')y estymowalny równocześnie w dwóch różnych, i-tym oraz j-tym, modelach cząstkowych jest, aby
(4.16) ,p(W;Q1.)n<(>(W;.Q,.)#{0}.
Warunek ten wykorzystamy w sformułowaniu następującej definicji.
De f in ic j a 4.1. Model wieloreakcj owy, w którym dla każdej pary wskaźni- ków (i, j), i,j = 1,..., u, i <j, zachodzi relacja (4.16), gdy jest to model z parametrami pobocznymi, lub relacja
ę>(W|)nę>(Wj)#{0},
gdy jest to model z parametrami głównymi, nazywamy modelem wieloreakcjo- wym właściwym.
Modelami takimi, choć tak nie nazwanymi, zajmowali się między innymi Trawinska i Bargmann w pracy [15], a także Galiński i Kozłowska w pracach [3] oraz [6].
5. Estymacja LNMD liniowych funkcji parametrycznych w modelach wieloreakcjowych. W poprzednim rozdziale sformułowaliśmy warunki, jakie musi spełniać układ liniowych funkcji parametrów głównych Z'ID, aby był on estymowalny w modelu wieloreakcjowym. Obecnie zajmiemy się określe- niem warunków zapewniających istnienie estymatora o minimalnej dyspersji w klasie liniowych nieobciążonych estymatorów Z' FD. Kryterium istnienia takiego estymatora w modelu z parametrami pobocznymi zawarte jest w poniższym twierdzeniu, które ponadto podaje postać tego estymatora w przypadku jego istnienia.
Twi erdzenie 5.1. Niech (D'®Z')y będzie układem funkcji parametrycznych estymowalnych w modelu wieloreakcjowym (3.11) z parametrami pobocznymi.
(a) Warunkiem koniecznym i dostatecznym istnienia estymatora LNMD układu funkcji (D'(x)Z')y jest, aby spełnione były relacje
(5.1) ę [col(M[ 'Lkt Mj M,'®Q, W,)diag((£ W.Q, W,)-)(D®Z)] c
i — 1 j — 1 ,e-^j
a q> (col (M- ®Qi W;)), 0 ^ k < q ^ t , i = 1
gdzie macierze Q; określone są w (4.3), macierze Lkq określone są w (3.10), natomiast Aj oznacza zbiór numerów tych modeli cząstkowych, w których występuje cecha j-ta.
(b) Jeżeli spełniony jest warunek (5.1), to estymatorem LNMD funkcji (D'<g)Z')y jest
(5.2) (D'®z7y = (D'<g>Z')diag((I w IQ .Wi)~)
t
(M.®W;Q,)y,.j — I ieAj i = 1
Dowód. W końcu rozdziału 3 zauważyliśmy, że w klasie Y macierzy dyspersji modelu (3.11) zawarta jest macierz jednostkowa. Zatem formułując kryterium istnienia estymatora LNMD układu funkcji (D '^Z 'Iy w tym modelu można posłużyć się twierdzeniem 2.1(a), zapisując uprzednio układ funkcji (D '^Z 'jy w postaci
(D'®Z,)Y = [0':D'®Z']
coKą,)U
Y
W rezultacie warunkiem koniecznym i dostatecznym istnienia estymatora LNMD dla rozważanych funkcji jest spełnienie układu relacji
(5.3)
<P Vkq [X: W] XX x w — 0
W'X W'w D(g)Z_ c<p([X:W]), 0 ^ k < q ^ t ,
gdzie macierze X i W określone są w (4.4) i (4.5).
Jedną z uogólnionych odwrotności macierzy X X X W
W X W'W jest macierz (X'X)-+AB~A -A B -
- B A B~ ’
gdzie A = (X 'X rX 'W , B = W'(Im —X(X'X)- X')W, m = £ n.t,- (patrz np.
i = 1
[11], s. 23). Korzystając teraz z równości
V([X:W]) = <p([X:(I„, —X(X'X)“ X')W]),
a także z (3.9), (4.4), (4.5) i (4.11) oraz z własności iloczynu Kroneckera macierzy, można prawą i lewą stronę inkluzji (5.3) przekształcić, uzyskując w rezultacie warunek równoważny w postaci
(5.4) <p(cćl(M;j;,M,M;®Q,.Wi)di'ag((X w ;Q j w ,.)-)(D ® z))c
*= 1 j = 1 ieAj
c ę ([diag (It ®X,): col ( M J W , ) ] ) , 0 ^ k < ą ^ t .
1=1 1=1
Dla zakończenia pierwszej części dowodu pozostaje zatem stwierdzić, że warunek (5.4) jest równoważny z (5.1). W tym celu wystarczy zauważyć, że relacje X- Q, = 0, i = 1,..., u, prowadzą do równości
[diag (I, ®Xj)]' col (M- ®Q,- W,) = 0,
ż=i i=i
[diag(I, 0X;)]' col (M,-Lfc9 Mf M,'®Qf Wf) = 0.
i= 1 /= 1
Postać estymatora (5.2) wynika wprost z twierdzenia 2.1(b). ■
Kryterium istnienia oraz postać estymatora LNMD układu funkcji (D'®Z')y w modelu wieloreakcjowym (3.13) z parametrami głównymi otrzy- muje się z formuł (5.1) i (5.2) przez podstawienie Q, = I„. dla i = 1,..., u.
Z punktu widzenia estymacji liniowych funkcji parametrycznych najbar- dziej przydatnymi modelami wieloreakcjowymi są modele, w których każda funkcja estymowalna posiada estymator LNMD. Postaramy się teraz określić warunki, jakie musi spełnić model wieloreakcjowy, aby posiadał powyższą własność.
Twi erdzenie 5.2. Każda estymowalna liniowa funkcja parametrów głównych ma w modelu wieloreakcjowym (3.11) z parametrami pobocznymi estymator LNMD wtedy i tylko wtedy, gdy zachodzą relacje
(5.5) ^(col(M ;H ,M l M;®Q1.W ,.))cę,(cól(M;®Q1Wi)), 0 ^ k < q ^ t ,
i = 1 i = 1
gdzie macierze Qf określone są w (4.3), a macierze 'Lkq w (3.10).
Dowód. Zacznijmy od określenia zbioru wszystkich estymowalnych funkcji parametrów głównych w modelu (3.11). W tym celu wykorzystamy możliwość wyrażenia tego modelu w postaci (4.6) oraz zastosujemy warunek (4.7) estymowalności funkcji parametrów głównych w ogólnym modelu linio- wym. Na mocy tego warunku zbiór wszystkich estymowalnych funk- cji parametrów głównych możemy zapisać albo w formie układu (Im — X(X' X)- X') Wy, albo, po użyciu równości (4.4) i (4.5), w postaci
c o1(m ; ®q i w 1.)y.
i = 1
Korzystając teraz z twierdzenia 5.1 możemy warunek istnienia estymatora LNMD dla tego układu wyrazić za pomocą relacji
(5.6) [col (MJ Eu, M* MJ®Q, W,) diag ((£ W,' Q, W,)")row (M, ®W,' Q,)] <=
i = l J — 1 i eA j i —l
c= (p(co\{M'i(g)Qi W,)), 0 ^ k < q ^ t . /= i
Aby pokazać równość przestrzeni liniowych występujących z lewej strony odpowiednio w relacjach (5.5) i (5.6) wprowadźmy oznaczenie
col (M- ®Qi W,-) = C . i= 1
Wtedy, korzystając z równości (4.11), (3.9) oraz z własności iloczynu Krone- ckera macierzy, możemy przestrzeń liniową występującą z lewej strony w relacji (5.6) zapisać w postaci
<K>(Vt,C(C'C )-C'),
a przestrzeń liniową występującą z lewej strony w relacji (5.5) w postaci
<p(VkgQ .
Równość tych przestrzeni łatwo ustalić na podstawie następującego ciągu inkluzji:
V (V„, C) = <p (V„, C (C e r c C) c ę (V„ C (C C) - C) <= q> (V„ C), co kończy dowód. ■
Analogiczny warunek dla modelu z parametrami głównymi uzyskujemy, podstawiając w (5.5) Q, = I„, i = 1,..., u.
Z punktu widzenia zastosowań praktycznych sformułowane tu kryterium nie jest zbyt wygodne. Decydują o tym przede wszystkim wymiary występu- jących w nim macierzy. Okazuje się jednak, że badając postać tych macierzy,
można znacznie prościej scharakteryzować modele wieloreakcjowe, w któ-
rych istnieją estymatory LNMD dla wszystkich estymowalnych funkcji para- metrów głównych. Uproszczenie to można uzyskać, określając związek mię- dzy przyporządkowaniem cech do poszczególnych modeli cząstkowych a strukturą macierzy dyspersji modelu. Okazuje się przy tym, że zależności te są takie same w modelu wieloreakcjowym z parametrami pobocznymi, jak i w modelu wieloreakcjowym z parametrami głównymi. Z tego też względu w prezentowanych poniżej twierdzeniach nie precyzuje się rodzaju modelu wieloreakcjowego, rozumiejąc, że dotyczą one obu modeli równocześnie, chociaż w dowodach tych twierdzeń bazować będziemy na modelu ogólniej- szym, tj. na modelu (3.11) z parametrami pobocznymi.
Twi er dz eni e 5.3. Jeżeli w modelu wieloreakcjowym wszystkie cechy są nieskorelowane, to dla każdej estymowalnej funkcji liniowej parametrów głów- nych istnieje estymator LNMD.
Dowód. Wobec założenia o nieskorelowaniu cech, warunek (5.5) gwaran- tujący istnienie estymatora LNMD dla dowolnej estymowalnej liniowej funkcji parametrów głównych redukuje się do postaci
(5.7) q> (col (M; L0, M,. MJ ®Q( W,)) <= ę (cól (M; ®Q, W,)), 0 < q r,
i = 1 i= 1
gdzie macierze Q, określone są wzorami (4.3), natomiast
^0q
przy czym tą jest q-tą kolumną macierzy If.
Niech teraz q będzie numerem dowolnej ustalonej cechy, a \fqi oraz m/
niech oznaczają j -te kolumny odpowiednio macierzy M , - M f M| oraz M'. Wykażemy, że
(5.8) j = q,
i ± </, 7 = 1,.. t.
W tym celu zauważmy, że macierze S09 oraz M, M| są macierzami diagonal- nymi, przy czym macierz T,0q ma jedyny niezerowy element, równy jedności, w kolumnie g-tej, a macierz M, M- ma f, niezerowych elementów, wszystkie równe jedności, w kolumnach o numerach odpowiadających numerom cech występujących w i-tym modelu cząstkowym. Jeżeli zatem r/-ta cecha nie występuje w i-tym modelu cząstkowym, to H0q M, M- = 0, a stąd hT = 0 dla j = 1,..., t. Ponieważ jednocześnie m? = 0, więc równość (5.8) jest spełniona.
Przyjmijmy teraz, że g-ta cecha jest obserwowana w i-tym modelu cząstko- wym. Wtedy L0<j M/ M- = H0q, a stąd hj,- = 0 dla j ^ q oraz h^, = mf, co również prowadzi do (5.8).
Z równości (5.8) łatwo zauważyć, że jedynymi niezerowymi kolumnami macierzy
col (Mj 5-o<j M,- Mj ®Qi W,)
są kolumny tworzące podmacierz
col(h®-(g)Q,- W,) = col(m?<g)Qi W(),
;= i 1=1
będącą podmacierzą macierzy col(M-(x)Q; W;). Stąd wynika prawdziwośćU
i = 1
relacji (5.7). ■
Udowodnione twierdzenie określa warunek dostateczny istnienia estyma- tora LNMD każdej liniowej funkcji parametrów głównych w modelu wielo- reakcjowym. Warunek ten jest jednak ograniczający, gdyż zawęża klasę macierzy dyspersji do macierzy diagonalnych. Kolejne twierdzenie podaje pełną charakteryzację modeli wieloreakcjowych właściwych w sensie definicji 4.1 dopuszczających istnienie estymatorów LNMD dla dowolnych estymo- walnych liniowych funkcji parametrów głównych.
Twierdzenie 5.4. W modelu wieloreakcjowym właściwym każda estymowal- na liniowa funkcja parametrów głównych ma estymator LNMD wtedy i tylko wtedy, gdy nie ma w tym modelu takiej pary cech skorelowanych, które występują łącznie choć w jednym modelu cząstkowym i jednocześnie tylko jedna z nich występuje w innym modelu cząstkowym.
Dowód. Wobec prawdziwości inkluzji (5.7) oraz wobec twierdzenia 5.2 warunkiem koniecznym i dostatecznym istnienia estymatora LNMD dla dowolnej estymowalnej liniowej funkcji parametrów głównych jest spełnienie relacji
(5.9) ę (col ( M - M , - M- <g)Q,- W,)) c ę (col (M- <g)Qf W;)), 1 ^ k < ą ^ t,
i= 1 i = 1
gdzie Qi określone są w (4.3), natomiast E^ = (efc + eq) (ek + eq)', przy czym e, jest /-tą kolumną macierzy If.
Podobnie jak w dowodzie twierdzenia poprzedniego niech h^, oraz mj reprezentują j-te kolumny odpowiednio macierzy M- ? kq M,- M- oraz M-, gdzie k oraz q są numerami dwóch dowolnych ustalonych, skorelowanych cech występujących w modelu całościowym. Ponadto niech B{ będzie zbiorem numerów cech występujących w i-tym modelu cząstkowym. Udowodnimy, że
(5.10)
mf + mf, gdy k, qeBi oraz j — k lub j = q, mf, gdy k ^B h qeBi oraz j = q, mf, gdy keB(, q$Bt orazj = k, 0 w pozostałych przypadkach.
Zauważmy najpierw, że jedynymi niezerowymi kolumnami macierzy ? kq są kolumny k-ta i q-ta, obie postaci ek + e9, oraz przypomnijmy, że macierz M, M- jest macierzą diagonalną z jedynkami w kolumnach o numerach należących do Jeżeli więc k, q$Bt, to M,- M- = 0, a stąd h[qi = 0 dla j = 1,..., t. Jeżeli keBf oraz q$Bt, to jedyną niezerową kolumną macierzy
jest kolumna k-ta i ma ona postać ek + e,. W tej sytuacji jedyną niezerową kolumną macierzy jest h^, = mf. Jeżeli k<£B,- oraz qeBh rozumując podobnie wnioskujemy, że jedyną niezerową kolumną macierzy Mj Mf M,' jest h^, = mf. Jeżeli wreszcie k, qeBh to
= skąd wynika, że jedynymi niezerowymi kolumnami macierzy M,' Mi Mj są kolumny k-ta i q-ta., przy czym każda z nich jest sumą postaci mf + mf.
Z równości (5.10) wynika w szczególności, że jedynymi niezerowymi kolumnami macierzy col ( M - M f Mt-(x)Q, W,) są kolumny tworzące podma-U
U ;= i
cierz col ([h£?i ®Qf W,-: h^, (g)Qf WJ). Z drugiej strony zauważmy, że w świetle i = 1
równości i' = 1 ,...,m, oraz związku (5.10) kolumny ostatnio wymienionej podmacierzy są ortogonalne do wybranych kolumn macierzy col(M-®Q; W,), a mianowicie do kolumn każdej podmacierzy postaciU
/ = i
co^m/^Q; Wf), jeśli tylko j ^ k oraz j ^ g. Warunek (5.9) możemy więcU
;= izapisać równoważnie w postaci
(5.11) ę (col {[Mkqi ®Q; W,-: h^. ®Qf W,])) <=
i = 1
c: <p (col ([mf 0Q i W i : mf ®Qf W,])), 1 ^ k < q ^ t . i= i
Reszta dowodu sprowadza się do wykazania, że warunek (5.11) jest równo- ważny wymaganiom sformułowanym w twierdzeniu. Dowód konieczności przeprowadzimy nie wprost. Przyjmijmy, że w jakimś, powiedzmy w p-tym, modelu cząstkowym występują cechy k-ta i q-ta oraz że w innym modelu cząstkowym, powiedzmy w r-tym, występuje tylko jedna z nich, powiedzmy cecha k-ta. Założenia te można zapisać następująco: k , q e B p oraz k e B r i q<£Br. Wobec równości (5.10) implikują one, że h^ąp = h^p = m£ + m£, hj^r
= 0, m? = 0. Uwzględniając teraz fakt, że kolumny mp oraz mqp są wektora- mi mającymi po jednym niezerowym elemencie, równym jedności, w dwóch różnych wierszach, można zauważyć, że spełnienie warunku (5.11) implikuje w szczególności istnienie takiej macierzy L, że QpWp = QpWpL oraz 0 = QrWrL. Jednak wobec rezultatu uzyskanego przez Kałę w [5] macierz taka istnieje wtedy i tylko wtedy, gdy <p (Wp Qp) n q> (Wr Qr) = {0}, co jest sprzeczne z założeniem że rozważany model wieloreakcjowy jest modelem właściwym w sensie definicji 4.1.
Dowód dostateczności również przeprowadzimy nie wprost. W tym celu przyjmijmy, że warunek (5.11) nie jest spełniony oraz że dla każdej pary (k, q) skorelowanych cech występujących w modelu wieloreakcjowym nie ma ta- kich dwóch modeli cząstkowych, z których w jednym występują obie cechy
k-ta i q-ta (k # q) łącznie, a w drugim modelu cząstkowym występuje tylko jedna z nich.
Utwórzmy zbiory
Pkq = [i: k e B h qeBi}, Pk = [i: k e B h q i B t}, Pq = [i: k$Bh qeBi}, P = [i: k<£Bi, q$Bi).
Przy tych oznaczeniach poczynione założenia można wyrazić następująco:
jeżeli Pkq 0 , to Pk = 0 i Pq = 0 oraz jeżeli Pkq = 0, to Pk # 0 i Pq # 0.
Rozważmy pierwszą z tych możliwości, tj. sytuację, gdy Pkq ^ 0 . Wtedy dla iePkq mamy hkqi = h^, = mf + mf, a dla pozostałych i, tj. dla
= h^f = 0 = mf = m? = mf + mf. Stąd
col (h^,- 0Q i WJ = col (h^ ®Qi W^ =
i = 1 i — 1
= col ((m- + mf) <S>Qi W,) =
i= 1
= col ((mf ®Q; W,) + (mf W()), i= i
co przeczy założeniu, że warunek (5.11) nie jest spełniony.
Rozważmy teraz przypadek, gdy Pką = 0. Wtedy dla iePk zachodzą równości = mf oraz hlqi = 0 = mf, a dla i e Pq mamy hkqi = 0 = mf oraz
= mf. Wreszcie dla i e P hkqi = hlqi = 0 = mf = mf. W konsekwencji col ([hkkqi <g>Qf Wf: hqkqi <g)Q{ W,]) = col ([mf ®Q(- Wt : mf ®Q,- W,]),
i=l i = 1
co przeczy założeniu, że warunek (5.11) nie jest spełniony. ■
Z powyższych twierdzeń wynika, że modelami wieloreakcjowymi zapew- niającymi istnienie estymatorów LNMD dla wszystkich estymowalnych linio- wych funkcji parametrów głównych są między innymi modele, w których w każdym modelu cząstkowym występują inne cechy, a także modele wielo- reakcjowe kompletne.
Jeżeli badany model wieloreakcjowy spełnia założenia twierdzenia 5.3 lub 5.4, to estymator dowolnego układu funkcji estymowalnych (D'®Z')y łatwo wyznaczyć, korzystając ze wzoru (5.2). Jeżeli natomiast badany model nie spełnia założeń wymienionych twierdzeń, to pozostają warunki (5.1) umożli- wiające stwierdzenie, czy zadany konkretny układ funkcji (D'®Z')y, będący podzbiorem zbioru wszystkich funkcji estymowalnych, dopuszcza istnienie estymatora LNMD.
Bibliografia
[1] J. K. B ak salary, A study of the equivalence between a Gauss-Markoff model and its augmentation by nuisance parameters, Math. Operationsforsch. u. Statist., Series Statistic, Vol. 15 (1984).
[2] R. C. Bose, The fundamental theorem of linear estimation, Proceedings of the Thirty-First Indian Science Congress 4 III 1944, 2-3.
[3] T. C a liń sk i, M. K o zło w sk a , Estymacja kontrastów w układzie blokowym wieloreakcjo- wym niekompletnym, Matematyka Stosowana XIV (1979), 33-47.
[4] J. Fe 11 man, On the effect of „nuisance” parameters in linear models, Sankhya, Ser. A, 33 (1976), 197-200.
[5] R. K ala, Projectors and linear estimation in general linear models, Commun. Statist. A10 (1981), 849-873.
[6] M. K o zło w sk a , Analiza doświadczenia wielocechowego założonego w układzie blokowym wieloreakcjowym niekompletnym, Dziewiąte Colloquium Metodologiczne z Agro-Biometrii, PAN, Warszawa (1979), 254-275.
[71 F. M. Lord, Estimation of parameters from incomplete data, J. Amer. Statist. Assoc. 50 (1955), 870-876.
[8] S. K. M itra, Generalized inverse of matrices and its applications to linear models, Hand- book of Statistics 1 Analysis of Variance, Edited by P. R. Krishnayah, North Holland, Amsterdam 1980.
[9] H. N eu d eck er, Some theorems on matrix differentiation with special reference to Kronec- ker matrix products. J. Amer. Statist. Assoc. 64 (1969), 953-963.
[10] S. N. Roy, R. G n a n a d esik a n , J. N. S riv a sta v a , Analysis and design of certain quantitative multiresponse experiments, Pergamon Press, Oxford 1971.
[11] S. R. Searle, Linear models, Wiley, New York 1971.
[12] — A univariate formulation of the multivariate linear model, Contributions to Survey Sampling and Applied Statistics, Edited by H. A. David, Academic Press, New York 1978.
[13] J. N. S riv a sta v a , Incomplete multiresponse designs, Sankhya Ser. A, 26 (1966), 377-388.
[14] — On a general class of desings for multiresponse experiments, Ann. Math. Statist. 39 (1968), 1825-1843.
[15] I. M. T raw in sk i, R. E. B argm ann, Maximum likelihood estimation with incomplete multivariate data, Ann. Math. Statist. 35 (1964), 647-657.
[16] R. F. W o o lso n , J. D. L eeper, W. R. C larke, Analysis of incomplete data from longitudinal and mixed longitudinal studies. J. Roy. Statist. Soc., Ser. A 141 (1978). 242-252.
[17] G. Z yskind, On canonical forms, non-negative covariance matrices and best and simple least squares linear estimators in linear models, Ann. Math. Statist. 38 (1967), 1092-1109.
[18] G. Z ysk in d , F. B. M artin, On best linear estimation and a general Gauss-Markoff theorem in linear models with arbitrary nonnegative covariance structure, SIAM J. Appl.
Math. 17 (1969), 1190-1202.
[19] R. Z m yślon y, A characterisation of best linear unbiased estimators in the general linear model, Proceedings Sixth International Conference Wisła 1978, Lecture Notes in Statistics 2, Springer-Verlag, New York 1980.
