• Nie Znaleziono Wyników

2. Idea podejcia kontrfaktycznego jako narzdzia ewaluacji

2.1. Ograniczenia zastosowania modeli regresji oraz metod naiwnych w badaniu wpywu

2.1.2. Metody naiwne

Drug grup metod oceny wpywu, do której chcemy si odnie s tzw.

metody naiwne4. Przedstawiony w tej czci przegld oparto na pracy [Micha-lek, 2012a].

Metody naiwne bazuj na prostych, nieskomplikowanych algorytmach.

Uwzgldniamy je w pracy, aby zwróci uwag na niebezpieczestwa i problemy wynikajce z ich zastosowania w przypadku prowadzenia ewaluacji.

Podstaw oceny wpywu wybranego oddziaywania jest porównanie wartoci przyjmowanych przez zmienn wynikow (wskanik rezultatu) w przypadku wystpienia oddziaywania i dla jego braku. Warto jednak zauwa y, e takie proste zestawienie wartoci nie jest wystarczajce, istnieje bowiem szereg czynników wpywajcych na ksztatowanie si badanej zmiennej. Najbardziej istotne naszym zdaniem problemy, jakie czsto napotyka si stosujc metody naiwne, zilustrowano schematycznie na rysunku 16.

W obu przedstawionych na schemacie sytuacjach (wystpienia zewntrznego oddziaywania, którego wpyw jest przedmiotem oceny oraz jego braku), wartoci zmiennej wynikowej zale ne s od cech opisujcych zarówno badany obiekt, jak i jego otoczenie. Poniewa obserwacje maj miejsce w czasie, dla uproszczenia wyró nilimy dwa momenty czasowe (t, w którym nie wystpio oddziaywanie, którego efekt poddany jest badaniu, oraz t+1, w którym cz obiektów zostaa poddana badanemu oddziaywaniu, a ono samo pojawia si wród determinant wartoci przyjmowanych przez zmienn

wynikow). Zarówno cechy danego obiektu, jak i jego otoczenia mog si

zmienia wraz z upywem czasu, za w przyjtym na schemacie ujciu zmiany



4 Okrelenie nie ma charakteru deprecjonujcego, jest terminem przyjmowanym w literaturze w przypadku metod opierajcych si na prostych algorytmach.

te uzale nione s od stanu poprzedzajcego. Oba te uwarunkowania dodatkowo wpywaj na siebie nawzajem.

Ma to oczywicie uzasadnienie w empirii. Uwarunkowania ekonomiczne podlegaj pewnej ewolucji wraz ze zmianami zachodzcymi w caej gospodarce, co w zwykej sytuacji jest zajwiskiem podlegajcym okrelonym reguom, mo liwym do zaobserwowania i – w pewnym zakresie – prognozowania.

Zmiany zachodzce w danym obiekcie równie stanowi pochodn

poprzedzajcego stanu (np. dochody osigane przez jednostk w okresie t+1 wynika mog z wyksztacenia zdobytego w okresie t, podobnie jak inwestycje w gospodarstwie podjte w okresie t+1 mo na traktowa jako efekt oszczdnoci dokonanych w momencie t itd.).

Zarówno uwarunkowania z okresu t, jak i t+1 maj w naszym ujciu wpyw na ksztatowanie si wartoci zmiennej wynikowej ܻ. Efekt wpywu mo e zatem by do intuicyjnie oceniony na podstawie porównania wartoci tej zmiennej w grupie obiektów poddanych wpywowi i dla jednostek, dla których aden wpyw nie wystpi. Schemat pozwala jednak zaznaczy zao enia przyjmowane w metodach naiwnych, które przyczyniaj si do powstawania zbdnych komplikacji lub wrcz bdów we wnioskowaniu.

Pierwszym aspektem, na który chcemy zwróci uwag, jest wybór wartoci zmiennej wynikowej, jakie bd podstaw porówna. Porównanie to mo e by bowiem dokonane zarówno w ujciu dynamicznym (w czasie), jak i w przekrojowym (skoncentrowanym na ró nicach pomidzy badanymi jednostkami). W tym pierwszym, oznaczonym na schemacie pojedynczymi strzakami opatrzonymi numerem 1, porównywane s wartoci zmiennej wynikowej dla tej samej grupy obiektów przed i po wystpieniu interwencji (wartoci z okresu t+1 zestawiane s z wartociami z okresu t). W takim podejciu nie s w ogóle uwzgldniane nie tylko informacje dotyczce obiektów niepoddanych oddziaywaniu, ale i zale noci dynamiczne pomidzy uwarunkowaniami i midzy uwarunkowaniami a zmienn wynikow.



Rysunek 16. Schemat wpywu oddziaywania i innych czynników na ksztatowanie si wartoci zmiennej wynikowej w czasie



ródo: opracowanie wasne.

Cechyitego

Pierwsza z rozpatrywanych metod opiera si zatem na prostym porówna-niu wartoci zmiennej wynikowej przed i po wystpieporówna-niu oddziaywania:

ܻ௜ǡ௧ାଵെ ܻ௜ǡ௧ dla:

ܦ௜ǡ௧ ൌ Ͳǡ ܦ௜ǡ௧ାଵ ൌ ͳ gdzie:

ܦ௜ǡ௧ Ȃ zmienna zerojedynkowa opisujca fakt poddania i-tego obiektu od-dziaywaniu w okresie t,

ܻ௜ǡ௧ Ȃ zmienna wynikowa dla i-tego obiektu w okresie t.

Wprawdzie analiza prowadzona jest tutaj w ujciu dynamicznym, ale po-peniany jest w tym wypadku bd zwizany z brakiem wyodrbnienia

zale no-ci przyczynowo-skutkowej. Pod uwag bierze si bowiem tylko jeden z przed-stawionych wczeniej warunków wystpowania zale noci przyczynowo-skutkowej wg. Lazarsfelda [1959], tj. nastpstwo w czasie.

Zakada si, e jedynym czynnikiem ró nicujcym okres przed wystpie-niem wpywu i po zaistnieniu oddziaywania jest samo oddziaywanie i tylko ono mo e wpywa na warto zmiennej wynikowej (wskanika rezultatu), co na schemacie zilustrowano podwójnymi strzakami opatrzonymi numerem 1.

Neguje si istnienie innych zmian, np. wynikajcych z otoczenia niezwizanego z oddziaywaniem lub bdcych efektem procesów endogenicznych zachodz-cych w badanym obiekcie:

ࢄԢ࢏ǡ࢚ൌ ࢄԢ࢏ǡ࢚ା૚

ࢄԢԢ࢏ǡ࢚ൌ ࢄԢԢ࢏ǡ࢚ା૚

gdzie:

ࢄԢ࢏ǡ࢚ – wektor wartoci cech i-tego obiektu w okresie t,

ࢄԢԢ࢏ǡ࢚ – wektor wartoci cech otoczenia i-tego obiektu w okresie t.

Jest to pierwszy z zasygnalizowanych ju przez nas i oznaczonych na schemacie przypadków.

W sytuacji, kiedy porównywanie dokonywane jest jedynie w ujciu przekrojowym (tj. wartoci uzyskane w okresie t+1 dla obiektów poddanych oddziaywaniu zestawione zostaj z wartociami z tego samego okresu dla obiektów niepoddanych wpywowi), który oznaczono na schemacie strzakami

opatrzonymi cyfr 2, przyjmowane jest zao enie, zgodnie z którym bez wystpienia oddziaywania wartoci zmiennej wynikowej dla wszystkich obiektów ksztatowayby si w taki sam sposób.

Dotyczy to drugiego z przytoczonych przez Michalka [2012a] przyka-dów, tj. midzy obiektami poddanymi i niepoddanymi oddziaywaniu. Nale y nadmieni, e w takim wypadku, w przeciwiestwie do poprzednio omawianej metody, mo liwa jest ocena jedynie przecitnego wpywu, zdefiniowanego po-ni szym wzorem, nie mo na natomiast ustali wpywu dla wybranego obiektu (mo na go jedynie przybli a za pomoc tej redniej wartoci).

ܹഥ ൌ ͳ

ܹഥ Ȃredni wpyw oddziaywania w badanej grupie,

݊Ȃliczebno grupy obiektów poddanych oddziaywaniu,

݊Ȃliczebno grupy obiektów niepoddanych oddziaywaniu.



Wówczas dla indywidualnego obiektu przyj mo na, e:

ܹ ൌ ܹഥ gdzie:

ܹ – wpyw oddziaywania na i-ty obiekt.

Cytowany autor zwraca uwag na istotny problem zwizany z tym

podej-ciem, a mianowicie na fakt, i odpowiednie dane dotyczce grupy obiektów nieobjtych oddziaywaniem nie zawsze s dostpne [Michalek, 2012a]. Jest to jednak, jak si wydaje, mniej istotny problem, mimo i brak nale ycie wyzna-czonych odpowiedników dla badanych obiektów wpywa na wiarygodno uzy-skanych wyników. Niemniej jednak istniej metody, za pomoc których wród obiektów, dla których ܦ௜ǡ௧ାଵ = 0, mo na wyznaczy odpowiednie jednostki b-dce podstaw porównania z grup poddan wpywowi. Bd one wykorzystane w niniejszej pracy.

Bardziej wart odnotowania jest fakt, e rezygnacja z wyznaczenia odpo-wiedniej grupy do przeprowadzenia porównania oznacza przyjcie w tym toku analizy zao enia, zgodnie z którym jedynym czynnikiem wpywajcym na war-toci zmiennej wynikowej jest wystpienie oddziaywania, za w przypadku je-go braku wartoci zmiennych wynikowych ksztatowayby si w obu grupach tak samo, a zatem mo na przypuszcza, e:

ࢄԢ࢏ǡ࢚ା૚ȁ೔ǡ೟శభୀଵൌ ࢄԢ࢏ǡ࢚ା૚ȁ೔ǡ೟శభୀ଴

ࢄԢԢ࢏ǡ࢚ା૚ȁ೔ǡ೟శభୀଵൌ ࢄԢԢ࢏ǡ࢚ା૚ȁ೔ǡ೟శభୀ଴

Podobnie jak w poprzednim przykadzie, jeli nie zostanie zagwarantowa-ne spenienie tego zao enia, to nie ma podstaw do wnioskowania o istnieniu zale noci przyczynowo-skutkowej, nawet w przypadku wystpienia zró nico-wania w wartociach zmiennej wynikowej dla obu grup.

Trzecia z omawianych przez Michalka [2012a] metod naiwnych jest zbli- ona do powy szej, a porównanie ponownie dokonywane jest w ujciu przekro-jowym. Tym razem jednak wynik uzyskany dla obiektów poddanych oddziay-waniu porównywany jest z wartociami zmiennej wynikowej uzyskanymi dla caej badanej grupy, tj. zarówno obiektów poddanych, jak i niepoddanych od-dziaywaniu:

ܹഥ଴ǡଵȂredni wpyw oddziaywania w badanej grupie wzgldem caej próby. Podejcie takie, jak zauwa a Michalek [2012a], posiada t sam sabo

co poprzednio rozwa ane, zwizan z zao eniem o staoci cech i wynikajcej z niej jednakowoci ksztatowania si zmiennej wynikowej w hipotetycznym przypadku braku wystpienia interwencji w obu grupach, a dodatkowo wi e si

z trudnociami interpretacyjnymi.