Generowanie reguł klasyfikujących

Inteligentne Systemy Obliczeniowe Wykład 6

Piotr W ˛ asiewicz

Zakład Sztucznej Inteligencji - ISE PW

pwasiewi@elka.pw.edu.pl

Generowanie reguł klasyfikujących

algorytmem AQ

Indukcja reguł

• Kompleks k składa si ˛e z selektorów.

• k ¹ = {< słoneczna ∨ deszczowa, zimna ∨ ciepła, ?, ? >}

k ² = {< słoneczna, ciepła, ?, ? >}

k ² ≺ k ¹

k 2 jest bardziej szczegółowe od k 1 , k 1 jest bardziej ogólne od k 2

• S ⊲ k to dokładniej (∃k ∈ S)k ⊲ x - zbiór wszystkich x pokrywanych przez k ∈ S

• {k ¹ ⊲ x } = {1, 2, 5, 6, 9}

• {k ² ⊲ x } = {1, 2}

• Kompleks tylko z jednym selektorem nieuniwersalnym zwany jest

kompleksem atomowym

.

Indukcja reguł - sekwencyjne pokrywanie

funkcja

T

argumenty wej´sciowe:

• T - zbiór trenuj ˛ acy dla poj ˛ecia c

zwraca: zbiór reguł reprezentuj ˛ acy hipotez ˛e przybli˙zaj ˛ ac ˛ a c R := 0; P := T ;

jak długo P 6= 0 wykonaj

k := znajdź-kompleks (T, P );

d := kategoria(k, T, P );

R := R ∪ {k → d};

P := P − P ^k ;

koniec jak długo

zwró´c R

Indukcja reguł - algorytm AQ

funkcja

T, P

argumenty wej´sciowe:

• T - zbiór trenuj ˛ acy dla poj ˛ecia c,

• P - podzbiór zbioru T zawieraj ˛ acy przykłady nie pokryte przez wygenerowane wcze´sniej reguły

zwraca: kompleks pokrywaj ˛ acy pewn ˛ a liczb ˛e przykładów z P nale˙z ˛ acych do jednej kategorii;

x

:= ziarno − pozytywne(P );

S := {<? >};

jak długo (∃x ∈ T )S ⊲ x ∧ c(x) 6= c(x

) wykonaj x

:= ziarno -negatywne(T, S, x

) ;

S

:= częściowa-gwiazda(x

, x

);

je´sli S

= 0 to zwró´c < 0 >;

koniec je´sli S := S ∩ S

S := S − {k ∈ S|(∃k

∈ S)k ≺ k

}

S := Arg max

v (x , T, P )

Indukcja reguł - częściowa gwiazda

funkcja

x ^s , x ⁿ

argumenty wej´sciowe:

• x ^s − ziarno-pozytywne,

• x ⁿ − ziarno-negatywne

zwraca: zbiór maksymalnie ogólnych kompleksów pokrywaj ˛ acych x ^s i nie pokrywaj ˛ acych x ⁿ

S ^′ := 0

dla wszystkich atrybutów a ⁱ okre´slonych na dziedzinie wykonaj

k :=<? >; - kompleks V := A ⁱ − {a ⁱ (x ⁿ )};

je´sli a ⁱ (x ^s ) ∈ V to

umie´s´c selektor s V w k na

pozycji i;

Zbiór testowy T

x aura temperatura wilgotno´s´c wiatr c (x)

1 słoneczna ciepła du˙za słaby 0

2 słoneczna ciepła du˙za silny 0

3 pochmurna ciepła du˙za słaby 1

4 deszczowa umiarkowana du˙za słaby 1

5 deszczowa zimna normalna słaby 1

6 deszczowa zimna normalna silny 0

7 pochmurna zimna normalna silny 1

8 słoneczna umiarkowana du˙za słaby 0

9 słoneczna zimna normalna słaby 1

10 deszczowa umiarkowana normalna słaby 1

Kolejne kroki algorytmu AQ

1. Dla r = 0, P = T = {1, ..., 14} wywołanie

(T, P ).

• x ^s = 1, c(x ^s ) = 0 , x ⁿ = 3, c(x ⁿ ) = 1 , S = {<? >}

• powstaje cz ˛e´sciowa gwiazda:

S ^′ = S ∩ S ^′ = {< słoneczna ∨ deszczowa, ?, ?, ? >};

• gwiazda w dalszym ci ˛ agu pokrywa przykłady z T o kategorii 1, wybór x ⁿ = 4

• S ^′ = {< słoneczna∨pochmurna, ?, ?, ? >, <?, zimna∨ciepła, ?, ? >}

• S ∩ S ^′ = {< słoneczna, ?, ?, ? >, <

słoneczna ∨ deszczowa, zimna ∨ ciepła, ?, ? >}

• S = {k ¹ , k 2 }, v ^k

= |T k ⁰

1

| + (|T ¹ | − |T k ¹

1

|) = 3 + (9 − 2) = 10, v ^k

= 10

• wybór pada na k ² , który pokrywa dalej przykłady z c = 1, x ⁿ = 5

• S ^′ = {< słoneczna ∨ pochmurna, ?, ?, ? >, <

?, umiarkowana ∨ ciepła, ?, ? >, <?, ?, duża, ? >}

Kolejne kroki algorytmu AQ

2. R = {< słoneczna ∨ deszczowa, zimna ∨ ciepła, duża, ? >→ 0}

3. P = {3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14}, dla P 6= 0

(T, P )

4. dla x ^s = 3, c(x ^s ) = 1 powstaje nowa reguła:

R = {< słoneczna ∨ deszczowa, zimna ∨ ciepła, duża, ? >→ 0, <

pochmurna ∨ deszczowa, ?, ?, słaby >→ 1}

5. Po kolejnych wywołaniach głównej funkcji i zmniejszaniu zbioru P otrzymuje si ˛e zbiór reguł:

R = {< słoneczna ∨ deszczowa, zimna ∨ ciepła, duża, ? >→ 0,

< pochmurna ∨ deszczowa, ?, ?, słaby >→ 1,

< deszczowa, zimna ∨ umiarkowana, ?, silny >→ 0,

< słoneczna ∨ pochmurna, zimna ∨ umiarkowana, ?, silny >→ 1,