colt

Pełen tekst

(1)Czego moga˛ si˛e nauczyć komputery? Andrzej Skowron, Hung Son Nguyen son@mimuw.edu.pl; skowron@mimuw.edu.pl. Instytut Matematyki, Wydział MIM, UW. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.1/27.

(2) Spis tre´sci Wprowadzenie do uczenia maszynowego; Co to znaczy, z˙ e komputer si˛e wyuczy jakich´s poj˛ec´ ? Model PAC Efektywne uczenie si˛e Jakich klas poj˛ec´ jest si˛e w stanie wyuczyć komputer? Wymiar Vapnika-Chervonenkisa Ciekawe oszacowania. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.2/27.

(3) Kto si˛e uczy? Ograniczymy si˛e do programów komputerowych zwanych ”algorytmami uczacymi ˛ si˛e”. Tak jak zwykli uczniowie, sa˛ na nie nało˙zone pewne rygorystyczne wymagania: np. musza˛ być skuteczne, moga˛ korzystać z ograniczonej pami˛eci, moga˛ u˙zywać pewnej specyficznej reprezentacji wiedzy.. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.3/27.

(4) Dziedzina:“czego” si˛e uczy? Przykłady uczenia si˛e: poj˛ec´ : uczeń próbuje znale´zc´ reguł odró˙zniajacych ˛ pozytywne przykłady od negatywnych. (np. poj˛ecie “krzesło”). nieznanych urzadze´ ˛ n – np. u˙zywanie VCR nieznanych s´rodowisk – (np. nowe miasto) procesów (np. pieczenie ciasta) nieznanych rodzin podobnych wzorców (np. rozpoznawanie mowy, twarzy lub pisma) funkcji: (np. funkcje boolowskie). colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.4/27.

(5) Model uczenia Ka˙zdy “model uczenia” powinien uwzgl˛ednić proces uczenia si˛e ró˙znych przedmiotów. Np. je´sli uczymy si˛e funkcji, to wa˙zne jest aby “algorytm uczenia si˛e” nie ograniczał si˛e do jednej konkretnej funkcji. Z˙ adamy ˛ aby “modele uczenia” działały skutecznie na klasach funkcji.. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.5/27.

(6) ´ Zródło informacji: Uczeń mo˙ze pozyskać informacje o dziedzinie poprzez: 1. Przykłady: Uczeń dostaje pozytywne i/lub negatywne przykłady. Przykłady moga˛ być wybrane (a) losowo według pewnego znanego lub nieznanego rozkładu; (b) arbitralnie; (c) zło´sliwie (np. przez kontrolera, który chciałby poznać najgorsze zachowanie algorytmu uczenia si˛e); (d) specjalnie przez z˙ yczliwego nauczyciela (aby ułatwiać proces uczenia si˛e). 2. Zapytania: 3. Eksperymentowanie: (aktywne uczenie si˛e). colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.6/27.

(7) Kryteria oceny jako´sci: Skad ˛ wiemy, czy uczen´ si˛e nauczył lub jak dobrze si˛e nauczył? Miary off-line (batch) vs. on-line (interactive). Jako´sc´ opisu vs. jako´sc´ predykcji Skuteczno´sc´ : obliczona na podstawie bł˛edu klasyfikacji, dokładno´sci opisu ... Efektywno´sc´ uczenia: wymagana jest wielomianowa zło˙zono´sc´ obliczeniowa.. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.7/27.

(8) Przykład. . . . .

(9). . . . . . . Załó˙zmy, z˙ e chcemy nauczyć si˛e poj˛ecia ”człowieka o s´redniej budowie ciała”. Dane – czyli osoby – sa˛ i reprezentowane przez punkty sa˛ etykietowane przez dla pozytywnych przykładów i dla negatywnych. Dodatkowa wiedza: szukane poj˛ecie mo˙zna wyrazić za pomoca˛ PROSTOKATA ˛. . .

(10) . .

(11). . . . . . . . . . . Znajd´z etykiet˛e. . . .

(12) . . . . .

(13) . . .

(14). . . . . .

(15). .

(16) . .

(17) . . . . . . Na przykład dany jest etykietowany zbiór: , , , , , , ,. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.8/27.

(18) Problem uczenia si˛e prostokata ˛ . Mo˙zemy definiować problem jak nast˛epujaco: ˛. . .

(19) . . . . Cel: Znale´zc´ w prostokat ˛ o bokach równoległych do osi. Wej´scie: Zbiór zawierajacy ˛ przykłady w postaci . Te punkty zostały punktów wygenerowane losowo. Wyj´scie: Znale´zc´ hipotetyczny prostokat ˛ b˛edacy ˛ ”dobra˛ aproksymacja” ˛ . Dodatkowe wymagania: Algorytm powinien być efektywny (czasowo) u˙zywajac ˛ do uczenia najmniejszej liczby przykładów. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.9/27.

(20) Ogólny model uczenia si˛e Dane sa˛ (skończony lub nie);. . zbiór wszystkich obiektów (funkcja celu);. . . poj˛ecie. . . . wraz z. . . . . skończona próbka obiektów warto´scia˛ funkcji na tych obiektach; przestrzeń hipotez. ;. b˛edaca ˛ dobra˛ aproksymacja˛ poj˛ecia . . hipoteza. . Szukane Wymagane dobra jako´sc´ aproksymacji szybki czas działania. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.10/27.

(21) Inne przykłady

(22). .

(23) . . . . . . .

(24) . . . . . . . . . . . Uczenie półosi (lub dyskretyzacji): ; Uczenie hiperpłaszczyzny:. . . #. #. . %$#. ". . !. . . . . . . . . . gdzie.

(25). . . . . . . . ". . . . &. . . .

(26).

(27). Uczenie jednomianów Boolowskich: ; ; = zbiór jednomianów Boolowskich o zmiennych, t.j. zbiór koniunkcji literałów b˛edacych ˛ albo zmiennymi bad´ ˛ z negacjami zmiennych.. .. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.11/27.

(28) Bład ˛ hipotezy Niech. – zbiór wszystkich obiektów. .. . . – przestrzeń probabilistyczna okre´slona na wzgl˛edem poj˛ecia (funkcji docelowej):. . . . . . . . . . :.

(29) . . . . .

(30) . . . . . . . . . .

(31). . . . . . . . . . mo˙zemy oszacować. . . Z prawdopodobieństwem. . . . . . . . . . . . . . Bład ˛ hipotezy. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.12/27.

(32) The No Free Lunch Theorem . . . . . . . . . . . . . . . . Algorytm dobrze si˛e uczy poj˛ecia je´sli jest mały. . Czy mo˙zna powiedzieć, z˙ e Niech uczy si˛e wszystkich poj˛ec´ z lepiej od ? ”No Free Lunch theorem” (Wolpert, Schaffer) głosi, z˙ e: ˙ Zaden algorytm nie mo˙ze być najlepszy w uczeniu wszystkich poj˛ec´ .. Ka˙zdy algorytm jest najlepszy dla takiej samej liczby poj˛ec´ . . . Ale interesuja˛ nam tylko konkretne problemy czyli klasy poj˛ec´ Wniosek: Dopasuj algorytm do problemu.. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.13/27.

(33) Dane: dziedzina. , klasa poj˛ec´. . Model uczenia si˛e PAC i przestrzeń hipotez ucznia. .. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.14/27.

(34) . Model uczenia si˛e PAC. , klasa poj˛ec´. i przestrzeń hipotez ucznia. .. . Dane: dziedzina. na podstawie przykładów. . . Uczeń uczy si˛e poj˛ecia. . wygenerowanych przez zm.l. (zwana˛ rodzina wszystkich zbiorów zawierajacych ˛ wyrocznia). ˛. . . . . . . . . . . . . . . . . . . . . przykładów. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.14/27.

(35) . Model uczenia si˛e PAC. , klasa poj˛ec´. i przestrzeń hipotez ucznia. .. . Dane: dziedzina. na podstawie przykładów. . . Uczeń uczy si˛e poj˛ecia. . wygenerowanych przez zm.l. (zwana˛ rodzina wszystkich zbiorów zawierajacych ˛ wyrocznia). ˛. . . . . . . . . . . . . . . . . . . . . przykładów. . . . . Celem do wyuczenia przez ucznia jest znalezienie hipotezy minimalizujacej ˛ bład ˛ rzeczywisty wzgl˛edem dla rozkładu , czyli .. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.14/27.

(36) . Model uczenia si˛e PAC. , klasa poj˛ec´. i przestrzeń hipotez ucznia. .. . Dane: dziedzina. na podstawie przykładów. . . Uczeń uczy si˛e poj˛ecia. . wygenerowanych przez zm.l. (zwana˛ rodzina wszystkich zbiorów zawierajacych ˛ wyrocznia). ˛. . . . . . . . . . . . . . . . . . . . . przykładów. . . . . Celem do wyuczenia przez ucznia jest znalezienie hipotezy minimalizujacej ˛ bład ˛ rzeczywisty wzgl˛edem dla rozkładu , czyli . Zasadnicza idea modelu PAC = okre´slenie warunków, pod jakimi uczeń (lub algorytm uczenia si˛e) znajdzie “dobra˛ hipotez˛e” z “du˙zym prawdopodobieństwem”. o ograniczonym bł˛edzie rzeczywistym. powy˙zej okre´slonego progu. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.14/27.

(37) PAC uczenie si˛e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Definicja: Mówimy, z˙ e prawdopodobnie algorytm uczenia si˛e jest aproksymacyjnie poprawny dla ka˙zdych , taka, z˙ e dla dowolnego poj˛ecia istnieje liczba i dla dowolnego rozkładu na , je´sli. – dopuszczalny poziom bł˛edu . . . Wówczas mówimy w skrócie, z˙ e jest PAC. (Probably Approximately Correct). – poziom zaufania. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.15/27.

(38). . . . . . . . . . . . . ;. . . . . . . . Przykład problemu dyskretyzacji. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.16/27.

(39). . . . . . . . . . . . . . . . . . . ;. . . . . . . Przykład problemu dyskretyzacji. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.16/27.

(40). . . . . . . . . . . . . . . . . . . ;. . . . . . . Przykład problemu dyskretyzacji. . . . . . . . . . . . . . . . . . . . . . znale´zc´ na podstawie losowo wygenerowanych przykładów. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.16/27.

(41). . . . . . . . . . . . . . . . . . . ;. . . . . . . Przykład problemu dyskretyzacji. . . . . . . . . . . . . . . . . . . . . . znale´zc´ na podstawie losowo wygenerowanych przykładów. . . . Algorytm: . . .

(42). . . . 2.. . . . . ;. . . . . . . . . . . 1. Set. ;. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.16/27.

(43). . . . . . . . . . . . . . . . . . . ;. . . . . . . Przykład problemu dyskretyzacji. . . . . . . . . . . . . . . . . . . . . . znale´zc´ na podstawie losowo wygenerowanych przykładów. . . . Algorytm: . . .

(44). . . . 2.. . . . . ;. . . . . . . . . . . 1. Set. ;. Twierdzenie: Powy˙zszy algorytm jest PAC. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.16/27.

(45). . . . . . . . . . Przykład (c.d.). colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.17/27.

(46). . . . . . . . . . . . . Przykład (c.d.) . Wówczas jeden z przykładów ;. . . . . .

(47). . . . . . . . znajduje si˛e w przedziale. . . . . . . . . . . . . Niech. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.17/27.


(49). . . . . . . . przykładów. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Prawdopodobieństwo tego, z˙ e z˙ aden po´sród jest . Stad ˛ nie nale˙zy do. znajduje si˛e w przedziale. . . . . . . . . . . . . Niech. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.17/27.


(51). . . . . . . przykładów. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Prawdopodobieństwo tego, z˙ e z˙ aden po´sród jest . Stad ˛ nie nale˙zy do. . znajduje si˛e w przedziale. . . . . . . . . . . . . Niech. , wystarczy. . . . . . . . . . . . . Aby to prawdopodobieństwo było wybrać. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.17/27.


(53). . . . . . . przykładów. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Prawdopodobieństwo tego, z˙ e z˙ aden po´sród jest . Stad ˛ nie nale˙zy do. . znajduje si˛e w przedziale. . . . . . . . . . . . . Niech. , wystarczy. . . . . . . . . . . . . Aby to prawdopodobieństwo było wybrać. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.17/27.

(54) Dokładne uczenie si˛e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . b˛edzie rozkładem dyskretnym zdefiniowanym , ..., – dla pewnych – takich, z˙ e . Niech .. Niech przez. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . to warunek . Stad ˛ dla ka˙zdego , taka, z˙ e dla dowolnego i. . . . . Je´sli jest PAC, i je´sli jest równowa˙zny z istnieje. Wówczas mówimy, z˙ e prawdopodobnie jest dokładnym algorytmem (jest PEC – probably exactly correct). colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.18/27.

(55) Potencjalna wyuczalno´sc´. . .

(56) . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . L jest niesprzeczny je´sli. . dla ka˙zdego. . . . . . . . . . . . . . . . . . Algorytm nazywamy niesprzecznym je´sli dla ka˙zdego (tzn. poj˛ecia i ka˙zdego zbioru mamy dla dowolnego przykładu ).. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Definicja: Mówimy, z˙ e jest potencjalnie wyuczalne za pomoca˛ , je´sli dla ka˙zdego rozkładu na i dowolnego poj˛ecia oraz dla dowolnych istnieje takie, z˙ e. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.19/27.

(57) Potencjalna wyuczalno´sc´. . Twierdzenie: Je´sli jest potencjalnie wyuczalne za pomoca˛. 2.. jest algorytmem niesprzecznym dla . . . . Wówczas jest PAC Twierdzenie: (Haussler, 1988) Je´sli i potencjalnie wyuczalne. Dowód: Niech (tzn. ). Wówczas. . . 1..

(58) . jest. . . . . . . . . . . . . $ . #"!. . . / * ) + . .. . . .

(59). wystarczy wybrać. . & . '. . . Aby. . . . ,-. ,. (. . . . . . . . . . %. . . . . %. . . . . . . . . . . . . , to. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.20/27.

(60). . Wymiar Vapnika-Chervonenkisa. . . . . . . . . .

(61). . . . . . . . . Niech . Oznaczmy przez liczb˛e podziałów zbioru dokonanych przez , t.j. liczb˛e ró˙znych wektorów postaci. .. . . . . . Je´sli zachodzi równo´sc´ , mówimy, z˙ e. . . po wszystkich. . . . mamy. . . Na ogół trudno znale´zc´ wzór na. . . . Na przykład: W przypadku przestrzeni półosi postaci ..

(62). . . Niech. . rozbija .. !!!. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.21/27.

(63) Wymiar Vapnika-Chervonenkisa (c.d.). Uwagi: . . . Je´sli , to rozbija prawie ka˙zdy zbiór o mocy (prawie zawsze mo˙zna znale´zc´ niesprzeczna˛ hipotez˛e). . . . mo˙zna. . Maksymalna warto´sc´ , dla której uwa˙zać za moc wyra˙zania przestrzeni. . . gdzie maksimum wynosi nieograniczony.. . . . . . . . Definicja: Wymiarem Vapnika-Chervonenkisa przestrzeni hipotez nazywamy liczb˛e. je´sli ten zbiór jest. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.22/27.

(64) b˛edzie przestrzenia˛ półosi. Wówczas. . . . . . . Niech. . Przykłady = zbiór wszystkich półpłaszczyzn. . . . . . i. Niech Wówczas. . . . . . . Niech = zbiór wszystkich półprzestrzeni wyznaczonych . Wówczas przez hiperpłaszczyzny w przestrzeni. . . . . . . . jest skończona˛ przestrzenia,˛ to. . Twierdzenie Je´sli. . . . . . . . . . . . . . . . . Niech bedzie przestrzenia˛ wszystkich jednomianów , mamy Boolowskich o zmiennych. Poniewa˙z colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.23/27.

(65) . . . Lemat Sauer’a . . . . . . . . . . . . . . . . . . . . . . . , to. i. . Twierdzenie (Lemat Sauer’a) Je´sli. . . . . . . . . .

(66). . . . . .

(67). . . . . . . . Wnioski. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.24/27.

(68) VC vs. potencjalna wyuczalno´sc´. . . . . . . . . .. . o ile. . . . . . . . . . . . . . . . Twierdzenie Ka˙zda przestrzeń hipotez o nieskończonym wymiarze VC nie jest potencjalnie wyuczalna. Twierdzenie Niech b˛edzie przestrzenia˛ hipotez okre´slonych na . Dla dowolnych , , (ale ustalonych) mamy. Twierdzenie (Fundamentalne twierdzenie) Je´sli przestrzeń hipotez ma skończony wymiar VC, to jest ona potencjalnie wyuczalna.. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.25/27.

(69) Zło˙zono´sc´ zbioru treningowego. . . . . . . . jest PAC oraz dla jest. . . . . Wówczas ka˙zdy niesprzeczny algorytm wymagana liczba przykładów . ograniczona z góry przez. . . . . . . . . . . . . . . . . . . . . . . Z Fundamentalnego Twierdzenia wynika, z˙ e je´sli , to dla danych i , istnieje takie, z˙ e. . . . . . . . . . . . . . . . . . . . . . mamy. . Dla skończonych przestrzeni hipotez. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.26/27.

(70) . . . Zło˙zono´sc´ zbioru treningowego (c.d.). . . . . . . . . . . . . . . . . . . Twierdzenie Niech . Wówczas ka˙zdy algorytm niesprzeczny jest PAC oraz wymagana liczba przykładów dla wynosi. . . . . , to. . . . . . . . . . . i. . . Je´sli. . . . . . . . . . . . . Dolne ograniczenia:. colt.tex – Czego moga˛ si˛e nauczyć komputery? – Andrzej Skowron, Hung Son Nguyen – 25/8/2001 – 0:41 – p.27/27.

(71)