Obsah: CLP Constraint Logic Programming. Úvod do umělé inteligence 6/12 1 / 17

(1)

Probl´ emy s omezuj´ıc´ımi podm´ınkami

Aleˇs Hor´ak

E-mail: hales@fi.muni.cz http://nlp.fi.muni.cz/uui/

Obsah:

Pr˚ubˇeˇzná p´ısemná práce

Probl´emy s omezuj´ıc´ımi podm´ınkami CLP – Constraint Logic Programming

(2)

Pr˚ ubˇ eˇzn´ a p´ısemn´ a pr´ ace

délka pro vypracován´ı:25 minut nejsoupovolenyˇzádnémateriály u odpovˇed´ı typu A, B, C, D, E:

• pouze jedna odpovˇed’ jenejspr´avnˇejˇs´ı

,

• za tuto nejspr´avnˇejˇs´ı je 8 bod˚u

• za ˇz´adnou odpovˇed je0 bod˚u

• za libovolnou jinou, pˇr´ıpadnˇe za nejasné oznaˇcen´ı odpovˇedi jem´ınus 3 body celkové hodnocen´ı0 aˇz 32 bod˚u (celkové záporné hodnocen´ı se bere jako 0)

´

(3)

Pr˚ ubˇ eˇzn´ a p´ısemn´ a pr´ ace

d´elka pro vypracov´an´ı:25 minut

14:02 – 14:27

nejsoupovolenyˇzádnémateriály u odpovˇed´ı typu A, B, C, D, E:

,

(4)

Pr˚ ubˇ eˇzn´ a p´ısemn´ a pr´ ace

14:04 – 14:29

,

´

(5)

Pr˚ ubˇ eˇzn´ a p´ısemn´ a pr´ ace

14:06 – 14:31

,

(6)

Pr˚ ubˇ eˇzn´ a p´ısemn´ a pr´ ace

14:08 – 14:33

,

´

(7)

Pr˚ ubˇ eˇzn´ a p´ısemn´ a pr´ ace

14:10 – 14:35

,

(8)

Probl´emy s omezuj´ıc´ımi podm´ınkami

Probl´ emy s omezuj´ıc´ımi podm´ınkami

standardn´ı problémˇreˇsený prohledáván´ım stavového prostoru →stavje

“ˇcerná skˇr´ıˇnka” – pouzec´ılová podm´ınka apˇrechodová funkce

´

(9)

Probl´ emy s omezuj´ıc´ımi podm´ınkami

“ˇcerná skˇr´ıˇnka” – pouzec´ılová podm´ınka apˇrechodová funkce problém s omezuj´ıc´ımi podm´ınkami, Constraint Satisfaction Problem, CSP:

• n-ticepromˇenn´ychX₁,X₂, . . . ,X_ns hodnotami zdom´enD₁,D₂, . . . ,D_n, Di6= ∅

• mnoˇzinaomezen´ıC1,C2, . . . ,Cmnad promˇenn´ymi Xi

(10)

Probl´ emy s omezuj´ıc´ımi podm´ınkami

• stav=pˇriˇrazen´ı hodnotpromˇenn´ym {Xi= vi,Xj = vj, . . .}

– konzistentn´ı pˇriˇrazen´ı neporuˇsuje ˇz´adn´e z omezen´ı Ci

– ´upln´e pˇriˇrazen´ı zmiˇnuje kaˇzdou promˇennou Xi

• ˇreˇsen´ı=úplné konzistentn´ı pˇriˇrazen´ı hodnotpromˇenným nˇekdy je jeˇstˇe potˇreba maximalizovat c´ılovou funkci

´

(11)

Probl´ emy s omezuj´ıc´ımi podm´ınkami

• stav=pˇriˇrazen´ı hodnotpromˇenn´ym {Xi= vi,Xj = vj, . . .}

– konzistentn´ı pˇriˇrazen´ı neporuˇsuje ˇz´adn´e z omezen´ı Ci

– ´upln´e pˇriˇrazen´ı zmiˇnuje kaˇzdou promˇennou Xi

• ˇreˇsen´ı=úplné konzistentn´ı pˇriˇrazen´ı hodnotpromˇenným nˇekdy je jeˇstˇe potˇreba maximalizovat c´ılovou funkci výhody:

• jednoduchýformáln´ı jazykpro specifikaci problému

• m˚uˇze vyuˇz´ıvatobecné heuristiky(ne jen specifické pro daný problém)

(12)

Probl´emy s omezuj´ıc´ımi podm´ınkami Pˇr´ıklad – obarven´ı mapy

Pˇr´ıklad – obarven´ı mapy

Western Australia

Northern Territory

South Australia

Queensland

New South Wales

Victoria

Tasmania

Promˇenné WA, NT , Q, NSW , V , SA, T Domény D_i = {ˇcervená,zelená,modrá}

Omezen´ı – soused´ıc´ı oblasti mus´ı m´ıt r˚uznou barvu tj. pro kaˇzd´e dvˇe soused´ıc´ı: WA 6= NT nebo

(WA, NT ) ∈ {(ˇcervená,zelená), (ˇcervená,modrá), (zelená,modrá), . . .}

´

(13)

Probl´emy s omezuj´ıc´ımi podm´ınkami Pˇr´ıklad – obarven´ı mapy

Pˇr´ıklad – obarven´ı mapy – pokraˇ c.

Queensland

New South Wales

Victoria

Tasmania

Reˇsen´ıˇ – konzistentn´ı pˇriˇrazen´ı vˇsem promˇenn´ym:

{WA =ˇcervená,NT =zelená,Q=ˇcervená,NSW =zelená,V =ˇcervená, SA=modrá,T =zelená}

(14)

Probl´emy s omezuj´ıc´ımi podm´ınkami Varianty CSP podle hodnot promˇenn´ych

Varianty CSP podle hodnot promˇ enn´ ych

diskrétn´ı hodnoty promˇenných– kaˇzdá promˇenná má jednu konkrétn´ı hodnotu

• koneˇcn´e dom´eny

– napˇr. Booleovské (vˇcetnˇe NP-úplných problém˚u splnitelnosti) – výˇctové

• nekoneˇcn´e dom´eny– ˇc´ısla, ˇretˇezce, . . .

– napˇr. rozvrh prac´ı – promˇenné = poˇcáteˇcn´ı/koncový den kaˇzdého úkolu – vyˇzaduje jazyk omezen´ı, napˇr. StartJob1+ 5 ≤ StartJob3

– ˇc´ıselné lineárn´ıproblémy jsou ˇreˇsitelné, nelineárn´ı obecné ˇreˇsen´ı nemaj´ı

´

(15)

Probl´emy s omezuj´ıc´ımi podm´ınkami Varianty CSP podle hodnot promˇenn´ych

Varianty CSP podle hodnot promˇ enn´ ych

diskrétn´ı hodnoty promˇenných– kaˇzdá promˇenná má jednu konkrétn´ı hodnotu

• koneˇcn´e dom´eny

– napˇr. Booleovské (vˇcetnˇe NP-úplných problém˚u splnitelnosti) – výˇctové

• nekoneˇcn´e dom´eny– ˇc´ısla, ˇretˇezce, . . .

– napˇr. rozvrh prac´ı – promˇenné = poˇcáteˇcn´ı/koncový den kaˇzdého úkolu – vyˇzaduje jazyk omezen´ı, napˇr. StartJob1+ 5 ≤ StartJob3

– ˇc´ıselné lineárn´ıproblémy jsou ˇreˇsitelné, nelineárn´ı obecné ˇreˇsen´ı nemaj´ı

spojit´e hodnoty promˇenn´ych

• ˇcasté u reálných problém˚u

• napˇr. poˇcáteˇcn´ı/koncový ˇcas mˇeˇren´ı na Hubbleovˇe teleskopu (závis´ı na astronomických, precedenˇcn´ıch a technických omezen´ıch)

• lineárn´ı omezen´ıˇreˇsené pomoc´ıLineárn´ıho programován´ı(omezen´ı = lineárn´ı (ne)rovnice tvoˇr´ıc´ı konvexn´ı oblast) → jsou ˇreˇsitelné v polynomiáln´ım ˇcase

(16)

Probl´emy s omezuj´ıc´ımi podm´ınkami Varianty omezen´ı

Varianty omezen´ı

un´arn´ıomezen´ı zahrnuje jedinou promˇennou napˇr. SA 6=zelen´a

bin´arn´ıomezen´ı zahrnuj´ı dvˇe promˇenn´e napˇr. SA 6= WA

omezen´ıvyˇsˇs´ıho ˇr´adu zahrnuj´ı 3 a v´ıce promˇenn´ych

napˇr. kryptoaritmetick´e omezen´ı na sloupce u algebrogramu

preferenˇcn´ıomezen´ı (soft constraints), napˇr. ‘ˇcerven´aje lepˇs´ı neˇzzelen´a’

moˇzno reprezentovat pomoc´ıceny pˇriˇrazen´ıu konkrétn´ı hodnoty a konkrétn´ı promˇenné → hledá seoptimalizované ˇreˇsen´ıvzhledem k cenˇe

´

(17)

Probl´emy s omezuj´ıc´ımi podm´ınkami Graf omezen´ı

Graf omezen´ı

Pro binárn´ıomezen´ı:uzly = promˇenné,hrany = reprezentuj´ı jednotlivá omezen´ı

Pro n-árn´ıomezen´ı:hypergraf: uzly = promˇenné, uzly = omezen´ı, hrany = pouˇzit´ı promˇenné v omezen´ı

Queensland

New South Wales

Victoria

Tasmania

Victoria

WA

NT

SA

Q

NSW

V

T

Algoritmy pro ˇreˇsen´ı CSP vyuˇz´ıvaj´ı t´eto grafov´e reprezentace omezen´ı

(18)

CLP – Constraint Logic Programming

:-use module(library(clpfd)). % clpq, clpr

?− X in 1..5, Y in 2..8, X+Y #= T.

X in 1..5, Y in 2..8, T in 3..13.

´

(19)

CLP – Constraint Logic Programming

?− X in 1..5, Y in 2..8, X+Y #= T.

X in 1..5, Y in 2..8, T in 3..13.

?X in +Min..+Max

?X in +Domain . . .

A in 1..3 \/8..15 \/5..9 \/100.

+VarList ins +Domain

fd dom(?Var,?Domain) zjiˇstˇen´ı dom´eny promˇenn´e

(20)

CLP – Constraint Logic Programming

?− X in 1..5, Y in 2..8, X+Y #= T.

X in 1..5, Y in 2..8, T in 3..13.

?X in +Min..+Max

?X in +Domain . . .

A in 1..3 \/8..15 \/5..9 \/100.

aritmetick´a omezen´ı . . .

– rel. oper´atory #=, #\=, #<, #=<, #>, #>=

– sum(Variables,RelOp,Suma) v´yrokov´a omezen´ı . . .

#\ negace, #/\ konjunkce, #\/ disjunkce, #<==>

ekvivalence kombinatorick´a omezen´ı . . .

all distinct(List), global cardinality(List, KeyCounts)

´

(21)

CLP – Constraint Logic Programming

?− X in 1..5, Y in 2..8, X+Y #= T.

X in 1..5, Y in 2..8, T in 3..13.

?− X in 1..5, Y in 2..8, X+Y #= T,labeling([],[X,Y,T]).

T = 3, X = 1, Y = 2.

?X in +Min..+Max

?X in +Domain . . .

A in 1..3 \/8..15 \/5..9 \/100.

aritmetick´a omezen´ı . . .

– rel. oper´atory #=, #\=, #<, #=<, #>, #>=

– sum(Variables,RelOp,Suma) v´yrokov´a omezen´ı . . .

#\ negace, #/\ konjunkce, #\/ disjunkce, #<==>

ekvivalence kombinatorick´a omezen´ı . . .

all distinct(List), global cardinality(List, KeyCounts)

(22)

CLP – Constraint Logic Programming – pokraˇ c.

?− X #< 4,[X,Y] ins 0..5.

X in 0..3, Y in 0..5.

´

(23)

CLP – Constraint Logic Programming – pokraˇ c.

?− X #< 4,[X,Y] ins 0..5.

X in 0..3, Y in 0..5.

?− X #< 4,indomain(X).

ERROR: Arguments are not sufficiently instantiated

(24)

CLP – Constraint Logic Programming – pokraˇ c.

?− X #< 4,[X,Y] ins 0..5.

X in 0..3, Y in 0..5.

?− X #> 3,X #< 6,indomain(X).

X = 4 ? ; X = 5 ? ; false

´

(25)

CLP – Constraint Logic Programming – pokraˇ c.

?− X #< 4,[X,Y] ins 0..5.

X in 0..3, Y in 0..5.

?− X #> 3,X #< 6,indomain(X).

X = 4 ? ; X = 5 ? ; false

?− X in 4..sup, X #\= 17,fd dom(X,F).

F = 4..16\/18..sup, X in 4..16\/18..sup.

(26)

CLP – Constraint Logic Programming Pˇr´ıklad – algebrogram

Pˇr´ıklad – algebrogram

S E N D + M O R E --- M O N E Y

´

(27)

Pˇr´ıklad – algebrogram

Promˇenn´e Dom´eny Omezen´ı

(28)

Pˇr´ıklad – algebrogram

Promˇenn´e {S, E , N, D, M, O, R, Y } Dom´eny

Omezen´ı

´

(29)

Pˇr´ıklad – algebrogram

Promˇenn´e {S, E , N, D, M, O, R, Y } Dom´eny D_i = {0, 1, 2, 3, 4, 5, 6, 7, 8, 9}

Omezen´ı

(30)

Pˇr´ıklad – algebrogram

Omezen´ı – S >0, M > 0

– S 6= E 6= N 6= D 6= M 6= O 6= R 6= Y – 1000 ∗ S + 100 ∗ E + 10 ∗ N + D + 1000 ∗ M +

100 ∗ O + 10 ∗ R + E =

10000 ∗ M + 1000 ∗ O + 100 ∗ N + 10 ∗ E + Y

´

(31)

Pˇr´ıklad – algebrogram

– S 6= E 6= N 6= D 6= M 6= O 6= R 6= Y – 1000 ∗ S + 100 ∗ E + 10 ∗ N + D + 1000 ∗ M +

100 ∗ O + 10 ∗ R + E =

10000 ∗ M + 1000 ∗ O + 100 ∗ N + 10 ∗ E + Y moremoney([S,E,N,D,M,O,R,Y], Type) :-[S,E,N,D,M,O,R,Y] ins 0..9,

S #> 0,M #> 0,

all distinct([S,E,N,D,M,O,R,Y]), sum(S,E,N,D,M,O,R,Y),

labeling(Type, [S,E,N,D,M,O,R,Y]).

sum(S,E,N,D,M,O,R,Y) :- 1000∗S + 100∗E + 10∗N + D + 1000∗M + 100∗O + 10∗R + E

#= 10000∗M + 1000∗O + 100∗N + 10∗E + Y.

(32)

Pˇr´ıklad – algebrogram

– S 6= E 6= N 6= D 6= M 6= O 6= R 6= Y – 1000 ∗ S + 100 ∗ E + 10 ∗ N + D + 1000 ∗ M +

100 ∗ O + 10 ∗ R + E =

10000 ∗ M + 1000 ∗ O + 100 ∗ N + 10 ∗ E + Y moremoney([S,E,N,D,M,O,R,Y], Type) :-[S,E,N,D,M,O,R,Y] ins 0..9,

S #> 0,M #> 0,

all distinct([S,E,N,D,M,O,R,Y]), sum(S,E,N,D,M,O,R,Y),

labeling(Type, [S,E,N,D,M,O,R,Y]).

sum(S,E,N,D,M,O,R,Y) :- 1000∗S + 100∗E + 10∗N + D + 1000∗M + 100∗O + 10∗R + E

#= 10000∗M + 1000∗O + 100∗N + 10∗E + Y.

?−moremoney([S,E,N,D,M,O,R,Y],[]).% Type=[] ... Type = [leftmost,step,up,all]

S = 9,E = 5,N = 6,D = 7,M = 1,O = 0,R = 8,Y = 2.

´

(33)

CLP – Constraint Logic Programming Reˇsen´ı probl´ˇ em˚u s omezuj´ıc´ımi podm´ınkami

Inkrement´ aln´ı formulace CSP

CSP je moˇzné pˇrevést nastandardn´ı prohledáván´ıtakto:

stav – pˇriˇrazen´ı hodnot promˇenným poˇcáteˇcn´ı stav – prázdné pˇriˇrazen´ı {}

pˇrechodová funkce – pˇriˇrazen´ı hodnoty libovolné dosud nenastavené promˇenné tak, aby výsledné pˇriˇrazen´ı bylo konzistentn´ı

c´ılová podm´ınka – aktuáln´ı pˇriˇrazen´ı je úplné cena cesty – konstantn´ı (napˇr. 1) pro kaˇzdý krok

(34)

CLP – Constraint Logic Programming Reˇsen´ı probl´ˇ em˚u s omezuj´ıc´ımi podm´ınkami

Inkrement´ aln´ı formulace CSP

CSP je moˇzné pˇrevést nastandardn´ı prohledáván´ıtakto:

stav – pˇriˇrazen´ı hodnot promˇenným poˇcáteˇcn´ı stav – prázdné pˇriˇrazen´ı {}

pˇrechodová funkce – pˇriˇrazen´ı hodnoty libovolné dosud nenastavené promˇenné tak, aby výsledné pˇriˇrazen´ı bylo konzistentn´ı

c´ılová podm´ınka – aktuáln´ı pˇriˇrazen´ı je úplné cena cesty – konstantn´ı (napˇr. 1) pro kaˇzdý krok

1. plat´ı beze zmˇeny provˇsechny CSP!

2. prohledávác´ı strom dosahuje hloubkyn (poˇcet promˇenných) a ˇreˇsen´ı se nacház´ı v této hloubce (d = n) ⇒ je vhodné pouˇz´ıt prohledáván´ı do hloubky

´

(35)

CLP – Constraint Logic Programming Prohled´av´an´ı s navracen´ım

Prohled´ av´ an´ı s navracen´ım

pˇriˇrazen´ı promˇenn´ym jsoukomutativn´ı

tj. [1. WA =ˇcervená, 2. NT =zelená] je totéˇz jako [1. NT =zelená, 2. WA =ˇcervená]

staˇc´ı uvaˇzovat pouzepˇriˇrazen´ı jediné promˇennév kaˇzdém kroku ⇒ poˇcet list˚u dⁿ

prohledáván´ı do hloubky pro CSP – tzv.prohledáván´ı s navracen´ım (backtracking search)

prohledáván´ı s navracen´ımje základn´ıneinformovaná strategie pro ˇreˇsen´ı problém˚u s omezuj´ıc´ımi podm´ınkami

schopn´y vyˇreˇsit napˇr. probl´em n-dam pro n ≈ 25 (naivn´ı ˇreˇsen´ı 10⁶⁹, vlastn´ı sloupce 10²⁵)

(36)

CLP – Constraint Logic Programming Pˇr´ıklad – probl´em N dam

Pˇr´ıklad – probl´ em N dam

queens(N,L,Type):- length(L,N), L ins 1..N, constr all(L), labeling(Type,L).

constr all([]).

constr all([X|Xs]):- constr between(X,Xs,1), constr all(Xs).

constr between( ,[], ).

constr between(X,[Y|Ys],N):- no threat(X,Y,N), N1 is N+1,

constr between(X,Ys,N1).

no threat(X,Y,J):- X #\= Y,X+J #\= Y,X−J #\= Y.

´

(37)

Pˇr´ıklad – probl´ em N dam

constr all([]).

1. definice promˇenn´ych a dom´en 2. definice omezen´ı

3. hled´an´ı ˇreˇsen´ı

(38)

Pˇr´ıklad – probl´ em N dam

constr all([]).

?− queens(4, L, [ff]).

L = [2,4,1,3] ? ; L = [3,1,4,2] ? ; false

1. definice promˇenn´ych a dom´en 2. definice omezen´ı

3. hled´an´ı ˇreˇsen´ı

´

(39)

CLP – Constraint Logic Programming Ovlivnˇen´ı efektivity prohled´av´an´ı s navracen´ım

Ovlivnˇ en´ı efektivity prohled´ av´ an´ı s navracen´ım

Obecn´e metodyovlivnˇen´ı efektivity:

– Kter´a promˇenn´adostane hodnotu v tomto kroku?

– V jakém poˇrad´ızkouˇset pˇriˇrazen´ı hodnotkonkrétn´ı promˇenné?

– M˚uˇzeme pˇredˇcasnˇe detekovatnutn´y ne´uspˇech v dalˇs´ıch kroc´ıch?

(40)

Ovlivnˇ en´ı efektivity prohled´ av´ an´ı s navracen´ım

pouˇz´ıvan´e strategie:

nejomezenˇejˇs´ı promˇenná → vybrat promˇennou s nejménˇe moˇznými hodnotami

´

(41)

Ovlivnˇ en´ı efektivity prohled´ av´ an´ı s navracen´ım

nejv´ıce omezuj´ıc´ı promˇenná → vybrat promˇennou s nejv´ıce omezen´ımi na zbývaj´ıc´ı promˇenné

(42)

Ovlivnˇ en´ı efektivity prohled´ av´ an´ı s navracen´ım

nejménˇe omezuj´ıc´ı hodnota → pro danou promˇennou – hodnota, která zruˇs´ı nejm´ıˇn hodnot zbývaj´ıc´ıch promˇenných

umoˇzˇnuje1 hodnotuproSA

umoˇzˇnuje0 hodnotproSA

´

(43)

Ovlivnˇ en´ı efektivity prohled´ av´ an´ı s navracen´ım

nejménˇe omezuj´ıc´ı hodnota → pro danou promˇennou – hodnota, která zruˇs´ı nejm´ıˇn hodnot zbývaj´ıc´ıch promˇenných

dopˇredná kontrola → udrˇzovat seznam moˇzných hodnot pro zbývaj´ıc´ı promˇenné

propagace omezen´ı → nav´ıc kontrolovat moˇzné nekonzistence mezi zbývaj´ıc´ımi promˇennými

(44)

CLP – Constraint Logic Programming Ovlivnˇen´ı efektivity v CLP

Ovlivnˇ en´ı efektivity v CLP

V Prologu (CLP) moˇznosti ovlivnˇen´ı efektivity – labeling(Typ, ...):

?− constraints(Vars,Cost),

labeling([ff,bisect,down,min(Cost)],Vars).

výbˇer promˇenné – leftmost, min, max, ff, . . . dˇelen´ı domény – step, enum, bisect

prohledáván´ı domény – up, down

uspoˇrádán´ı ˇreˇsen´ı – bez uspoˇrádán´ı nebo min(X), max(X), . . .

´

(45)

CLP – Constraint Logic Programming Syst´emy pro ˇreˇsen´ı omezuj´ıc´ıch podm´ınek

Syst´ emy pro ˇreˇsen´ı omezuj´ıc´ıch podm´ınek

Prolog – SWI, CHIP, ECLiPSe, SICStus Prolog, Prolog IV, GNU Prolog, IF/Prolog

C/C++ – CHIP++, ILOG Solver, Gecode Java – JCK, JCL, Koalog

LISP – Screamer

Python – logilab-constraint www.logilab.org/852 Mozart – www.mozart-oz.org, jazyk Oz