Wstęp do matematyki

(1)

Wstęp do matematyki

Marcin Orchel

(2)

Spis treści

1 Ogólne działy 4

1.1 Logika . . . 4

2 Metody numeryczne 6 2.1 Wprowadzenie do metod numerycznych . . . 6

2.1.1 Przestrzeń euklidesowa. . . 6

2.1.2 Ciągi. . . 8

2.1.3 Zadania . . . 10

2.1.4 Laboratoria . . . 10

2.2 Wprowadzenie do metod numerycznych . . . 12

2.2.1 Podciągi . . . 12

2.2.2 Ciągi Cauchy’ego . . . 13

2.2.3 Kres górny, dolny, maksimum, minimum . . . 15

2.2.4 Ciągi monotoniczne . . . 16

2.2.5 Granica dolna i górna . . . 17

2.2.6 Zadania . . . 18

2.3.1 Kule otwarte, zbiory otwarte, zbiory domknięte . . . 19

2.3.2 Zbiory ograniczone i zbiory zwarte . . . 19

2.3.3 Kombinacje wypukłe, zbiory wypukłe . . . 20

2.3.4 Suma zbiorów, przekrój zbiorów . . . 20

2.3.5 Zadania . . . 22

2.4.1 Macierze. . . 23

2.4.2 Zadania . . . 32

2.5.1 Funkcje . . . 34

2.5.2 Funkcja różniczkowalna i ciągle różniczkowalna . . . 35

2.5.3 Hiperpłaszczyzna . . . 39

2.5.4 Twierdzenia o wartościach średnich . . . 41

(3)

2.5.5 Zadania . . . 42

2.6.1 Forma kwadratowa . . . 43

2.6.2 Zadania . . . 44

2.7.1 Stabilność numeryczna . . . 45

2.8.1 Równania nieliniowe z jedną niewiadomą . . . 46

2.8.2 Metoda Newtona . . . 47

2.8.3 Metoda interpolacji liniowej . . . 47

2.8.4 Pierwiastki równania n-tego stopnia . . . 47

2.8.5 Zadania . . . 48

2.9.1 Chaos deterministyczny . . . 48

2.9.2 Zadania . . . 49

2.10.1 Rozwiązywanie układów równań liniowych . . . 49

2.10.2 Zadania . . . 51

2.11.1 Interpolacja . . . 51

2.11.2 Zadania . . . 52

2.12.1 Liczby losowe . . . 53

2.12.2 Metoda Monte Carlo . . . 53

2.12.3 Zadania . . . 53

3 Optymalizacja 54 3.1 Optymalizacja. . . 54

3.1.1 Problem optymalizacyjny . . . 54

3.1.2 Ekstremum lokalne i globalne . . . 55

3.1.3 Problem optymalizacyjny w formie parametrycznej . . . 55

3.1.4 Maksymalizacja użyteczności . . . 56

3.1.5 Minimializacja wydatków . . . 57

3.1.6 Zadania . . . 57

3.2 Optymalizacja. . . 58

3.2.1 Cele teorii optymalizacji . . . 58

3.2.2 Twierdzenie Weierstrassa . . . 58

3.2.3 Zadania . . . 59

3.3.1 Ekstrema bez ograniczeń . . . 60

3.3.2 Warunki na pierwszą pochodną . . . 61

3.3.3 Warunki na drugą pochodną . . . 61

(4)

3.3.4 Zadania . . . 63

3.4.1 Metoda ekspansji . . . 64

3.4.2 Poszukiwanie minimum w przedziale . . . 65

3.4.3 Metoda złotego podziału . . . 65

3.4.4 Metoda Fibonacciego . . . 67

3.4.5 Zadania . . . 67

3.5.1 Metoda Hooke’a-Jeevesa . . . 68

3.5.2 Zadania . . . 71

3.6.1 Metody gradientowe . . . 71

3.6.2 Metoda największego spadku . . . 72

3.6.3 Zadania . . . 73

3.7.1 Metoda Newtona . . . 74

3.7.2 Zadania . . . 75

3.8.1 Problemy optymalizacyjne z warunkami . . . 76

3.8.2 Warunki równościowe i twierdzenie Lagrange’a . . . 76

3.8.3 Warunki na drugą pochodną . . . 77

3.8.4 Metoda Lagrange’a . . . 78

3.8.5 Przykłady . . . 79

3.8.6 Zadania . . . 80

(5)

Rozdział 1

Ogólne działy

1.1 Logika

Przydatne reguły logiczne w dowodzeniu twierdzeń.

(p ∧ q) ⇒ r ⇔ p ∧ ¬r ⇒ ¬q (p ∧ q) ⇒ r ⇔ p ⇒ (q ⇒ r)

¬ (p ⇒ (q ∧ r)) ⇔ ¬ (p ⇒ q) ∨ ¬ (p ⇒ r) (p ⇒ q) ∧ (p ⇒ r) ⇔ p ⇒ (q ∧ r)

(p ⇒ q) ∧ (q ⇒ r) ⇒ (p ⇒ r) (p ⇒ q) ∧ (q ⇒ r) ⇒ (p ⇒ q ∧ r)

Standaryzacja liniowa funkcji liniowej. Funkcja po standaryzacji

y = ax + b (1.1)

Chcemy odstandaryzować wartości zmiennej niezależnej i zależnej. Mamy dane y_min, y_max, y_{old min}, y_{old max}, oraz x_min, x_max, x_{old min}, x_{old max}. Mamy dane zależności

x_old− x_{old min}

x_{old max}− x_{old min} = x − x_min

x_max− x_min (1.2)

xold− x_{old min}

∆x_old = x − xmin

∆x (1.3)

gdzie ∆x_old= x_{old max}− x_{old min}, ∆x = x_max− x_min x = ∆x (x_old− x_{old min})

∆x_old + x_min (1.4)

Dla y

y_old− y_{old min}

y_{old max}− y_{old min} = y − ymin

y_max− y_min (1.5)

(6)

yold− y_{old min}

∆y_old = y − ymin

∆y (1.6)

gdzie ∆y_old= y_{old max}− y_{old min}, ∆y = y_max− y_min y = ∆y (y_old− y_{old min})

∆y_old + y_min (1.7)

Po podstawieniu do funkcji otrzymujemy

∆y (y_old− y_{old min})

∆y_old + y_min = a

∆x (x_old− x_{old min})

∆x_old + x_min

+ b (1.8)

Należy obliczyć y_old jako funkcję x_old

∆y (y_old− y_{old min})

∆y_old = a

∆x_old + x_min

+ b − y_min (1.9)

∆y (y_old− y_{old min}) = ∆y_old

a

∆x_old + x_min

+ b − y_min

(1.10) y_old− y_{old min}= ∆y_old

∆y

a

∆x_old + x_min

+ b − y_min

(1.11) y_old= ∆y_old

∆y

a

∆x_old + x_min

+ b − y_min

+ y_{old min} (1.12) yold= a∆y_old∆x (x_old− x_{old min})

∆y∆x_old +∆y_old

∆y (ax_min+ b − y_min) + y_{old min} (1.13) A zatem współczynnik kierunkowy przed standaryzacją to

a∆y_old∆x

∆y∆x_old (1.14)

a wyraz wolny to

a−x_{old min}∆y_old∆x

∆y∆x_old +∆y_old

∆y (ax_min+ b − y_min) + y_{old min} (1.15)

(7)

Rozdział 2

Metody numeryczne

2.1 Wprowadzenie do metod numerycznych

2.1.1 Przestrzeń euklidesowa Zbiór liczb naturalnych:

N = {1, 2, 3, . . .}

Zbiór liczb całkowitych:

Z = {. . . , −1, 0, 1, . . .}

Zbiór liczb wymiernych:

Q =

x|x = p

q, p, q ∈ Z, q 6= 0

Liczby rzeczywiste oznaczane są jako R. Wartość bezwzględna liczby x ∈ R:

|x| =

( x jesli x ≥ 0

−x jesli x < 0

Odległość euklidesowa między dwoma punktami x, y ∈ R zdefiniowana jest jako |x − y|.

Dla n ∈ N , Rⁿoznacza n-wymiarową przestrzeń euklidesową. Gdy n = 1 piszemy samo R. Punkt x w Rⁿ to wektor

x = (x1, . . . , xn)

gdzie dla i ∈ {1..n}, liczba x_i ∈ R nazywa się i-tą współrzędną punktu x. Symbol 0 oznacza punkt o współrzędnych (0, . . . , 0). Dodawanie wektorów dla x, y ∈ Rⁿ

x + y = (x1+ y₁, . . . , xn+ y_n) Mnożenie skalarne wektora x ∈ Rⁿ przez liczbę α ∈ R

αx = (αx₁, . . . , αx_n)

(8)

Porównywanie dwóch wektorów x = (x₁, . . . , xn) i y = (y₁, . . . , yn):

x = y, jesli xi = y_i dla kazdego i ∈ {1..n}

x ≥ y, jesli xi ≥ y_i dla kazdego i ∈ {1..n}

x > y, jesli x ≥ y i x 6= y

x y, jesli x_i > y_i dla kazdego i ∈ {1..n}

Gdy n > 1 nie zawsze możemy stwierdzić który wektor jest większy, np: wektory x = (1, 2) i y = (2, 1) nie spełniają obu nierówności x ≥ y i y ≥ x. Wyróżnimy następujące części przestrzeni Rⁿ: nieujemna

Rⁿ₊= {x ∈ Rⁿ|x ≥ 0}

ściśle dodatnia

R₊₊ⁿ = {x ∈ Rⁿ|x 0}

Mamy dane x, y ∈ R. Iloczyn skalarny wektorów x i y zdefiniowany jest jako:

x · y =

n

X

i=1

xiyi

Iloczyn skalarny ma następujące własności, dla wektorów x, y, z ∈ Rⁿ i liczb a, b ∈ R

• przemienność: x · y = y · x

• dwuliniowość: (ax + by) · z = ax · z + by · z oraz x · (ay + bz) = x · ay + x · bz

• nieujemność: x · x ≥ 0, przy czym równość zachodzi tylko gdy x = 0 Nierówność Cauchy-Schwarza. Dla dowolnych x, y ∈ Rⁿ:

|x · y| ≤ (x · x)^1/2(y · y)^1/2 Norma euklidesowa wektora x ∈ Rⁿ zdefiniowana jest jako:

kxk =

n

X

i=1

x²_i

!1/2

Zachodzi następujący związek z iloczynem skalarnym:

kxk = (x · x)^1/2

Nierówność Cauchy-Szwarza może być zapisana w postaci:

|x · y| ≤ kxk kyk Norma ma następujące własności dla x, y ∈ Rⁿ i a ∈ R:

(9)

• nieujemność: kxk ≥ 0, przy czym równość jest spełniona tylko gdy x = 0.

• jednorodność: kaxk = |a| · kxk.

• nierówność trójkąta: kx + yk ≤ kxk + kyk.

Odległość pomiędzy dwoma wektorami x, y ∈ Rⁿ jest zdefiniowana jako:

d (x, y) =

n

X

i=1

(x_i− y_i)²

!1/2

Odległość d zwana jest również metryką. Jest powiązana z normą:

d (x, y) = kx − yk

Metryka ma następujące własności, dla dowolnych x, y, z ∈ Rⁿ:

• nieujemność: d (x, y) ≥ 0, przy czym równość jest spełniona tylko gdy x = y

• przemienność: d (x, y) = d (y, x)

• nierówność trójkąta: d (x, z) ≤ d (x, y) + d (y, z) 2.1.2 Ciągi

Ciąg w Rⁿ jest to specyfikacja punktu x_k ∈ Rⁿ dla każdej liczby k ∈ {1, 2, . . .}. Ciąg zapisujemy zazwyczaj w postaci x₁, x2, . . ., albo {xk}.

Definition 2.1.1. Ciąg {x_k} w Rⁿjest zbieżny do granicy x (co zapisujemy jako x_k → x), jeśli odległość d (x_k, x) zmierza do zera, gdy k dąży do nieskończoności, czyli gdy dla każdego > 0 istnieje liczba k () taka, że dla każdego k ≥ k () mamy d (x_k, x) < .

Przykładowo ciąg w R zdefiniowany jako x_k = 1/k dla każdego k jest ciągiem zbież- nym z granicą x = 0. Dowód: weźmy dowolne k () > 1/. Wtedy dla każdego k > k () mamy d (x_k, 0) = d (1/k, 0) = 1/k < 1/k () < .

Theorem 2.1.2. Ciąg może mieć maksymalnie jedną granicę. To znaczy, gdy ciąg {x_k} jest ciągiem w Rⁿ zbieżnym do punktu x ∈ Rⁿ, to nie może być równocześnie zbieżny do punktu y ∈ Rⁿ dla y 6= x.

Dowód. Z nierówności trójkąta mamy

d (xk, y) ≥ d (x, y) − d (xk, x)

Ponieważ d (x, y) > 0 oraz d (x_k, x) → 0 to z nierówności wynika, że d (x_k, y) nie może dążyć do zera, gdy k dąży do nieskończoności, dlatego x_k→ y jest niemożliwe.

(10)

Ciąg {x_k} jest ciągiem ograniczonym, kiedy istnieje liczba rzeczywista M taka, że kx_kk ≤ M dla każdego k. Ciąg, który nie jest ograniczony zwie się ciągiem nieograni- czonym i zachodzi: ciąg {x_k} jest nieograniczony, gdy dla każego M ∈ R istnieje k (M ) taka, że

x_{k(M )}> M .

Theorem 2.1.3. Każdy ciąg zbieżny w Rⁿ jest ograniczony.

Dowód. Załóżmy, że x_k → x oraz, że = 1 w definicji ciągu zbieżnego. Wtedy istnieje k (1) takie, że dla każdego k ≥ k (1), d (x_k, x) < 1. Ponieważ d (x_k, x) = kx_k− xk, to z nierówności trójkąta dla każdego k ≥ k (1)

kx_kk = k(x_k− x) + xk ≤ k(x_k− x)k + kxk < 1 + kxk Teraz zdefiniujmy M jako maksimum skończonego zbioru liczb

nkx₁k , . . . ,x_k(1)−1, 1 + kxk^o Wtedy M ≥ kx_kk dla każdego k.

Z powyższego twierdzenia wynika, że jeśli ciąg nie jest ograniczony, to nie jest zbieżny.

Kiedy np. ciąg {x_k} jest zdefiniowany jako x_k = k. Ale to, że ciąg nie jest ograniczony nie jest jedyną przyczyną braku zbieżności ciągu. Przykładowo ciąg:

xk= ( ₁

k, k = 1, 3, 5, . . . 1 −¹_k, k = 2, 4, 6, . . .

jest ograniczony, ponieważ zachodzi |x_k| ≤ 1 dla każdego k, ale nie jest zbieżny, ponieważ dla nieparzystych k ciąg zbiega do 0, a dla nieparzystych do 1, a ciąg zbieżny może mieć jedną tylko granicę.

Theorem 2.1.4. Ciąg ⁿx^k^o w Rⁿ jest zbieżny do granicy x, wtedy i tylko wtedy, gdy x^k_i → x_i dla każdego i ∈ {1, . . . , n}, gdzie x^k=x^k₁, . . . , x^k_n oraz x = (x₁, . . . , x_n).

Dowód. Odległość pomiędzy dwoma punktami w Rⁿ może być zapisana jako:

d (x, y) =

n

X

i=1

|x_i− y_i|²

!1/2

gdzie |x_i− y_i| to odległość pomiędzy punktami x_ii y_iw R. W pierwszym kroku załóżmy, że x^k → x. Musimy pokazać, że x^k_i → x_i dla każdego i, czyli, że dla dowolnych i oraz

 > 0 istnieje k_i() takie, że dla każdego k ≥ k_i() mamy

x^k_i − x_i

< . Z definicji x^k → x wiemy, że istnieje k () takie, że dx^k, x< takie, że k ≥ k (). Dlatego też dla każdego k ≥ k () i dla każdego i zachodzi:

x^k_i − x_i=

x^k_i − x_i²

1/2

≤

n

X

l=1

x^k_j − x_j²

!1/2

= dx^k, x<

(11)

Dlatego wystarczy wziąść k_i() = k () dla każdego i.

W drugim kroku załóżmy, że ⁿx^k_i^o jest zbieżne do x_i dla każdego i. Niech > 0.

Pokażemy, że istnieje k () takie, że dx^k, x< dla każdego k ≥ k (), co gwarantuje, że x^k → x. Zdefiniujmy liczbę p = /√

n. Dla każdego i istnieje k_i(p) takie, że dla każdego k ≥ k_i(p) zachodzi

x^k_i − x_i

< p. Zdefiniujmy k () jako maksimum ze skończonego zbioru liczb k₁(p) , . . . , k_n(p). Wtedy dla k ≥ k () mamy x^k_i − x_i< p dla każdego i, dlatego:

dx^k, x=

n

X

i=1

x^k_i − x_i²

!1/2

<

n

X

i=1

√n

2!1/2

= 

Theorem 2.1.5. Niech ⁿx^k^o będzie ciągiem w Rⁿ zbieżnym do granicy x. Załóżmy, że dla każdego k zachodzi a ≤ x^k ≤ b, gdzie a = (a₁, . . . , a_n) oraz b = (b₁, . . . , b_n) są pewnymi stałymi wektorami w Rⁿ. Wtedy zachodzi, a ≤ x ≤ b.

Dowód. Twierdzenie zostanie udowodnione, gdy pokażemy, że a_i ≤ x_i ≤ b_i dla każdego i ∈ {1..n}. Załóżmy, że nie zachodzi powyższe, to znaczy dla pewnego i mamy xi < ai. Z poprzedniego twierdzenia mamy, że x^k → x, to z tego wynika, że x^k_j → x_j dla każdego j ∈ {1..n}, czyli również x^k_i → x_i. Ale to oznacza wraz z x_i < a_i, że dużych k musi zachodzić x^k_i < ai, co jest sprzeczne z hipotezą, że a ≤ x^k≤ b. Podobnie dla x_i > bi. 2.1.3 Zadania

Zadanie 1. Ile wynosi norma wektora (3, 4, 12) i jaka jest jej interpretacja geometryczna?

Zadanie 2. Zbadać czy poniższe ciągi są zbieżne. Jeśli tak to do jakiej granicy:

1. 1/k, (−1)^k 2. (k − 1/k, 1/k sin k) 3. (2, cos 1/k)

4. (k, (k − 1) /2k) 2.1.4 Laboratoria

1. Zadania na 3.0

(a) Opanować wyszukiwanie granic na stronie wolframalpha.com, oraz wyświe- tlanie wykresów ciągów.

(b) Napisać funkcję zwracającą dokładność przybliżenia liczby e, za pomocą war- tości ciągu1 +¹_k^k dla dużego k. Funkcja jako parametr przyjmuje liczbę e

wczytaną uprzednio z pliku pochodzącego np ze strony http://const.physics.edu.pl/liczbae.php.

(12)

2. Zadania na 4.0

(a) Napisać funkcję sprawdzającą czy dany ciąg jest ograniczony daną liczbą, funkcja przyjmuje jako parametry ciąg w postaci klasy abstrakcyjnej, oraz wartość ograniczenia, sprawdzamy wartości ciągu począwszy od k = 1, a skończywszy na wybranej dużej liczbie k.

3. Zadania na 5.0

(a) Zaimplementować z definicji wyszukiwanie granic ciągów liczbowych, jedno- wymiarowych. Wskazówki: rozpatrujemy wybrany duży przedział dla wartości k ∈ [a, b], wybierane takie, które pojawiły się dla rozpatrywanego przedzia- łu k, kandydat na granicę wybierany za pomocą sprawdzenia wartości dla dużego k. Program zwraca informację czy dany kandydat może być granicą, dokładniej zwraca informację o otoczeniu podanej granicy, w którym może znajdować się prawdziwa granica.

Ciągi do testowania:

sin k 1 k (−1)^k

k − 1 k sin k

k 2 cos1

k k k − 1

2k

1 +1

k

√k

a dla wybranych a > 0

k sin1 k e^k

k k^kq^k

(13)

dla |q| < 1

1 +a

k

√k

k ln k k e^k k^a dla a ∈ N

k^a k!

n ln

1 +1

n

ka^1/k− 1 dla a > 0

ln ln k ln k

a^k k!

dla a ∈ R

k

X

i=1

1 i − ln k

dowolnie wybrane ciągi arytmetyczne i geometryczne k²+ 2k + 1

3k²+ 1

2.2 Wprowadzenie do metod numerycznych

2.2.1 Podciągi

Mamy dany {x_k} w Rⁿ. Niech m będzie dowolną regułą, która przyporządkowuje dla każdego k ∈ N wartość m (k) ∈ N . Załóżmy ponadto, że m wzrasta wraz ze wzrostem k, co znaczy dla każdego k ∈ N m (k) < m (k + 1). Możemy zdefiniować nowyⁿx_m(k)^o, którego k-ty element jest m (k) elementem {x_k}. Ten nowy ciąg jest zwany podciągiem.

Mówiąc inaczej podciąg jest dowolnym nieskończonym podzbiorem wyjściowego ciągu, który zachowuje kolejność elementów. Pomimo tego, że {x_k} nie jest zbieżny, to może zawierać podciągi, które są zbieżne. Przykładowo ciąg 0, 1, 0, 1, 0, 1, . . . nie ma granicy, ale podciągi 0, 0, 0, . . . i 1, 1, 1, . . . mają granicę.

Jeśli ciąg zawiera podciąg zbieżny, to granica podciągu zbieżnego jest zwana punktem skupienia ciągu wyjściowego. Przykładowo ciąg 0, 1, 0, 1, . . . ma dwa punkty skupienia 0 i 1.

(14)

Theorem 2.2.1. Punkt x jest punktem skupienia {xk}, wtedy i tylko wtedy, gdy dla każdego > 0, istnieje nieskończenie wiele wartości m takich, że

d (x, x_m) < .

Dowód. Załóżmy, że x jest punktem skupienia {x_k}. Wtedy musi istnieć podciągⁿx_m(k)^o, który jest zbieżny do x. Z definicji zbieżności dla każdego > 0 nieskończenie wiele ele- mentów ⁿx_m(k)^omusi spełniać d (x, x_m) < , dlatego też nieskończenie wiele elementów {x_k} musi spełniać d (x, x_m) < .

W drugą stronę załóżmy, że dla każdego > 0 istnieje nieskończenie wiele m takich, że d (x, x_m) < . Z tego wynika, że możemy zdefiniować podciąg ⁿx_m(k)^o ciągu {x_k} w następujący sposób: m (1) będzie dowolną liczbą taką, że d (x, x_m) < 1. Dla k = 2, 3, . . . zdefiniujmy m (k) jako dowolne m spełniające dwa warunki: d (x, x_m) < 1/k i m (k) > m (k − 1). Możemy zauważyć, że ⁿx_m(k)^ozbiega do x, dlatego x jest punktem skupienia {x_k}.

Ciąg {x_k} jest zbieżny do x, wtedy i tylko wtedy, gdy każdy jego podciąg jest zbieżny do x. Ciąg {x_k} może mieć dowolną liczbę punktów skupienia. Przykładowo punktami skupienia są wszystkie liczby naturalne następującego ciągu:

1, 1, 2, 1, 2, 3, 1, 2, 3, 4, . . .

Jest możliwe, że żaden podciąg nie jest zbieżny, czyli, że ciąg nie ma punktów skupienia.

Przykładowo ciąg {x_k} w R zdefiniowany jako x_k = k dla każdego k. Każdy podciąg tego ciągu zmierza do +∞.

2.2.2 Ciągi Cauchy’ego

Ciąg {x_k} w Rⁿspełnia kryterium Cauchy’ego, jeśli dla każdego > 0 istnieje liczba k () taka, że dla każdego m, l ≥ k () mamy d (x_m, x_l) < . Opisowo ciąg {x_k} spełnia kryte- rium Cauchy’ego, kiedy wybierając dostatecznie duże k odległość pomiędzy dowolnymi dwoma elementami x_m i x_l w ogonie ciągu:

xk, xk+1, xk+2, . . .

może być uczyniona dowolnie małą. Ciąg, który spełnia kryterium Cauchy’ego jest nazy- wany ciągiem Cauchy’ego. Przykładowym ciągiem spełniającym kryterium Cauchy’ego jest {x_k} w R zdefiniowany jako x_k= 1/k² dla każdego k. Dowód przebiega następująco weźmy dowolne > 0. Wybierzmy k () takie, że k² > 2. Dla m, l ≥ k () mamy:

d (xm, x_l) =

1 m² − 1

l²

≤

1 m² + 1

l²

≤

1

k ()² + 1 k ()²

= 2

k ()² < 

Theorem 2.2.2. Ciąg ⁿx^k^ow Rⁿ jest ciągiem Cauchy’ego, wtedy i tylko wtedy, gdy dla każdego i ∈ {1, . . . , n} ⁿx^k_i^ojest ciągiem Cauchy’ego w R.

(15)

Dowód. Niech ⁿx^k^o będzie ciągiem Cauchy’ego w Rⁿ. Pokażemy, że dla każdego i i

 > 0 istnieje k_i() takie, że dla każdego m, l ≥ k_i() mamy x^m_i − x^l_i < . Dane są

 > 0 i i. Ponieważ ⁿx^k^ojest ciągiem Cauchy’ego, to istnieje k () takie, że dla każdego m, l ≥ k () mamy dx^m− x^l< . Dlatego też dla każdego m, l ≥ k () otrzymujemy:

x^m_i − x^l_i=

x^m_i − x^l_i²

1/2

≤





n

X

j=1

x^m_j − x^l_j²





1/2

= dx^m, x^l<

Wystarczy teraz wybrać k_i() = k (). Dowód w drugą stronę: załóżmy, że ⁿx^k_i^o jest ciągiem Cauchy’ego dla każdego i. Pokażemy, że dla każdego > 0 istnieje k () takie, że dla każdego m, l ≥ k () zachodzi d

x^m− x^l

< . Niech > 0. Zdefiniujmy p = /√ n.

Ponieważ każdy ⁿx^k_i^o jest ciągiem Cauchy’ego, to istnieje k_i(p) takie, że dla każdego m, l ≥ k_i(p) mamyx^m_i − x^l_i < p. Zdefiniujmy k () = max {k₁(p) , . . . , k_n(p)}. Wtedy dla m, l ≥ k () mamy

dx^m, x^l=

n

X

i=1

x^m_i − x^l_i²

!1/2

<

n

X

i=1

√n

2!1/2

= 

Jedną z różnic między ciągiem zbieżnym i ciągiem Cauchy’ego jest to, że w definicji ciągu zbieżnego występuje bezpośrednio granica. Oba typy ciągów w przestrzeni euklidesowej związane są następującym twierdzeniem:

Theorem 2.2.3. Ciąg {xk} w Rⁿ jest ciągiem Cauchy’ego, wtedy i tylko wtedy, gdy jest ciągiem zbieżnym, to znaczy, wtedy i tylko wtedy gdy istnieje x ∈ Rⁿ takie, że x_k→ x.

Dowód. Załóżmy, że ciąg {x_k} jest ciągiem zbieżnym. Pokażemy, że jest wtedy ciągiem Cauchy’ego. Weźmy > 0. Zdefiniujmy p = /2. Ponieważ x_k → x, to istnieje k (p) takie, że dla każdego j ≥ k (p) mamy d (x_j, x) < p. Z nierówności trójkąta dla j, l ≥ k (p) otrzymujemy:

d (x_j, x_l) ≤ d (x_j, x) + d (x_l, x) < p + p =

Wystarczy teraz wziąść k () = k (p). Dowód w drugą stronę zostanie tutaj pominięty.

Można łatwo udowodnić słabsze twierdzenie:

Theorem 2.2.4. Niech {x_k} będzie ciągiem Cauchy’ego. Wtedy {x_k} jest ograniczony, a także posiada co najwyżej jeden punkt skupienia.

Dowód. Na początku pokażemy, że ciąg Cauchy’ego jest ograniczony, weźmy = 1.

Wtedy istnieje k (1) takie, że dla każdego j, l ≥ k (l) mamy d (x_j, x_l) < 1. Z nierówności trójkąta dla j ≥ k (1) otrzymujemy:

kx_jk =x_j− x_k(l)+ x_k(l)≤x_j− x_k(l)+x_k(l)< 1 +x_k(l)

(16)

Wybierzmy następnie M jako maksimum ze zbioru:

nkx₁k , . . . ,x_k(l)−1, 1 +x_k(l)^o

Dla takiego M zachodzi M ≥ kx_kk dla każdego k. Teraz udowodnimy, że ciąg Cauchy’ego nie może mieć więcej niż jednego punktu skupienia. Załóżmy, że x jest punktem skupienia ciągu Cauchy’ego {x_k}. Pokażemy, że x_k → x. Niech > 0 i p = /2. Ponieważ {x_k} jest ciągiem Cauchy’ego, to istnieje k (p) takie, że d (x_j, x_l) < p dla każdego j, l ≥ k (p).

Ponadto ponieważ x jest punktem skupienia {x_k}, istnieją wyrazy ciągu {x_k}, które leżą dowolnie blisko x. W szczególności możemy znaleźć m ≥ k (p) takie, że d (x_m, x) < p.

Dlatego, jeśli j ≥ k (p)

d (xj, x) ≤ d (xj, xm) + d (x_m, x) ≤ p + p =

Z tego wynika, że x_k → x. A z tego wynika, że nie może posiadać więcej niż jednego punktu skupienia.

Dwa ciągi Cauchy’ego {x_k} i {y_k} są równoważne, jeśli dla każdego > 0 istnieje k () takie, że dla każdego j ≥ k () zachodzi d (x_j, y_j) < . Ciągi Cauchy’ego równoważne zapisujemy jako {x_k} ∼ {y_k}. Można zauważyć, że relacja ∼ jest relacją równoważności.

Jest zwrotna {x_k} ∼ {x_k}, symetryczna {x_k} ∼ {y_k} z tego wynika {y_k} ∼ {x_k} i prze- chodnia {x_k} ∼ {y_k} i {y_k} ∼ {z_k} implikuje {x_k} ∼ {z_k}. Dowód przechodniości: niech

 > 0 oraz p = /2. Ponieważ {x_k} ∼ {y_k}, to istnieje k₁(p) takie, że dla każdego k speł- niającego k ≥ k₁(p) zachodzi d (x_k, yk) < p. Podobnie istnieje k₂(p) takie, że dla każde- go k spełniającego k ≥ k₂(p) zachodzi d (y_k, z_k) < p. Niech k () = max {k₁(p) , k₂(p)}.

Wtedy dla każdego k ≥ k () zachodzi d (x_k, z_k) ≤ d (x_k, y_k) + d (y_k, z_k) < p + p = , dlatego {x_k} ∼ {z_k}.

Równoważne ciągi Cauchy’ego muszą mieć tą samą granicę. Dowód: załóżmy, że {x_k} ∼ {y_k} oraz x_k → x. Niech > 0. Istnieje k₁() takie, że dla każdego k ≥ k₁() zachodzi d (x_k, x) < /2, istnieje także k2() takie, że dla każdego k ≥ k₂() zachodzi d (x_k, y_k) < /2. Ustawiając k () = max {k₁() , k₂()}, dla każdego k ≥ k () zachodzi d (x, y_k) ≤ d (x, x_k) + d (x_k, y_k) < /2 + /2 = , co oznacza y_k→ x.

2.2.3 Kres górny, dolny, maksimum, minimum

Niech A będzie niepustym podzbiorem R. Ograniczenie górne zbioru A, zapisywane jako U (A) jest zdefiniowane jako:

U (A) = {u ∈ R|u ≥ a dla kazdego a ∈ A}

Ograniczenie dolne, L (A) jest zdefiniowane jako:

L (A) = {l ∈ R|l ≤ a dla kazdego a ∈ A}

Zbiór U i zbiór L mogą być puste. Przykładowo dla A = N zbiór U jest pusty, dla A = Z zbiory U i L są puste. Jeśli U (A) jest niepusty to mówimy, że zbiór A jest

(17)

ograniczony od góry. Jeśli L (A) jest niepusty to mówimy, że zbiór A jest ograniczony od dołu. Kres górny zbioru A, zapisywany jako sup A jest najmniejszym elementem ze zbioru ograniczenia górnego. Jeśli U (A) jest niepusty, to sup A jest zdefiniowane jako unikalny punkt a^∗ ∈ U (A) taki, że a^∗ ≤ u dla każdego u ∈ U (A). Jeśli U (A) jest pusty to piszemy sup A = +∞. Podobnie kres dolny zbioru A, zapisywany jako inf A jest największym elementem ze zbioru ograniczenia dolnego. Jeśli L (A) jest niepusty, to inf A jest zdefiniowane jako unikalny punkt ˆa ∈ L (A) taki, że ˆa ≥ l dla każdego l ∈ L (A). Jeśli L (A) jest pusty to piszemy inf A = −∞.

Theorem 2.2.5. Jeśli U (A) jest niepusty, to kres górny istnieje, to znaczy istnieje a^∗ ∈ U (A) takie, że a^∗ ≤ u dla każdego u ∈ U (A). Podobnie jeśli L (A) jest niepusty, to kres dolny istnieje, to znaczy istnieje ˆa ∈ L (A) takie, że ˆa ≥ l dla każdego l ∈ L (A).

Theorem 2.2.6. Załóżmy, że sup A jest skończone. Wtedy dla każdego > 0, istnieje a () ∈ A takie, że a () > sup A − .

Dowód. Wprowadźmy oznaczenie a^∗ = sup A. Przypuśćmy, że twierdzenie nie będzie spełnione dla pewnego > 0, to znaczy, że a ≤ a^∗− dla każdego a ∈ A. Ale wtedy a^∗− będzie należało do ograniczenia górnego A. Ale to stoi w sprzeczności z definicją a^∗ jako najmniejszego elementu ograniczenia górnego.

Maksimum niepustego zbioru A ⊂ R, zapisywane jako max A jest zdefiniowane jako punkt z ∈ A taki, że z ≥ a dla każdego a ∈ A. Minimum niepustego zbioru A ⊂ R, zapisywane jako min A jest zdefiniowane jako punkt w ∈ A taki, że w ≤ a dla każdego a ∈ A. Z definicji wynika, że maksimum musi być elementem ograniczenia górnego A, a minimum musi być elementem ograniczenia dolnego A. Można podać alternatywne definicje takie, że max A = A∩U (A) i min A = A∩L (A). Wartości sup A i inf A są zawsze zdefiniowane dla niepustego A, a max A i min A mogą nie istnieć, nawet gdy sup A i inf A są skończone. Dla przykładu A = (0, 1), wtedy U (A) = {x|x ≥ 1} i L (A) = {x|x ≤ 0}, sup A = 1, inf A = 0. Ale maksimum i minimum nie istnieje. Z definicji wynika, że jeśli maksimum istnieje, to max A = sup A, co oznacza, że maksimum istnieje wtedy i tylko wtedy, gdy sup A ∈ A. Podobnie z minimum.

2.2.4 Ciągi monotoniczne

Ciąg {x_k} w R jest ciągiem rosnącym kiedy

xk+1≥ x_k dla kazdego k a ciągiem malejącym, gdy

xk+1≤ x_k dla kazdego k

Ciąg {x_k} w R zmierza do +∞ (x_k ↑ +∞), jeśli dla każdego p ∈ N istnieje k (p) takie, że dla każdego k ≥ k (p) zachodzi x_k ≥ p, ciąg {x_k} w R zmierza do −∞ (x_k ↑ −∞), jeśli dla każdego p ∈ N istnieje k (p) takie, że dla każdego k ≥ k (p) zachodzi x_k ≤ −p.

(18)

Jeśli ciąg zmierza do ±∞, to musi być nieograniczony, ale odwrotnie niekoniecznie, np.

ciąg {x_k} zdefiniowany jako x_k=

( 1 kiedy k jest nieparzyste k kiedy k jest parzyste

jest nieograniczony, ale nie zmierza do +∞. Jeśli {x_k} jest ciągiem nieograniczonym, to musi zawierać co najmniej jeden podciąg, który zmierza do +∞ lub −∞.

Theorem 2.2.7. Niech {x_k} będzie ciągiem rosnącym w R. Jeśli {x_k} jest nieograni- czony, to musi zmierzać do +∞. Jeśli {x_k} jest ograniczony, to jest zbieżny do granicy x, gdzie x to kres górny zbioru punktów {x1, x2, . . .}.

Ponieważ {x_k} w R jest ciągiem rosnącym, wtedy i tylko wtedy, gdy {−x_k} jest ciągiem malejącym, to zachodzi następujące twierdzenie:

Theorem 2.2.8. Niech {x_k} będzie ciągiem malejącym w R. Jeśli {x_k} jest nieograni- czony, to musi zmierzać do −∞. Jeśli {x_k} jest ograniczony, to jest zbieżny do granicy x, gdzie x to kres dolny zbioru punktów {x₁, x₂, . . .}.

2.2.5 Granica dolna i górna

Wprowadzimy konwencje, że ciąg {x_k} posiada punkt skupienia +∞, kiedy {x_k} zawiera podciągⁿx_m(k)^o, który zmierza do +∞, ciąg {x_k} posiada punkt skupienia −∞, kiedy {x_k} zawiera podciąg ⁿx_m(k)^o, który zmierza do −∞. W szczególności jeśli ciąg {x_k} zmierza do +∞, wtedy +∞ będzie traktowane jako granica {x_k}. Niech będzie dany {x_k} w R. Granica górna {x_k} jest zdefiniowana jako granica przy k → ∞ {a_k} zdefiniowanego jako:

a_k= sup {x_k, x_k+1, x_k+2, . . .}

i jest zapisywana jako: lim sup_k→∞x_k. Można zauważyć, że granica górna zawsze istnie- je, są 3 możliwości dla ciągu a_k, po pierwsze a_k = +∞ dla pewnego k lub dla każdego k, po drugie {ak} musi spełniać a_k+1 ≤ a_k dla każdego k, ponieważ a_k+1 jest kresem górnym z mniejszego zbioru, co oznacza, że {a_k} musi być ciągiem nierosnącym w R. Z poprzedniego twierdzenia dla ciągów monotonicznych wynika, że jeśli {a_k} jest nieogra- niczony, to a_k ↓ −∞, a jeśli {a_k} jest ograniczony, wtedy {a_k} zmierza do pewnego a.

We wszystkich 3 przypadkach granica istnieje. Dlatego lim sup zawsze istnieje. Granica dolna {x_k} jest zdefiniowana jako granica przy k → ∞ {b_k} zdefiniowanego jako:

bk = inf {x_k, xk+1, xk+2, . . .}

i jest zapisywana jako: lim inf_k→∞xk.

Theorem 2.2.9. Niech {x_k} będzie ciągiem w R oraz A zbiorem wszystkich punktów skupienia {x_k} (włącznie z ±∞). Oznaczmy: a = lim sup_k→∞x_k, b = lim inf_k→∞x_k. Wtedy zachodzi: istnieją podciągi ⁿx_m(k)^o i ⁿx_l(k)^o takie, że x_m(k) → a i x_l(k) → b, a = sup A i b = inf A.

(19)

Z powyższego twierdzenia wynika, że lim sup_k→∞xk≥ lim inf_k→∞xk. Ostra nierów- ność zachodzi np. dla ciągu {x_k} = {0, 1, 0, 1, 0, 1, . . .}, który ma

lim sup_k→∞x_k = 1 i lim inf_k→∞x_k= 0.

Theorem 2.2.10. Ciąg {x_k} w R jest zbieżny do granicy x ∈ R, wtedy i tylko wtedy, gdy lim sup_k→∞x_k= lim inf_k→∞x_k= x.

Theorem 2.2.11. Ciąg {x_k} w Rⁿ jest zbieżny do granicy x, wtedy i tylko wtedy, gdy każdy podciąg {x_k} jest zbieżny do x.

Przykład 1: dany jest ciąg x_k= (−1)^k/k. Dla k nieparzystego mamy a_k= 1/ (k + 1), dla parzystego a_k = 1/k, a zatem lim sup_k→∞xk = 0. Przykład 2: dany jest ciąg x_k = sin k, wtedy można udowodnić, że a_k= 1, a zatem lim sup_k→∞x_k= 1.

2.2.6 Zadania

Zadanie 1. Znaleźć granicę dolną i górną następujących ciągów:

• x_k= (−1)^k dla k = 1, 2, . . .

• x_k= k (−1)^k dla k = 1, 2, . . .

• x_k= (−1)^k+ 1/k dla k = 1, 2, . . .

• x_k= 1 dla k parzystych, x_k= −k/2 dla k nieparzystych, k = 1, 2, . . ..

• 1, 1, 2, 1, 2, 3, 1, 2, 3, 4, . . .

Zadanie 2. Znajdź kres dolny, górny, maksimum, minimum następujących zbiorów:

• X = {x ∈ [0, 1] |x jest niewymierne}

• X = {x|x = 1/n, n = 1, 2, . . .}

• X = {x|x = 1 − 1/n, n = 1, 2, . . .}

• X = {x ∈ [0, π] | sin x > 1/2}

2.2.7 Laboratoria 1. Zadania na 3.0

(a) Napisać metodę w klasie Sequence zwracającą informację czy dany ciąg jest ciągiem malejącym, rosnącym, ściśle malejącym, ściśle rosnącym, stałym.

(b) Sprawdzić czy podane ciągi w poprzednim konspekcie w zadaniu na 5.0 są ciągami rosnącymi, malejącymi, itd.

(c) Napisać metodę w klasie Sequence zwracającą maksimum i minimum dla cią- gów dla zdefiniowanego dużego przedziału, przetestować dla ciągów z poprzedniego konspektu.

(20)

2. Zadania na 4.0

(a) napisać metodę dla klasy Sequence sprawdzającą czy dany ciąg jest zbieżny za pomocą kryterium Cauchy’ego.

3. Zadania na 5.0

(a) Napisać metodę w klasie Sequence zwracającą najdłuższy podciąg stały, ro- snący, malejący podanego ciągu w zdefiniowanym dużym przedziale. Wska-

zówka: można zaimplementować algorytm podany tutaj: http://en.wikipedia.org/wiki/Longest_increasing_subsequence .

2.3 Wprowadzenie do metod numerycznych

2.3.1 Kule otwarte, zbiory otwarte, zbiory domknięte

Niech x ∈ Rⁿ. Kula otwarta B (x, r) ze środkiem x i promieniem r > 0 jest zdefiniowana jako:

B (x, r) = {y ∈ Rⁿ|d (x, y) < r}

Po zastąpieniu nierówności ostrej nierównością słabą otrzymujemy kulę domkniętą B_z(x, r).

Zbiór S w Rⁿ nazywamy otwartym, jeśli dla każdego x ∈ S istnieje r > 0 takie, że B (x, r) ⊂ S. Intuicyjnie zbiór S jest otwarty, gdy z każdego punktu x ∈ S możemy przemieścić się na małą odległość w dowolnym kierunku bez opuszczania S. Zbiór S w Rⁿ jest domknięty, kiedy jego dopełnienie S^c= {x ∈ Rⁿ|x /∈ S} jest otwarte.

Theorem 2.3.1. Zbiór S ⊂ Rⁿ jest domknięty, wtedy i tylko wtedy, gdy dla każdego ciągu {x_k} takiego, że dla każdego k x_k ∈ S, zachodzi x_k→ x, gdzie x ∈ S.

Przykładem zbioru domkniętego jest domknięty przedział jednostkowy [0, 1] = {x ∈ R|0 ≤ x ≤ 1}, a zbioru otwartego otwarty przedział jednostkowy (0, 1) = {x ∈ R|0 < x < 1}. Istnieją

ponadto zbiory, które nie są otwarte i nie są domknięte. Przykładowo [0, 1) = {x ∈ R|0 < x ≤ 1}

oraz (0, 1] = {x ∈ R|0 ≤ x < 1} Zbiorami w przestrzeni euklidesowej, które są zarówno otwarte jak i domknięte są tylko zbiór pusty i cała przestrzeń.

2.3.2 Zbiory ograniczone i zbiory zwarte

Zbiór S ⊂ Rⁿ nazywamy ograniczonym, jeśli istnieje r > 0 takie, że S ⊂ B (0, r).

Czyli gdy zbiór jest całkowicie zawarty w pewnej kuli otwartej ze środkiem w punkcie 0. Przykładowo przedział (0, 1) jest zbiorem ograniczonym w R, natomiast zbiór liczb naturalnych nie jest ograniczony. Zbiór S ⊂ Rⁿ jest zwarty, jeśli dla każdego ciągu punktów {x_k} takiego, że dla każdego k x_k∈ S, istnieje podciągⁿx_m(k)^ooraz istnieje x ∈ S takie, że x_m(k) → x. Opisowo zbiór jest zwarty, jeśli każdy jego ciąg zawiera podciąg zbieżny do granicy ze zbioru S. Jeśli S ⊂ Rⁿ jest zwarty, to S musi być ograniczony, ponieważ gdyby nie był ograniczony to istniałby ciąg {x_k} w S taki, że kx_kk > k, a taki ciąg nie może zawierać podciągu zbieżnego. Podobnie, jeśli zbiór jest zwarty, to musi

(21)

być również domknięty. Jeśli by tak nie byłoby, to istniałby {x_k} w S taki, że x_k → x, gdzie x /∈ S. Wszystkie podciągi wtedy również zmierzają do x, co stoi w sprzeczności z definicją zwartości. Zachodzi ponadto twierdzenie w drugą stronę, w sumie:

Theorem 2.3.2. Zbiór S ⊂ Rⁿ jest zwarty, wtedy i tylko wtedy, gdy jest domknięty i ograniczony.

2.3.3 Kombinacje wypukłe, zbiory wypukłe

Dana jest kolekcja punktów x₁, . . . , x_m ∈ Rⁿ. Punkt z ∈ Rⁿ jest kombinacją wypukłą punktów (x₁, . . . , x_m), jeśli istnieje λ ∈ R^mspełniające λ_i ≥ 0, i = 1, . . . , m i^P^m_i=1λ_i = 1 takie, że z = ^P^m_i=1λixi. Zbiór S ⊂ Rⁿ jest wypukły, jeśli każda kombinacja wypukła każdej pary punktów z S jest w S. Intuicyjnie S jest wypukły, jeśli odcinek łączący dowolne dwa punkty w S jest całkowicie zawarty w S. Przykładowo otwarty i domknięty przedział jednostkowy są wypukłe, hiperkula domknięta

D = {x ∈ Rⁿ| kxk ≤ 1}

jest również wypukła. Okrąg jednostkowy

C =ⁿx ∈ R²| kxk = 1^o

nie jest wypukły, ponieważ dla punktów (−1, 0) ∈ C i (1, 0) ∈ C istnieje kombinacja wypukła z = (0, 0) /∈ C. Powyższy punkt jest kombinacją wypukłą, ponieważ dla λ = (0.5, 0.5) mamy 0.5 [−1, 0] + 0.5 [1, 0] = [0, 0]. Zauważmy również, że dla podanych dwóch punktów mogą istnieć kombinacje wypukłe należące do C.

2.3.4 Suma zbiorów, przekrój zbiorów

Zbiór A indeksuje kolekcje zbiorów S, jeśli S_a∈ S jest zdefiniowany dla każdego a ∈ A oraz dla każdego S_i ∈ S istnieje a ∈ A. Kolekcja zbiorów S będzie oznaczana jako (S_a)_a∈A. Jeśli zbiór indeksowy zawiera skończoną liczbę elementów będzie zwany skoń- czonym zbiorem indeksowym, w przeciwnym wypadku dowolnym zbiorem indeksowym.

Jeśli B ⊂ A, wtedy kolekcja (S_b)_b∈B jest nazywana podkolekcją. Skończona podkolekcja będzie oznaczana jako (S_ϕ)_ϕ∈B Dla dowolnej kolekcji (S_a) unia kolekcji zapisywana jako S

a∈AS_a i przecięcie kolekcji zapisywane jako^T_a∈AS_a są zdefiniowane następująco:

[

a∈A

S_a= {x ∈ Rⁿ|x ∈ S_a dla pewnego a ∈ A}

\

a∈A

Sa= {x ∈ Rⁿ|x ∈ S_a dla kazdego a ∈ A}

Theorem 2.3.3 (Prawo de Morgana). Niech A będzie dowolnym zbiorem indeksowym.

Niech (G_a) będzie kolekcją zbiorów indeksowanych przez A. Wtedy:

[

a∈A

Ga

!c

= ^\

a∈A

G^c_a