Plan wykładu1. Problem aproksymacji, normy, rodzaje aproksymacji2. Aproksymacja średniokwadratowaa)w bazie jednomianówb)w bazie wielomianów ortogonalnychc)w bazie funkcji trygonometrycznychd)w bazie funkcji sklejanych3. Przybliżenia Padego Aproksymacja

(1)

Aproksymacja

Plan wykładu

1. Problem aproksymacji, normy, rodzaje aproksymacji 2. Aproksymacja średniokwadratowa

a) w bazie jednomianów

b) w bazie wielomianów ortogonalnych c) w bazie funkcji trygonometrycznych d) w bazie funkcji sklejanych

3. Przybliżenia Padego

(2)

2 Założenia

f(x) – funkcja którą aproksymujemy f∈ X ; X jest przestrzenią liniową

Aproksymacja liniowa funkcji f(x) (aproksymowanej - przybliżanej) polega na wyznaczeniu

współczynników a₀,a₁,a₂,....,a_m funkcji aproksymującej:

gdzie: _i(x) - są funkcjami bazowymi (m+1)

wymiarowej podprzestrzeni liniowej X_m+1 (Xm+1∈ X )

Żądamy aby funkcja F(x) spełniała warunek

Wybór podprzestrzeni i bazy zależy od rodzaju problemu:

1) podprzestrzeń funkcji trygonometrycznych z bazą – 1, sin(x), cos(x), sin(2x), cos(2x),..., sin(kx), cos(kx)

2) podprzestrzeń wielomianów stopnia m z bazą - 1, x, x²,x³,..., x^m (lub wielomiany ortogonalne) 3) podprzestrzeń funkcji, których o własnościach

ściśle związanych z własnościami rozważanego problemu – np. exp(-ax²+bx+c)

F (x) = a

0

'

0

(x) + a

1

'

1

(x) + : : : + a

m

'

m

(x)

kf (x) ¡ F (x)k = minimum

(3)

3 Przykłady norm stosowanych w aproksymacji:

a) norma Czebyszewa

b) norma L₂

c) norma L₂ z wagą

gdzie: w(x) jest nieujemną ciągłą funkcją wagową

Jeśli funkcja f(x) jest określona na dyskretnym zbiorze punktów wówczas norma L₂ z wagą przyjmuje postać:

kf(x) ¡ F (x)k = sup

[a;b]

jf(x) ¡ F (x)j

kf (x) ¡ F (x)k =

µ X

ⁿ

i=0

w(x

i

) [f (x

i

) ¡ F (x

ⁱ

)]

²

¶

¹₂

Aproksymacja średniokwadratowa.

Dla funkcji ciągłej f(x) określonej w przedziale [a,b] poszukujemy minimum całki:

lub sumy gdy funkcja jest określona na dyskretnym zbiorze n+1 punktów

(metoda najmniejszych kwdratów):

Aproksymacja jednostajna.

Dla funkcji f(x)określonej w przedziale [a,b]

poszukujemy F(x) dającej najmniejsze maksimum różnicy między nimi w całym przedziale:

kF (x) ¡ f (x)k = Z

b

a

w(x)[F (x) ¡ f(x)]

²

dx

w(x

i

) ¸ 0 i = 0; 1; 2; : : : ; n

kF (x) ¡ f(x)k = sup

x2[a;b]

jF (x) ¡ f (x)j kF (x) ¡ f(x)k =

X

n i=0

w(x

i

)[F (x

i

) ¡ f(x

ⁱ

)]

²

kf (x) ¡ F (x)k =

µ Z

b

a

jf(x) ¡ F (x)j

²

dx

¶

¹₂

kf(x) ¡ F (x)k =

µ Z

b a

w(x) jf(x) ¡ F (x)j

²

dx

¶

¹₂

(4)

4 Tw. 1 (Weierstrassa)

Jeżeli funkcja f(x) jest ciągła na skończonym przedziale [a,b], to dla każdego

"

dodatniego można dobrać takie n, że jest możliwe

utworzenie wielomianu P_n(x) stopnia n (n=n(")), który spełnia nierówność:

Z twierdzenia powyższego wynika, że zawsze można znaleźć wielomian o dowolnie małym odchyleniu od funkcji f(x).

Tw. 2 (Weierstrassa)

Jeżeli funkcja f(x) jest funkcją ciągłą na R i okresową o okresie 2¼ to dla każdego "

dodatniego istnieje wielomian trygonometryczny

spełniający dla wszystkich x nierówność

S

n

(x) = a

0

+ X

n k=1

(a

k

cos(kx) + b

k

sin(kx)) n = n(")

jf(x) ¡ S

ⁿ

(x) j < "

kf(x) ¡ P

ⁿ

(x) k · "

Metoda aproksymacji średniokwadratowej.

Dysponując układem funkcji bazowych w podprzestrzeni X_n:

szukamy wielomianu F(x) będącego najlepszym przybliżeniem średniokwadratowym funkcji f(x) na zbiorze X=(x_j):

Dla F(x) liczymy normę L₂

gdzie: R_j jest odchyleniem w punkcie x_j

F (x) = X

m

i=0

a

i

'

i

(x)

H(a

₀

; a

₁

; : : : ; a

_m

) =

= X

n j=0

w(x

_j

)

"

f (x

_j

) ¡ X

m

i=0

a

_i

'

_i

(x

_j

)

#

2

= X

n j=0

w(x

_j

)R

²_j

'

i

(x); i = 0; 1; : : : ; m

(5)

5 Szukamy minimum funkcji H (wielu zmiennych) ze

względu na współczynniki a₀,a₁,...

Warunek ten generuje m+1 równań liniowych z m+1 niewiadomymi:

Powyższy układ równań zwany jest układem

normalnym. Ponieważ funkcje bazowe są liniowo niezależne, istnieje więc dokładnie jedno

rozwiązanie minimalizujące wartość H. Układ równań można zapisać w postaci macierzowej (zakładamy (x)=1):

@H

@a

k

= 0; k = 0; 1; : : : ; m

D

^T

DA = D

^T

f

D = 2 6 6 4

'

0

(x

0

) : : : '

m

(x

0

) '

0

(x

1

) : : : '

m

(x

1

)

: : : : : : : : : '

0

(x

n

) : : : '

m

(x

n

)

3 7 7

5 A = 2 6 6 6 4

a

₀

a

1

.. . a

_m

3 7 7

7 5 f = 2 6 6 6 4

f (x

₀

) f (x

1

)

.. . f (x

_n

)

3 7 7 7 5

Uwaga:

a) Macierz D może nie być kwadratowa np. w tzw. regresji liniowej baza jest dwuelementowa {1,x}, a węzłów może być dowolna ilość

b) D^TD jest macierzą kwadratową i symetryczną o rozmiarach

(m+1)x(m+1)

@H

@a

k

= ¡2 X

n j=0

w(x

j

)

"

f (x

j

) ¡ X

m

i=0

a

i

'

i

(x

j

)

#

'

k

(x

j

) = 0

k = 0; 1; 2; : : : ; m

(6)

6 Aproksymacja średniokwadratowa w bazie

jednomianów

Jako bazę przyjmujemy ciąg jednomianów

Warunek minimum przyjmuje postać:

po zmianie kolejności sumowania

i wprowadzeniu oznaczeń

otrzymujemy układ normalny:

1; x; x

²

; : : : ; x

^m

X

n j=0

f (x

j

)x

^k_j

= X

m

i=0

a

i

µ X

ⁿ

j=0

x

^i+k_j

¶

g

ik

= X

n j=0

x

^i+k_j

½

k

= X

n j=0

f (x

j

)x

^k_j

Uwagi:

a) Jeżeli m=n wówczas funkcja aproksymująca pokrywa się z wielomianem interpolującym

b) Stopień wielomianu aproksymującego powienien być znacznie mniejszy od liczby węzłów x_k, aby

„wygładzić” ewentualne błędy pomiarowe c) Dla m ≥ 6 macierz układu staje się źle

uwarunkowana Najprostszym remedium jest zastosowanie silniejszej arytmetyki

Aproksymacja średniokwadratowa w bazie wielomianów ortogonalnych

Def. Funkcje f(x) i g(x) nazywamy ortogonalnymi na dyskretnym zbiorze punktów x₁,x₂,...,x_n, jeśli

a funkcje f i g spełniają warunki

X

n i=0

f (x

i

)g(x

i

) = 0

X

n i=0

[f (x

i

)]

²

> 0

X

n i=0

[g(x

i

)]

²

> 0 X

n

j=0

"

f (x

j

) ¡ X

m

i=0

a

i

x

ⁱ_j

#

x

^k_j

= 0 k = 0; 1; 2; : : : ; m

X

m i=0

a

i

g

ik

= ½

k

= ) G

^T

a = ½

(7)

7 W aproksymacji średniokwadratowej ciąg

funkcyjny

stanowi bazę ortogonalną dla węzłów

aproksymacji x₁,x₂,...,x_n, jeśli narzucimy dwa warunki:

Oraz nie wszystkie węzły są zerami tych wielomianów

Macierz układu normalnego przy aproksymacji wielomianami ortogonalnymi jest macierzą diagonalną

f'

^m

(x) g = '

⁰

(x); '

1

(x); : : : ; '

m

(x)

X

n i=0

'

j

(x

i

)'

k

(x

i

) = 0; j 6= k

X

n i=0

'

²_j

(x

i

) > 0

D

^T

D = 2 6 6 4

d

1

0 : : : 0 0 d

₂

: : : 0 : : : : : : : : : : : :

0 0 : : : d

n

3 7 7 5

d

jj

= X

n

i=0

'

²_j

(x

i

)

Macierz układu jest dobrze uwarunkowana i układ posiada jedno rozwiązanie.

Jak znaleźć wielomiany ortogonalne?

Zakładamy, że węzły są równoodległe

i wykonujemy przekształcenie

Naszym zadaniem jest znalezienie ciągu wielomianów

postaci

spełniające warunek ortogonalności

x

i

= x

0

+ i ¢ h; i = 0; 1; 2; : : : ; n

q = x ¡ x

⁰

h ; x

i

! q

ⁱ

fF

i⁽ⁿ⁾

(q) g = F

0⁽ⁿ⁾

(q); F

₁⁽ⁿ⁾

(q); : : : ; F

_m⁽ⁿ⁾

(q)

X

n i=0

F

_j⁽ⁿ⁾

(i)F

_k⁽ⁿ⁾

(i) = 0 () j 6= k F

_k⁽ⁿ⁾

(q) = a

0

+ a

1

q + a

2

q(q ¡ 1)

+ : : : + a

k

q(q ¡ 1) ¢ ¢ ¢ (q ¡ k + 1)

(8)

8 Korzystamy z postaci wielomianu czynnikowego

i dodatkowo normujemy wielomiany tzn. mają one postać

Szukane wielomiany ortogonalne są wielomianami Grama

Mając zdefiniowaną bazę można znaleźć funkcję aproksymującą F(x)

q

^[k]

= q(q ¡ 1) : : : (q ¡ k + 1)

F

_k⁽ⁿ⁾

(q) = a

0

+ a

1

q

^[1]

+ a

2

q

^[2]

+ : : : + a

k

q

^[k]

F b

_k⁽ⁿ⁾

(0) = 1; k = 0; 1; 2; : : : ; m

F b

_k⁽ⁿ⁾

(q) = 1 + b

1

q

^[1]

+ b

2

q

^[2]

+ : : : + b

k

q

^[k]

F b

_k⁽ⁿ⁾

(q) = X

k s=0

( ¡1)

^s

µ k

s

¶µ k + s s

¶ q

^[s]

n

^[n]

Ze współczynnikami

Wielomiany ortogonalne dla punktów rozmieszczonych dowolnie (nie

równoodległych)

Kolejne wielomiany ortogonalne wyznaczamy rekurencyjnie tj. na podstawie znajmości

postaci wielomianów niższych stopni:

z warunkami

F (x) =

X

m i=0

a

_i

'

_i

(x) = X

m k=0

c

_k

s

_k

F b

_k⁽ⁿ⁾

(q)

=

X

m k=0

c

k

s

_k

F b

_k⁽ⁿ⁾

µ x ¡ x

⁰

h

¶

; m · n

s

k

= X

n q=0

[ b F

_k⁽ⁿ⁾

(q)]

²

c

k

= X

n

i=0

y

i

F b

_k⁽ⁿ⁾

(x

i

)

'

j+1

(x) = (x ¡ ®

^j+1

)'

j

(x) ¡ ¯

^j

'

j¡1

(x) j = 0; 1; 2; : : :

'

0

(x) = 1 '

_¡1

(x) = 0

®

j+1

=

P

n

i=0

x

i

'

²_j

(x

i

) P

n

i=0

'

²_j

(x

i

)

¯

j

=

P

n

i=0

x

i

'

j¡1

'

j

(x

i

) P

n

i=0

'

²_j_¡1

(x

_i

)

(9)

9

F (x) = X

m k=0

b

k

'

k

(x)

b

k

= C

k

S

_k

C

k

=

X

n i=1

y

i

'

k

(x

i

)

S

k

= X

n

i=0

'

²_k

(x

i

)

Wielomiany Grama dla 11 węzłów (n=10),h=0.5

(10)

10 Aproksymacja średniokwadratowa w bazie

funkcji trygonometrycznych

Funkcje okresowe aproksymujemy przy użyciu funkcji trygonometrycznych, czyli w bazie

Wielomian trygonometryczny o okresie 2 ma postać:

Jeśli funkcja f(x) jest określona na dyskretnym zbiorze równoodległych punktów, a liczba punktów jest parzysta i wynosi 2L:

Q

n

(x) = a

0

2 + X

n k=1

(a

k

cos(kx) + b

k

sin(kx))

x

i

= ¼i

L ; i = 0; 1; 2; : : : ; 2L ¡ 1

2L

X

¡1 i=0

sin(mx

i

)sin(kx

i

) = 8 <

:

0; m 6= k

L; m = k 6= 0 0; m = k = 0

2L

X

¡1 i=0

cos(mx

i

)cos(kx

i

) = 8 <

:

0; m 6= k

L; m = k 6= 0 2L; m = k = 0

2L

X

¡1 i=0

cos(mx

i

)sin(kx

i

) = 0; m; k ¡ dowolne 1; sin(x); cos(x); sin(2x); cos(2x); : : :

Szukamy wielomianu w postaci:

Współczynniki a_j oraz b_j wyznacza się z warunku minimalizacji wyrażenia:

co prowadzi do zależności na współczynnki

a

_j

= 1 L

2L

X

¡1 i=0

f (x

_i

)cos(jx

_i

)

= 1 L

2L

X

¡1 i=0

f (x

_i

)cos ¼ij L

b

j

= 1 L

2L

X

¡1 i=0

f (x

i

)sin(jx

i

)

= 1 L

2L

X

¡1 i=0

f (x

i

)sin ¼ij L F (x) = 1

2 a

0

+ X

n j=1

(a

j

cos(jx) + b

j

sin(jx)) n < L

2L

X

¡1 i=0

[f (x

i

) ¡ F (x

ⁱ

)]

²

= min

(11)

11 Aproksymacja średnokwadratowa w

bazie funkcji sklejanych

Zakładamy, że funkcję s(x) można

przedstawić w postaci kombinacji liniowej funkcji bazowych w postaci funkcji sklejanych trzeciego stopnia

(np. zdefiniowanych na wykładzie z interpolacji):

Szukamy minimum odchylenia kwadratowego:

licząc pochodne cząstkowe względem c_j:

Dostajemy układ n+3 równań z n+3 niewiadomymi.

s(x) =

n+1

X

i=¡1

c

i

©

³_i

(x); a · x · b

I = Z

b

a

"

f (x) ¡

n+1

X

i=¡1

c

i

©

³_i

(x)

#

²

dx

Ze względu na liniową niezależność funkcji bazy

układ ma jednoznaczne rozwiązanie dające minimum funkcji I.

Macierz układu jest macierzą symetryczną i wstęgową (pięcioprzekątniową).

n+1

X

i=¡1

c

_i

Z

b

a

©

³_i

(x)©

³_j

(x)dx = Z

b

a

f (x)©

³_j

(x)dx j = ¡1; 0; 1; : : : ; n + 1

n+1

X

i=¡1

a

ij

c

i

= 1 h

Z

b a

f (x)©

³_j

(x)dx

a

ij

= 1 h

Z

b a

©

³_i

(x)©

³_j

(x)dx

Ac = ½

@I

@c

_j

= 0

(12)

12 W przypadku aproksymacji na dyskretnym zbiorze

punktów (x_i), gdzie:

szukamy minimum wyrażenia:

Postępując jak w przypadku funkcji ciągłych otrzymyjemy układ równań:

gdzie:

Również w tym przypadku macierz współczynników układu jest symetryczna i ma postać wstegową:

i = 0; 1; 2; : : : ; n

1

; n

1

> n + 3

n+1

X

i=¡1

b

ij

c

i

=

n₁

X

k=0

f (x

k

)©

³_j

(x

k

) j = ¡1; 0; 1; : : : ; n + 1

b

ij

=

n₁

X

k=0

©

³_i

(x

k

)©

³_j

(x

k

)

b

ij

= 0 , ji ¡ jj ¸ 4

Nierzadko zależy nam na dopasowaniu do danych pomiarowych określonej zależności funkcyjnej (np. wynikającej z zasady działania danego urzadzenia ).

Często stosuje się poniższe upraszczające formuły aproksymacyjne:

y = ax

^b

+ c y = e

^ax²^+bx+c

y = ax

²

+ bx + c y = ax

^b

e

^cx

J =

n1

X

k=0

"

f (x

k

) ¡

n+1

X

i=¡1

c

i

©

³_i

(x

k

)

#

²

(13)

13 Aproksymacja Padego

Funkcję aproksymowaną przybliżamy funkcją wymierną

Gdzie: N=n+k

Zaletą powyższego przybliżenia (w problemie aproksymacji jednostajnej) są mniejsze błędy niż aproksymacja wielomianem stopnia N

(otrzymanych np. z rozwinięć Taylora czy Maclaurina).

Zadanie polega na znalezieniu N+1 współczynników L_N oraz M_k

tak aby w x₀=0 funkcje: aproksymowana i aproksymująca miały jak najwięcej równych pochodnych.

R

n;k

(x) = L

n

(x) M

k

(x)

L

n

(x) = a

0

+ a

1

x + a

2

x

²

+ : : : + a

n

x

ⁿ

M

k

(x) = b

0

+ b

1

x + b

2

x

²

+ : : : + b

k

x

^k

b

0

6= 0

Rozwijamy f(x) w szereg Maclaurina

Liczymy błąd aproksymacji (w celu otrzymania zależności współczynniki a_i oraz b_i)

Wykorzystujemy warunki z ciągłością pochodnych w x=0

Powyższy warunek będzie spełniony, gdy licznik zapiszemy jako

f (x) = X

1

i=0

c

i

x

ⁱ

f (x) ¡ L

n

(x) M

k

(x) =

=

¡P

₁

i=0

c

i

x

ⁱ

¢ ³P

k

i=0

b

i

x

ⁱ

´

¡ P

n

i=0

a

i

x

ⁱ

P

k

i=0

b

i

x

i

f

^(m)

(x) j

^x=0

¡ R

^(m)_n;k

(x) j

^x=0

= 0 m = 0; 1; 2; : : : ; k + n

Ã

₁

X

i=0

c

_i

x

ⁱ

! Ã

_k

X

i=0

b

_i

x

ⁱ

!

¡ X

n

i=0

a

_i

x

ⁱ

=

= X

1 j=1

d

N +j

x

^{N +j}

(14)

14 Dla warunku:

dostajemy równanie

z którego wydobywamy zależności

i ostatecznie wzór ogólny

Wykorzystujemy też założenie o równości pochodnych (do rzędu n+k+1) co daje dodatkową zależność

a

r

= X

r j=0

c

r¡j

b

j

; r = 0; 1; 2; : : : ; n

X

k j=0

c

n+k¡s¡j

b

j

= 0; s = 0; 1; 2; : : : ; k ¡ 1 a

0

= b

0

c

0

a

1

= b

0

c

1

+ b

1

c

0

a

2

= b

0

c

2

+ b

1

c

1

+ b

2

c

0

: : : : : : : : : : : : : : : : : :

f (0) ¡ R

^n;k

= 0

(15)

15 Sposób postępowania:

1. Wyznaczamy współczynniki szeregu McLaurina.

Numerycznie dokładnie – tylko przy użyciu liczb dualnych, ilorazy różnicowe są niedokładne. W niektórych przypadkach możliwe jest wykorzystanie wzoru analitycznego na pochodne.

2. Tworzymy układ równań, którego rozwiązanie to współczynniki b_i

3. Teraz możemy wyznaczyć kolejno współczynniki a_j

(16)

16 Aproksymacja Pade funkcji

Funkcja jest parzysta, więc wielomiany w liczniku i w mianowniku R_n,k będą

miały niezerowe współczynniki tylko przy jednomianach o wykładnikach parzystych.

(17)

17 Aproksymacja Pade funkcji

Funkcja aproksymowana jest nieparzysta – niezerowe współczynniki wielmianu L to te stojące przy jednomianach o wyładnikach nieparzystych.