), i = 1, 2, ..., n dwóch różnych wielkości fizycznych X i Y, o których wiadomo, że są związane ze sobą zależnością liniową y = f(x), to najlepszym przybliżeniem współczynników A i B w równaniu y = Ax + B jest

REGRESJA LINIOWA

Jeżeli zmierzono obarczone tylko błędami przypadkowymi wartości ( x

i

, y

i

), i = 1, 2, ..., n dwóch różnych wielkości fizycznych X i Y, o których wiadomo, że są związane ze sobą zależnością liniową y = f(x), to najlepszym przybliżeniem współczynników A i B w równaniu y = Ax + B jest

A n x y_{i i} x y

i n

i i n

i i n

= ⎛

⎝⎜ ⎞

⎠⎟ −⎛

⎝⎜ ⎞

⎠⎟⎛

⎝⎜ ⎞

⎠⎟

⎡

⎣⎢ ⎤

⎦⎥ ⋅

= = =

∑ ∑ ∑

1 1 1

1

Γ,

B x_i y x x y

i n

i i n

i i n

i i

i n

= ⎛

⎝⎜ ⎞

⎠⎟⎛

⎝⎜ ⎞

⎠⎟ −⎛

⎝⎜ ⎞

⎠⎟⎛

⎝⎜ ⎞

⎠⎟

⎡

⎣⎢ ⎤

⎦⎥ ⋅

= = = =

∑

²

∑ ∑ ∑

1 1 1 1

1 Γ,

gdzie

Γ = ⎛

⎝⎜ ⎞

⎠⎟ −⎛

⎝⎜ ⎞

⎠⎟

= =

∑ ∑

n x_i x

i n

i i

n 2

1 1

2

Wielkości charakteryzujące zależność liniową zostały obliczone w oparciu o punkty doświadczalne, a te obarczone są niepewnościami związanymi z wykonywanymi pomiarami. Dlatego współczynniki A i B też są wyznaczane z pewną dokładnością. Niepewności wielkości A i B obliczamy następująco:

δ

A

σ

n

= y

Γ,

^{δ B σ}

_y ⁱ

^x

ⁱ

n

= ∑

^{= 2}

1

Γ ,

gdzie

( )

σ

ε

y

i i

i n

i i

y Ax B

n n

=

− −

− =

−

∑

= ²

∑

1

2

2 2

UWAGA:

1. Aby narysować „prostą regresji liniowej” na papierze milimetrowym wybieramy dowolne ( względnie odległe od siebie) współrzędne x

p

i x

k

( nie współrzędne punktów pomiarowych ! ), obliczymy odpowiadające im współrzędne y

p

i y

k

według równania y = Ax + B ( A i B już są znane ), nanosimy punkty o współrzędnych (x

p

, y

p

) oraz ( x

k

, y

k

) i przez te punkty przeprowadzamy prostą. Punkty odpowiadające wynikom naszych pomiarów wraz z ich niepewnościami powinny rozkładać się równomiernie w pobliżu tej prostej i może się okazać, że żaden z naszych punktów pomiarowych nie

leży na niej !

Znaczne odstępstwa ( ponad 30 % ) punktów pomiarowych od linii teoretycznej pozwalają

przypuszczać, że mierzone wielkości nie są liniowo zależne. Wtedy też współczynnik korelacji

znacznie różni się od jedności. Jeśli te odstępstwa dotyczą małej ilości punktów pomiarowych

usytuowanych w różnych częściach wykresu to przyjmujemy, że punkty te obarczone są tzw. błędem

grubym. Takie punkty odrzucamy, a dla pozostałych ponownie obliczmy wszystkie parametry prostej

najlepszego dopasowania tzn. A, δ A, B, δ B oraz współczynnik korelacji R.

2. Wszystkie kalkulatory typu „ SCIENTIFIC”, które wykonują obliczenia statystyczne jednej zmiennej, automatycznie obliczają sumy typu ∑ ∑

i i

2 i

i

, x

x , gdzie i = 1,2,3,...n . Kalkulatory pozwalające wykonywać obliczenia statystyczne na dwóch zmiennych, obliczają także sumy typu

y

_i

y

_i

x y

i

i i i

i

, ∑

²

,

∑ ∑ . Możliwe więc jest wyznaczenie wszystkich parametrów prostej najlepszego dopasowania metodą regresji liniowej zwanej również metodą najmniejszych kwadratów. Przed obliczeniami sprawdzić w instrukcji dołączonej do kalkulatora, czy regresja jest liczona dla równania y = Ax + B czy dla y = A + Bx. Aby wyznaczyć niepewności współczynników A i B przy pomocy kalkulatora wygodniej jest zastosować następujące przybliżenie

ε

_{i i}

i

i i

i i i

i

y A x y B y

2

≅ ∑

2

− −

∑ ∑ ∑

zamiast

ε

_{i i}

i

i ²

= ∑ y − Ax

i

− B

²

∑ ^{( )}

Procedura ta może wpłynąć na zmianę wartości σ

y

, która zależna jest od ε

_i

i

∑

2

. W konsekwencji może to spowodować zmianę wartości δA i δB choć wyrażenia pozostają takie same

δ

ε

A n

i

n

=

i

−

∑

²

2 Γ δ

ε

B n

i

x

i i

=

i

−

∑

²

∑

²

2 Γ

W rozważanym przykładzie y

1= f(x) z wzorów „wygodnych” mamy

ε

_i

i

∑

2

≅ 469,8796 – 344,0643 – 124,6749 = 1,140437 ε

_i

i

n

2

2

1140437

3 0 6165595

∑

− = , =

,

δA = 0,1992366 δB = 0,6618653 Na podstawie wzorów „dokładnych” otrzymano

( )

, ,

y Ax B

n

i i

i

− −

− = =

∑

²

2

11404299

3 0 6165576

δA = 0,1992360 δB = 0,6618633

Widać, że zgodność otrzymanych wielkości liczbowych jest bardzo dobra. Celowo zaniechano zaokrągleń.

Równanie prostej najlepszego dopasowania będzie y

1 = ( 2,1541 ± 0,1993)x + ( 2,707 ± 0,662 )

Ten sposób obliczania niepewności δA i δB jest o wiele prostszy i szybszy lecz mniej dokładny. Może

na przykład zawyżać wartości poszukiwanych wielkości δA i δB niezależnie od zaokrągleń różnych wielkości

ε

_{i i}

i

i i

i i i

i

y A x y B y

2

≅ ∑

2

− −

∑ ∑ ∑ może prowadzić do bezsensownych wartości liczbowych wielkości ε

_i

i

∑

2

( np. wartości ujemne !!! ) nawet przy dużej dokładności pomiarów i obliczeń. W przypadku, gdy przy obliczaniu wyrażenia przybliżonego ε

_i

i

∑

2

występuje różnica dwóch dużych, prawie jednakowych liczb, należy koniecznie posłużyć się zależnością definicyjną ε

_{i i}

i

i ²

= ∑ y − Ax

i

− B

²

∑ ^{( ) .}

WSPÓŁCZYNNIK KORELACJI

Współczynnik korelacji R jest miarą liczbową korelacji (związku, współzależności) zmiennych x

i

i y

i

(i = 1, 2, 3,...n) tworzących serie pomiarów wielkości X i Y. Z jednej strony służy do upewnienia się, czy mamy wystarczającą ilość n pomiarów wielkości x

i

i y

i

by twierdzić, że zachodzi między nimi korelacja czyli zależność np. liniowa, wykładnicza, logarytmiczna. Z drugiej strony R jest miarą prawdopodobieństwa istnienia przyjętej (postulowanej) współzależności zmiennych x

i

i y

i

. Jeżeli związek między zmiennymi x

i

i y

i

jest liniowy, y = f(x), to R nazywamy współczynnikiem korelacji liniowej, a współzależność między dwiema seriami pomiarów - korelacją liniową. Korelacja jest tym silniejsza, im większą wartość z przedziału [-1, +1 ] osiąga ⎢R ⎢. Duża wartość współczynnika ⏐R⏐ świadczy o dużym prawdopodobieństwie postulowanego związku zmiennych x

i

i y

i

. W szczególności R = ±0,95 oznacza prawdopodobieństwo równe 95% dla badanej współzależności. Tak więc, może zachodzić korelacja liniowa pomiędzy punktami doświadczalnymi (x

i

, y

i

), lecz obarczona jest niepewnością względną wynoszącą 5%. Jeżeli R = ± 1 mówimy o korelacji zupełnej, jeżeli R = 0 to mówimy o braku korelacji. Mała wartość współczynnika korelacji R może wskazywać na zbyt krótką serię pomiarów lub na inną, niż przyjęto, współzależność między wielkościami x

i

i y

i

. W pierwszym przypadku przeprowadzamy pomiary uzupełniające, a w drugim, o ile nie przeczy to prawom rządzącym badanym związkiem między seriami pomiarów, sprawdzamy inną korelację, np. krzywoliniową zamiast liniowej.

Informacje dotyczące regresji nieliniowej zawarte są w § 4.2. skryptu „Ćwiczenia laboratoryjne z fizyki, cz.I.

Podstawy opracowania wyników pomiarów” OWPWr., Wrocław 1999 - P

^OPRAWSKI

R., S

^ALEJDA

W

^.

Jeżeli natomiast wiadomo, że związek między wielkościami x

i

i y

i

ma charakter wykładniczy, to warto najpierw dokonać tzw. linearyzacji badanej zależności a następnie skorzystać z metody regresji liniowej. Więcej na ten temat można znaleźć w §3.3. wspomnianego skryptu.

Graniczne wartości ⎢R ⎢w zależności od liczby pomiarów n, od których wzwyż można wnioskować o istnieniu współzależności, przedstawia poniższa tabela.

n

5 10 20 30 40 50 75 100 500 1000 10000

⎢R ⎢ 0,99 0,84 0,64 0,53 0,47 0,42 0,35 0,30 0,14 0,10 0,03

Rozumiemy ją następująco: jeżeli np. dla n = 10 otrzymano wartość współczynnika korelacji | R | nie mniej niż

0,84, to przyjęty związek między wielkościami x

i

i y

i

jest poprawny, ale tylko w 84%. W związku z tym, nie

można spodziewać się ułożenia wszystkich punktów pomiarowych na linii najlepszego dopasowania.

Wartości średnie x i y zmiennych x

i

i y

i

, standardowe odchylenia pojedynczego pomiaru S

x

i S

y

, współczynnik korelacji R i parametry prostej y = Ax + B spełniają następujące relacje:

A RS S

y x

=

B = − y Ax

( )

S

x

x

n

i i

= −

∑ ^Δ

²

1

( )

S

y

y n

i i

= −

∑

^{Δ 2}

1

gdzie: S

x

i S

y

– odchylenia standardowe pojedynczej wartości z serii pomiarów x

i

i y

i

,

Δx = x

i

- x , Δy

i

= y

i

- y ,

x i y – wartości średnie serii x

i

i y

i

, n – ilość pomiarów w seriach x

i

i y

i

.

W programie użytkowym Excel przy wykonywaniu wykresów można określić współczynnik korelacji, jednak niepewności współczynników A i B liczymy korzystając ze wzorów regresji liniowej, lub korzystając z programów „regresja”. Należy pamiętać, że w przypadku mianowanych wielkości zmiennych x

i

i y

i

również współczynniki A, δA, B i δB są wielkościami mianowanymi – należy podawać wartości tych współczynników

wraz z jednostkami !!!. Wskazane jest także podanie faktycznej zależności, dla której zastosowana będzie

metoda regresji liniowej. Przykładowo rozważmy odkształcenia jednoosiowe (np. rozciąganie drutu), które w wąskim zakresie naprężeń podlegają prawu Hooke’a:

S F L E L

0

Δ =

,

Jeśli ta zależność zostanie przybliżona funkcją liniową y = Ax + B to x ≡ L

0

Δ L

, y ≡ S

F , A ≡ E oraz δA ≡ ΔE.

Jeśli natomiast funkcją liniową przybliży się wyrażenie E L m g

L S

0

Δ ≡ to x ≡ ΔL, y ≡ m oraz A ≡ g L

ES

0

. W tym przypadku moduł Younga, E, należy obliczyć na podstawie wartości liczbowych A, S, L

0

i g, a jego niepewność ΔE - na podstawie niepewności δA, ΔS, ΔL

0

i Δg. Obie metody są poprawne, jednak pierwsza pozwala bezpośrednio wyznaczyć szukany parametr E i niepewność ΔE. Wymiary współczynników prostej regresji ( A, B ) w każdym z prezentowanych przykładów będą oczywiście różne.

gdzie: L

O

i S - wielkości stałe dla danego drutu ( długość początkowa i pole przekroju poprzecznego) F – siła powodująca naprężenie ( F = mg ),

ΔL – wydłużenie drutu pod wpływem siły F,

E – moduł Younga, poszukiwany parametr drutu.

Przykład:

Dokonano pomiarów o różnej precyzji. Wyniki pomiarów wielkości x

i

i y

i

zebrano w tabeli.

a) tabela i wykres wykonane za pomocą programu Excel

Lp

.

x y = f ( x ) x y1 = f ( x ) 1 1,12 5,25 1,12 5,25 2 2,02 6,80 2,02 6,40 3 2,95 8,99 2,95 9,49

4 3,98 11,03 3,98 11,83

5 5,03 13,09 5,03 13,09

Jak widać, dla funkcji y

1 = f (x) czyli y = 2,154 x + 2,707 współczynnik korelacji R = 0,987 jest za mały

(dla n = 5, współczynnik R ≥ 0,99) czyli nie można powiedzieć ,że występuje liniowa zależność

y (x ).

Należy więc wykonać dodatkowe pomiary w innych , lub w tych samych punktach (zagęścić pomiary, powtórzyć wątpliwe lub/i rozszerzyć zakres pomiarowy).

b) obliczenia wykonane na podstawie pomiarów y = f(x) ujętych w tabeli powyżej za pomocą programu

regresja.zip znajdującego się w sieci internetowej pod adresem:

http://www.if.pwr.wroc.pl/~dydaktyka/LPF/programy/index.htmi Współczynniki: A = 2,036 E + 0 B = 2,884 E + 0 Niepewność współczynników: δA = 4,534 E – 2 δB = 1,506 E – 1

c) obliczenia wykonane na podstawie pomiarów ujętych w tabeli w punkcie a) za pomocą programu regresja.exe znajdującego się w komputerze w LPF pod adresem: C:\UŻYTKI\regresja.exe Równanie prostej: y = 2,036 x + 2,884

Niepewność współczynników: δA ≡ δa = 0,045 δB ≡ δb = 0,151 Takie równanie należy przepisać, stosując prawidła zaokrąglenia, w następujący sposób:

y = ( 2,036 ± 0,045 ) x + ( 2,88 ± 0,16 )