Conf.dr.ing. Gabriela Ciuprina

Transcript

1 Conf.dr.ing. Universitatea "Politehnica" Bucureşti, Facultatea de Inginerie Electrică, Departamentul de Electrotehnică Suport didactic pentru disciplina Algoritmi Numerici, 2012

2 Cuprins

3 În funcţie de tipul cauzelor care le generează: 1 Erori de - datorate reprezentării finite a numerelor reale; 2 Erori de - datorate reprezentării finite a algoritmului; 3 Erori - datorate reprezentării imprecise a datelor de intrare.

4 Mărimi utile - eroarea absolută şi marginea ei Fie: x IR n - valoarea exactă a unei mărimi; x - valoarea aproximativă. Eroarea absolută e x IR n : Marginea erorii absolute a x IR: Dacă n = 1 rezultă Echivalentă cu: x [ x a x, x + a x ]. Scrisă pe scurt ca: e x = x x. (1) e x a x. (2) x a x x x + a x. (3) x = x ± a x. (4)

5 Mărimi utile - eroarea relativă şi marginea ei Eroarea relativă ε x IR n : Marginea erorii relative r x IR ε x = e x x. (5) ε x r x. (6) Cel mai adesea, r x se exprimă în procente. Scriere pe scurt: x = x±r x %. (7)

6 Exemplu: π x = x = 3.14 e x = a x = ε x = / r x = / = 0.06%. π = 3.14± sau π = 3.14±0.06%.

7 Concluzii Relaţia "x = x±a x " unde x, x IR n şi a x IR se interpretează astfel: ( )e x IR n, e x a x, astfel încât x = x+e x, (8) Relaţia "x = x±r x %" unde x, x IR n, r x % = 100r x şi r x IR se interpretează astfel: ( )ε x IR n, ε x r x, astfel încât x = x+ x ε x. (9) În cazul unei mărimi scalare (n = 1), relaţia (9) se scrie x = x(1±ε x ), (10) semnul plus corespunzând unei valori x pozitive, iar semnul

8 Cifre semnificative Reprezentarea unui număr real în baza 10: x = f 10 n. (11) unde 0.1 f < 1. Cifrele părţii fracţionare se numesc cifre semnificative. Exemple: 3.14 = =

9 Rotunjirea afectează numerelor reale f {}}{ x = 0. }{{} 10 n, (12) k cifre x = 0. }{{}### 10 n, (13) k cifre e x = x x = }{{} ### 10 n = 0.### 10 n k, k cifre (14)

10 Rotunjirea afectează numerelor reale ε x = e x x = 0.### 10 n k 0. }{{}### 10 n = 0.### k k cifre (15) ε x k = 10 k+1. (16) Marginea erorii relative de a unui sistem de calcul depinde doar de numărul de cifre semnificative ce pot fi memorate. Pentru un sistem de calcul ce lucrează cu k cifre semnificative, marginea erorii relative de este 10 k+1.

11 Rotunjirea afectează Adunarea a două numere reale Intuitiv: pp. k = 3, x 1 + x 2 =? x 1 = 3.73 = x 2 = = x 2 = = = Rezultat: x 1 + x 2 = x 1.

12 Zeroul maşinii Zeroul (acurateţea, precizia,"epsilon-ul") maşinii = cel mai mic eps pentru care 1 + eps > 1. ( )a < eps, 1+a = 1 (în calculator) în mod uzual eps = Matlab: eps Scilab %eps. Zeroul maşinii nu trebuie confundat cu cel mai mic număr reprezentabil în calculator şi care, în mod uzual are valoarea Consecinţă: adunarea numerelor reale în calculator nu este asociativă.

13 Determinarea eps într-un mediu de programare funcţie zeroul_maşinii () real eps eps = 1 cât timp (1 + eps > 1) eps = eps/2 eps = eps*2 întoarce eps

14 Notaţii pentru un număr real Notaţie ştiinţifică: x = a 10 b unde 0.1 a < 1 Notaţia ştiinţifică normalizată: x = a 10 b unde 1 a < 10 (pune în evidenţă ordinul de mărime) Notaţia inginerească în care b se alege numai dintre multiplii lui 3, şi, deci a poate avea valori între 1 a < (se citeşte cu prefixe: mega, kilo, mili, micro etc.) Reprezentarea numerelor reale în calculator este un fel de echivalent hardware al notaţiei ştiinţifice.

15 Necesitatea unui standard Calculatoarele folosesc un număr finit de biţi pentru a reprezenta un număr real. Din acest motiv, în calculator poate fi reprezentată numai o mulţime finită de numere reale. numerele reale reprezentate nu pot fi oricât de mari sau oricât de mici (probleme numite overflow,underflow) ; există spaţii între numerele reale care se pot reprezenta - standardul din 1985 (IEEE şi ANSI) care reglementează. Institute of Electrical and Electronics Engineers (IEEE) American National Standards Institute (ANSI) Toate calculatoarele construite după 1985 folosesc acest standard : există un model independent de calculator pentru modul în care se fac aritmetice cu numere reale.

16 Reprezentarea unui număr în cadrul standardului IEEE x = ±(1+f) 2 e, (17) unde f se numeşte mantisă şi e exponent. 0 f < 1 şi 1022 e 1023 se reprezintă în calculator ca numere binare (în baza 2). Exemplu: numărul 0.1 nu poate fi reprezentat exact în acest standard deoarece sa în binar necesită un număr infinit de biţi: 1 10 = după primul termen secvenţa 1, 0, 0, 1 repetându-se la infinit. În consecinţă, numărului 0.1 este un pic mai mare decât valoarea exactă. Nu numai numerele iraţionale sunt afectate de erori de.

17 Reprezentarea unui interval în cadrul standardului IEEE Reprezentarea intervalului [1,2]: {1, , , ,...,2}. Spaţiile dintre numerele vecine = zeroul maşinii. Reprezentarea intervalului [2 j, 2 j+1 ]: mulţimea de mai sus înmulţită cu 2 j. Spaţiile dintre numerele vecine sunt scalate în funcţie de dimensiunea numerelor. Zeroul maşinii reflectă rezoluţia mulţimii reale discrete R ce poate fi reprezentată în calculator. Proprietate: ( )x IR,( ) x R astfel încât x x eps x. (18) Eroarea relativă dintre numărul real x şi lui discretă x este mărginită superior de zeroul maşinii. ( )ε, unde ε eps a.i: x = x(1+ε). (19)

18 Exemplu f(x) = f(x 0 )+ x x 0 1! sinus, x 0 = 0: f (x 0 )+ (x x 0) 2 f (x 0 )+ (20) 2! sin x = x x 3 3! + x 5 5! x 7 7! + = ( 1) k x 2k+1 (2k + 1)!. (21) s = k=0 n ( 1) k x 2k+1 (2k + 1)!. (22) k=0 e s = s s x 2n+1 (2n+1)!. (23)

19 Algoritm cu controlul erorii de funcţie sinus(x, e) ; întoarce valoarea funcţiei sinus in punctul x ; prin a seriei Taylor dezvoltată in 0 real x ; punctul în care se va evalua funcţia sin real e ; eroarea de impusă real t, s întreg k t = x s = t k = 0 cât timp ( t > e) k = k + 1 x t = ( 1) t 2 (2k)(2k+1) s = s + t

20 Rezultate t k Modulul termenului curent al dezvoltării în serie Taylor a funcţiei sinus. s(k) s(k 1) Iteratia k Modulul diferenţei dintre sume parţiale consecutive la dezvoltarea în serie Taylor a funcţiei sinus.

21 Efectul perturbaţiilor datelor de intrare y = f(x 1, x 2,...,x n ). (24) dy = f x 1 dx 1 + f x 2 dx f x n dx n. (25) y f x 1 x 1 + f x 2 x f x n x n. (26) x k = x k x k = e xk, (27)

22 Eroarea absolută a rezultatului şi marginea ei e y = ȳ y = y: e y = n k=1 f x k e xk. (28) n f n e xk x k f n e xk x = f k x e x k k k=1 k=1 k=1 unde e xk a xk. Marginea erorii absolute a rezultatului a y = n f x a x k, k (29) k=1 n f x a x k. (30) k k=1

23 Eroarea relativă a rezultatului şi marginea ei ε y = e y / y ε y = n k=1 f x k e xk y = n k=1 Marginea erorii relative a rezultatului r y = k=1 f e xk n x k y = f x k x k y ε x k. (31) k=1 n (ln f) x x k r xk. (32) k

24 Cazuri particulare: +, - Erori Adunare Scădere y = x 1 + x 2 y = x 1 x 2 Eroare absolută: e y = e x1 + e x2 e x1 e x2 majorată de: a y = a x1 + a x2 a x1 + a x2 x Eroare relativă: ε y = 1 εx1 x + x 1 +x 2 εx2 x 1 εx1 x 2 x 1 +x 2 x 1 x 2 εx2 2 x 1 x 2 x majorată de r y = 1 x rx1 + x 1 +x 2 x rx2 1 x rx1 + 2 x 1 +x 2 x 1 x 2 rx2 2 x 1 x 2 Erorile rezultatului adunării şi scăderii a două numere reale în funcţie de erorile datelor de intrare. Adunarea este o operaţie bine condiţionată. Scăderea este o operaţie prost condiţionată.

25 Exemplu x 1 = 1.23±1%, x 2 = 1.22±1% Scădere: r = 1.23/0.01 1/ /0.01 1/100 = = 2.45 = 245% x 1 x 2 = 0.01±245%. Adunare: r = 1.23/2.45 1/ /2.45 1/ / /100 = 1/100 = 1%. x 1 + x 2 = 2.45±1%.

26 Cazuri particulare: *, / Erori Înmulţire Împărţire y = x 1 x 2 y = x 1 x2 Eroare absolută: e y = x 2 e x1 + x 1 e x2 1 x2 e x1 x 1 x 2 2 e x2 majorată de: a y = x 2 a x1 + x 1 a x2 1 x 2 ax 1 + x 1 x 2 2 a x2 Eroare relativă: ε y = ε x1 + ε x2 ε x1 ε x2 majorată de r y = r x1 + r x2 r x1 + r x2 Erorile rezultatului înmulţirii şi împărţirii a două numere reale în funcţie de erorile datelor de intrare. Înmulţirea şi împărţirea sunt operaţii bine condiţionată.

27 Scăderea trebuie evitată ax 2 + bx + c = 0 x 1,2 = ( b± b 2 4ac)/(2a) pp. b > 0 şi că b 2 4ac dacă b > 0 x1 = ( b b 2 4ac)/(2a) altfel x1 = ( b + b 2 4ac)/(2a) x2 = c/(a x1)

28 Extragerea radicalului y = x e y = df dx e x = 1 2 x e x, (33) ε y = e y y = 1 2 x x e x = e x 2x = ε x 2. (34) Dar a nu poate fi ignorata!

29 Superpoziţia eroarea relativă într-un calcul aproximativ = eroarea relativă produsă de calculul aproximativ cu numere exacte (eroarea de ) + eroarea relativă produsă de calculul exact cu numere aproximative (afectate deci de erori ). ȳ = y i (1+eps) = y(1+ε y )(1+eps) y(1+ε y + eps), de unde (ȳ y)/y = ε y + eps. ε x = ε x + eps. (35) 2 Eroarea relativă a oricărui rezultat numeric este cel puţin egală cu zeroul maşinii.

30 vs. stabilitate a se referă la comportarea problemei matematice la perturbaţii ale datelor. Stabilitatea se referă la comportarea algoritmului la perturbaţii ale datelor.

31 Problemă matematică f formulată explicit: Fie f : D X şi d D. Să se găsească x X astfel încât f(d) = x.(36) O problemă este bine condiţionată dacă perturbaţii mici ale datelor conduc la perturbaţii mici ale rezultatului.

32 Reprezentări intuitive ale unei probleme bine condiţionate D d 1 f x 2 x 1 d 2 f D X X d f x

33 Reprezentări intuitive ale unei probleme prost condiţionate D X d 1 f x 1 d 2 f D d f x 2 x X

34 Problemă matematică poate fi formulată şi implicit: Fie g : X D şi d D. Să se găsească x X astfel încât g(x) = d.(37)

35 Reprezentări intuitive ale unei probleme prost condiţionate rezultate x 2 x = f(d) x 1 date d 2 d 1 d 1 d 2 date g(x) = d x 1 x 2 rezultate

36 Numărul de condiţionare absolut ˆκ = lim sup δ 0 δd <δ sau, într-o scriere simplificată δf δd, (38) δf ˆκ = sup δd δd, (39) unde δf = f(d+δd) f(d) şi δd sunt mărimi infinitezimale. Dacă f este derivabilă, atunci perturbaţia δf se poate aproxima în condiţia δd 0 ca δf = J(d)δd, (40) ˆκ = J(d). (41)

37 Numărul de condiţionare relativ κ = lim sup δ 0 δd <δ δf / f(d) δd / d, (42) sau, scris mai simplu în ipoteza unor variaţii infinitezimale Dacă f este derivabilă, atunci δf / f(d) κ = sup δd δd / d. (43) k = J(d) f(d) / d. (44) O problemă este bine condiţionată dacă valoarea lui κ este mică şi prost condiţionată dacă valorea lui κ este mare. Ce însemnă mic sau mare, depinde de problemă.

38 Exemplu Numărul de condiţionare al scăderii a două numere reale f(d) = d 1 d 2, unde d = [d 1, d 2 ] T. J = [ f/ d 1, f/ d 2 ] T = [1, 1] T κ = J(d) f(d) / d = 1 d 1 d 2 / max{ d 1, d 2 }. (45) Scăderea este prost condiţionată dacă d 1 d 2.

39 Relaţia între numărul de condiţionare, eroare şi reziduu Deoarece rezultă δf / f(d) κ = sup δd δd / d. (46) δf / f κ. (47) δd / d Perturbaţia rezultatului este o distanţa în spaţiul soluţiilor X, deci reprezintă o eroare absolută e x = δf sau relativă ε x = δf/ f. Perturbaţia datelor, numită şi reziduu este o distanţă în spaţiul D. Reziduul poate fi absolut e d = δd, unde δd = d d, sau relativ ε d = δd/ d. Cu aceste notaţii: e x κ ε d. (48)

40 - concluzie e x κ ε d. (49) Eroarea şi reziduul sunt legate prin numărul de condiţionare. Pentru o problemă cu număr de condiţionare mic, o perturbaţie mică în date va duce la o perturbaţie mică a rezultatului. Problemele matematice care au κ mare sunt prost condiţionate şi ele nu pot fi rezolvate cu ajutorul calculatorului. Pentru astfel de probleme, trebuie găsită o formulare matematică echivalentă din punct de vedere al rezultatului, dar bine condiţionată.

41 În cele ce urmează vom presupune că problema f este bine condiţionată şi pentru rezolvarea ei a fost conceput un algoritm f.

42 Acurateţea unui algoritm Acurateţea unui algoritm se referă la eroarea soluţiei. d D f f Reprezentarea intuitivă a unui algoritm a cărui precizie este ideală. În mod ideal, un algoritm este precis dacă: f(d) f(d) f(d) X x x eroare = O(eps) = O(eps). (50) f(d) = "rezultatul algoritmului f aplicat datelor d".

43 Stabilitatea unui algoritm Dar, a datelor este inevitabilă, erorile se acumulează şi perturbă rezultatul. Este mai util să se ţintească stabilitatea algoritmului. Stabilitatea unui algoritm se referă la comportarea algoritmului atunci când datele de intrare sunt perturbate. Un algoritm f folosit pentru rezolvarea unei probleme f este stabil dacă f( d) f(d) = O(eps), (51) f(d) pentru ( ) d, d care satisfac d d / d = O(eps). Pe scurt, un algoritm stabil dă raspunsul aproape corect pentru date reprezentate aproape precis.

44 Ilustrarea stabilităţii unui algorim - problema Ax = b, unde A = [ x 2 = 1 x 1 + x 2 = 0 ] [ 1, b = 0 x 1 = 1, x 2 = 1. x = f(d) = [ 1, 1] T. Să considerăm acum că datele au fost perturbate: Ā = [ ], x 1 + x 2 = 1 x 1 + x 2 = 0 x 1 = x 2 = 1/( ) 1. Se poate demonstra că această problemă este bine ]. (52) (53)

45 Ilustrarea stabilităţii unui algorim - algoritmul f 1 Pasul 1: se înmulţeşte prima ecuaţie a sistemului cu ( ) şi se adună cu a doua, rezultând x 2 ; Pasul 2: se calculează x 1 din prima ecuaţie. La pasul 1 se ajunge la ecuaţia ( )x 2 = care, în calculator devine datorită rotunjirilor x 2 = 10 20, de unde va rezulta x 2 = 1, ceea ce este corect. La pasul 2 ecuaţia de rezolvat devine x = 1, de unde va rezulta x 1 = 0, ceea ce este greşit, foarte departe de valoarea adevărată. Acest algoritm este instabil.

46 Ilustrarea stabilităţii unui algorim - algoritmul f 2 Pasul 1: se înmulţeşte a doua ecuaţie a sistemului cu ( ) şi se adună cu prima, rezultând x 2 ; Pasul 2: se calculează x 1 din a doua ecuaţie. La pasul 1 se ajunge la ecuaţia ( )x 2 = 1, care în calculator devine x 2 = 1. La pasul 2 ecuaţia de rezolvat este x = 0, de unde x 1 = 1, ceea ce este corect. Algoritmul f 2 este stabil. Stabilitatea lui este foarte puternică, el a dat raspunsul exact pentru date de intrare aproape precise.

47 Concluzii - estimarea acurateţii unei solutii 1 Se estimează numărul de condiţionare al problemei. Se continuă numai dacă problema matematică este bine condiţionată. 2 Se investighează stabilitatea algoritmului. Cel mai simplu este ca acest lucru să se realizeze experimental, rulându-se algoritmul pentru date perturbate. Dacă dispersia rezultatelor este mare atunci algoritmul este instabil şi trebuie schimbat. 3 Dacă algoritmul este stabil, atunci acurateţea finală (modulul erorii relative) este majorată de produsul dintre numărul de condiţionare şi modulul reziduului relativ. Despre un algoritm stabil care generează erori mici pentru probleme bine condiţionate se spune că este robust.

48 Laborator De terminat cap.2 de exerciţii.