Metódy numerickej matematiky I

Transcript

1 Úvodná prednáška Metódy numerickej matematiky I Prednášky: Doc. Mgr. Jozef Kristek, PhD. F1-207

2 Úvodná prednáška OBSAH 1. Úvod, sylabus, priebeh, hodnotenie 2. Zdroje a typy chýb 3. Definície chýb 4. Zaokrúhľovanie, šírenie chýb pri výpočte 5. Reprezentácia čísel 6. Podmienenosť numerických úloh a numerická stabilita algoritmov 7. Niečo z funkcionálnej analýzy

3 Sylabus Chyby a ich šírenie, reprezentácia čísel a presnosť výpočtu, algoritmy a konvergencia. Riešenie nelineárnych rovníc g(x)=0, separácia koreňov, metóda bisekcie, regula falsi, Newtonova metóda a metóda pevného bodu, Aitken a Steffensen metódy. Numerické metódy na riešenie sústav rovníc, nájdenie determinantu a inverznej matice, LU-rozklad matice, singulárny rozklad, Jacobiho, Gaussova-Jacobiho metóda, Choleského algoritmus, QR algoritmus, iteračné metódy, metóda najrýchlejšieho spádu. Vybrané algoritmy pre pásové matice, pre riedke matice a pre špeciálne blokové matice.

4 Sylabus Gradientné metódy riešenia lineárnych sústav (metódy Krylovových podpriestorov). Význam preconditioningu. Odhady chýb. Interpolácia a aproximácia, Lagrangeov, Newtonov a Chebyshevov interpolačný polynóm. Metóda najmenších štvorcov Interpolácia pomocou kubických splinov, Beziérove krivky a B-Spline krivky.

5 Úvod Pri riešení reálnych problémov sa stretávame s potrebou popísať skutočnosť pomocou vierohodného matematického modelu a ten potom uspokojivo vyriešiť. V súčasnosti je prirodzené použiť na riešenie matematického modelu výpočtovú techniku. Počítače pracujú veľmi rýchlo s informáciami kódovanými pomocou čísel. Numerická matematika je vedecká disciplína, ktorá vyvíja a analyzuje metódy, ktorých podstatou je manipulácia s číslami.

6 Úvod Numerická úloha je jasný a jednoznačný opis funkčného vzťahu medzi konečným počtom vstupných a výstupných údajov Algoritmus numerickej úlohy je jasná a jednoznačná špecifikácia konečnej postupnosti operácii, prostredníctvom ktorej sa m-tici čísel z určitej množiny vstupných údajov jednoznačne priraďuje n-tica výsledkov. Pre- a post-processing

8 Zdroje a typy chýb Ľudské chyby Chyba matematického modelu rozdiel medzi riešením matematického (často idealizovaného) problému a riešením reálneho problému Príklad: Výpočet povrchu Zeme pomocou vzorca S= 4 π r 2 Chyby vstupných dát spôsobené nepresnosťami pri meraní fyzikálnych veličín

9 Zdroje a typy chýb Chyby numerickej metódy Vznikajú pri náhrade pôvodnej matematickej úlohy jednoduchšou úlohou numerickou. Odhad tejto chyby je dôležitou súčasťou riešenia numerickej úlohy.

10 Zdroje a typy chýb Chyby numerickej metódy Vznikajú pri náhrade pôvodnej matematickej úlohy jednoduchšou úlohou numerickou. Odhad tejto chyby je dôležitou súčasťou riešenia numerickej úlohy. Príklad: Výpočet hodnoty funkcie sin x pre x=1 sčítaním konečného počtu členov Taylorovho rozvoja n1 n x x x x x sin x x 1 3! 5! 7! 9! 2 1! n

11 Zdroje a typy chýb Chyby numerickej metódy Vznikajú pri náhrade pôvodnej matematickej úlohy jednoduchšou úlohou numerickou. Odhad tejto chyby je dôležitou súčasťou riešenia numerickej úlohy. Príklad: Výpočet hodnoty funkcie sin x pre x=1 sčítaním konečného počtu členov Taylorovho rozvoja n1 n x x x x x sin x x 1 3! 5! 7! 9! 2 1! n Je známe, že sčítaním prvých n členov postupnosti sa dopustíme chyby veľkosti najviac 1/ 2n 1!

12 Zdroje a typy chýb Zaokrúhľovacie chyby Pri výpočtoch pracujeme s číslami zaokrúhlenými na určitý počet miest. Tieto chyby sa môžu pri výpočte kumulovať alebo aj navzájom rušiť. Príklad: Číslo π nevieme do počítača vložiť presne. Rovnako aj výsledok operácie 2/3 nebude v počítači presný. Pri riešení reálneho problému sa obvykle vyskytujú všetky chyby súčasne.

14 Definície chýb Nech x je presná hodnota nejakého čísla a je jej aproximácia. x x x x nazývame absolútna chyba aproximácie.

15 Definície chýb Nech x je presná hodnota nejakého čísla a je jej aproximácia. x x x x nazývame absolútna chyba aproximácie. Relatívna chyba x x x x x

16 Definície chýb Odhad chýb Každé nezáporné číslo x t.j. ε ε xε xxε, pre ktoré platí nazývame odhad absolútnej chyby.

17 Definície chýb Odhad chýb Každé nezáporné číslo x t.j. ε ε xε xxε, pre ktoré platí nazývame odhad absolútnej chyby. Každé nezáporné číslo x x δ δ, pre ktoré platí nazývame odhad relatívnej chyby.

18 Definície chýb Odhad chýb Každé nezáporné číslo x t.j. ε ε xε xxε, pre ktoré platí nazývame odhad absolútnej chyby. Každé nezáporné číslo x x δ δ, pre ktoré platí nazývame odhad relatívnej chyby. Často používame zápisy xx ε x x 1δ

19 Definície chýb Teraz posúďme chybu, ktorej sa dopustíme f x, x,..., xn f pri výpočte hodnoty 1 2 funkcie, keď presné hodnoty x i nahradíme približnými hodnotami x i xi xi.

20 Definície chýb Teraz posúďme chybu, ktorej sa dopustíme f x, x,..., xn f pri výpočte hodnoty 1 2 funkcie, keď presné hodnoty x i nahradíme približnými hodnotami x i xi xi. x 2 x n n f 1 f f x f x x x x. i i j i1 xi 2 i, j1 xixj

21 Definície chýb Teraz posúďme chybu, ktorej sa dopustíme f x, x,..., xn f pri výpočte hodnoty 1 2 funkcie, keď presné hodnoty x i nahradíme približnými hodnotami x i xi xi. x 2 x n n f 1 f f x f x x x x. i i j i1 xi 2 i, j1 xixj Ak považujeme súčiny chýb x x i j za malé

22 Definície chýb Teraz posúďme chybu, ktorej sa dopustíme f x, x,..., xn f pri výpočte hodnoty 1 2 funkcie, keď presné hodnoty x i nahradíme približnými hodnotami x i xi xi. x f x f x n i1 i f x x i Ak považujeme súčiny chýb x x i j za malé

23 Definície chýb Teraz posúďme chybu, ktorej sa dopustíme f x, x,..., xn f pri výpočte hodnoty 1 2 funkcie, keď presné hodnoty x i nahradíme približnými hodnotami x i xi xi. x n f x f x i1 i f x x i Ak považujeme súčiny chýb x x i j za malé, máme pre absolútnu chybu i1 x n f f x : f x f x x x i i

24 Definície chýb Teraz posúďme chybu, ktorej sa dopustíme f x, x,..., xn f pri výpočte hodnoty 1 2 funkcie, keď presné hodnoty x i nahradíme približnými hodnotami x i xi xi. x n f x f x i1 i f x x i Ak považujeme súčiny chýb x x i j za malé, máme pre absolútnu chybu x i i1 xi i1 x n n f f f x : f x f x x x x i i (1)

25 Definície chýb x x i1 x A pre relatívnu chybu x n f xi f xi f f x x i i

26 Definície chýb A pre relatívnu chybu n n f x x f x x x f x x f x f x x x f x x x i i i i i1 i i i1 i i. (2) Pri praktických odhadoch sa hodnota funkcie a hodnoty derivácií x počítajú v bode.

27 Chyby základných aritmetických operácií Nech. f xy, xy

28 Chyby základných aritmetických operácií Nech. Potom pomocou vzťahov (1) a (2) dostaneme absolútnu a relatívnu chybu súčtu a rozdielu f xy, xy xy x y x y x x y y xy xy x xy y

29 Chyby základných aritmetických operácií Nech. Potom pomocou vzťahov (1) a (2) dostaneme absolútnu a relatívnu chybu súčtu a rozdielu f xy, xy xy x y x y x x y y xy xy x xy y Relatívna chyba súčtu alebo rozdielu môže byť výrazne väčšia než relatívne chyby operandov v prípade, keď x y x y je podstatne menšie než alebo.

30 Chyby základných aritmetických operácií f x, y Nech. Potom absolútna a relatívna chyba súčinu xy xy y x x y xy x y xy x y Nech. Potom absolútna a relatívna chyba podielu f xy, x/ y x 1 x x y 2 y y y x/ y x y x/ y x y

32 Zaokrúhľovanie Nech x x je aproximácia čísla, ktorú zapíšeme v dekadickom vyjadrení e e 1 e 1 k x d1 10 d2 10 dk 10, d10.

33 Zaokrúhľovanie Nech x x je aproximácia čísla, ktorú zapíšeme v dekadickom vyjadrení e e 1 e 1 k x d1 10 d2 10 dk 10, d10. Hovoríme, že k-tá dekadická cifra d k je platná ak xx 1 0,5 10 e k (3) t.j. keď sa líši od najviac o 5 jednotiek rádu príslušného nasledujúcej cifre. x x

34 Zaokrúhľovanie Nech x x je aproximácia čísla, ktorú zapíšeme v dekadickom vyjadrení e e 1 e 1 k x d1 10 d2 10 dk 10, d10. Hovoríme, že k-tá dekadická cifra d k je platná ak xx 1 0,5 10 e k (3) t.j. keď sa líši od najviac o 5 jednotiek rádu príslušného nasledujúcej cifre. Ak platí nerovnosť (3) pre, ale pre už neplatí, hovoríme, že k x má p platných cifier a je správne zaokrúhlenou hodnotou čísla na p platných cifier. x p k p1 x x

35 Zaokrúhľovanie Hovoríme, že k-té desatinné miesto je platné ak xx 0,510 k (4) t.j. keď sa líši od najviac o 5 jednotiek rádu nasledujúceho desatinného miesta. x x

36 Zaokrúhľovanie Hovoríme, že k-té desatinné miesto je platné ak xx 0,510 k (4) t.j. keď sa líši od najviac o 5 jednotiek rádu nasledujúceho desatinného miesta. Ak platí nerovnosť (4) pre, ale pre už neplatí, hovoríme, že x k x p k p1 má p platných desatinných miest. x

37 Zaokrúhľovanie Niekoľko príkladov x x , , ,002 99, , ,002-0, ,0041 1, , platné cifry platné desatinné miesta

38 Zaokrúhľovanie Niekoľko príkladov x platné cifry platné desatinné miesta , , ,002 99, , ,002-0, ,0041 1, , x

41 Zaokrúhľovanie Niekoľko príkladov x platné cifry platné desatinné miesta , , ,002 99, , , , ,0041 1, , x

42 Zaokrúhľovanie Niekoľko príkladov x platné cifry platné desatinné miesta , , ,002 99, , , , , , , x

43 Zaokrúhľovanie Niekoľko príkladov x x platné cifry platné desatinné miesta , , ,002 99, , , , , , ,

44 Šírenie chýb pri výpočte Pri odčítaní dvoch blízkych čísel dochádza k strate platných cifier

45 Šírenie chýb pri výpočte Pri odčítaní dvoch blízkych čísel dochádza k strate platných cifier Príklad: x 5 x , x , x , , x y y , y , y , y

46 Šírenie chýb pri výpočte Pri odčítaní dvoch blízkych čísel dochádza k strate platných cifier Príklad: x 5 x , x , x , , x y y , y , y , y potom pre rozdiely z yx, z yx dostávame z z , z3 10, z , z

47 Šírenie chýb pri výpočte Pri odčítaní dvoch blízkych čísel dochádza k strate platných cifier Príklad: x 5 x , x , x , , x y y , y , y , y potom pre rozdiely z yx, z yx dostávame z z , z3 10, z , z takže z má jednu platnú cifru, zatiaľ čo x aj y majú štyri platné cifry.

48 Šírenie chýb pri výpočte Príklad: x , y , z Určte aproximáciu funkcie f xy / z, absolútnu a relatívnu chybu a počet platných cifier výsledku.

50 Reprezentácia čísel v počítači Reálne čísla sú v počítačoch reprezentované v systéme čísel s pohyblivou rádovou čiarkou. Základná myšlienka je podobná semilogaritmickému zápisu (napr. 2, ) Formálne je možné systém F normalizovaných čísel pohyblivej rádovej čiarky charakterizovať štyrmi celými číslami:

51 Reprezentácia čísel v počítači β p LU, základ číselnej sústavy presnosť p 1 rozsah exponentu β 2 L0 U

52 Reprezentácia čísel v počítači β p LU, základ číselnej sústavy presnosť p 1 rozsah exponentu β 2 L0 U Každé číslo x F má tvar e d kde 2 d d 3 p xmβ, md1 2 p 1 β β β

53 Reprezentácia čísel v počítači β p LU, základ číselnej sústavy presnosť p 1 rozsah exponentu β 2 L0 U Každé číslo x F má tvar e d kde 2 d d 3 p xmβ, md1 2 p 1 m je normalizovaná mantisa, d 0,1,..., β 1, i1,2,..., p i p je počet cifier mantisy a e LU, je celočíselný exponent. β β β sú cifry mantisy,

54 Reprezentácia čísel v počítači β p LU, základ číselnej sústavy presnosť p 1 rozsah exponentu β 2 L0 U Každé číslo x F má tvar e d kde 2 d d 3 p xmβ, md1 2 p 1 m je normalizovaná mantisa, d 0,1,..., β 1, i1,2,..., p i p je počet cifier mantisy a e LU, je celočíselný exponent. β β β sú cifry mantisy, Normalizácia mantisy znamená, že pre x 0 je d1 1.

55 Reprezentácia čísel v počítači β 2 β 16 β 8 β 10 binárna sústava hexadecimálna sústava osmičková sústava dekadická sústava

56 Reprezentácia čísel v počítači β 2 β 16 β 8 β 10 binárna sústava hexadecimálna sústava osmičková sústava dekadická sústava Množina F čísel pohyblivej rádovej čiarky je konečná, počet čísel v nej je

57 Reprezentácia čísel v počítači β 2 β 16 β 8 β 10 binárna sústava hexadecimálna sústava osmičková sústava dekadická sústava Množina F čísel pohyblivej rádovej čiarky je konečná, počet čísel v nej je p 1 β β U L pretože môžeme mať dve znamienka,

58 Reprezentácia čísel v počítači β 2 β 16 β 8 β 10 binárna sústava hexadecimálna sústava osmičková sústava dekadická sústava Množina F čísel pohyblivej rádovej čiarky je konečná, počet čísel v nej je p 1 β β U L pretože môžeme mať dve znamienka, β 1 možností pre prvú cifru mantisy,

59 Reprezentácia čísel v počítači β 2 β 16 β 8 β 10 binárna sústava hexadecimálna sústava osmičková sústava dekadická sústava Množina F čísel pohyblivej rádovej čiarky je konečná, počet čísel v nej je p 1 β β U L pretože môžeme mať dve znamienka, β 1 možností pre prvú cifru mantisy, β možností pre ostaných p 1 cifier mantisy,

60 Reprezentácia čísel v počítači β 2 β 16 β 8 β 10 binárna sústava hexadecimálna sústava osmičková sústava dekadická sústava Množina F čísel pohyblivej rádovej čiarky je konečná, počet čísel v nej je p 1 β β U L pretože môžeme mať dve znamienka, β 1 možností pre prvú cifru mantisy, β možností pre ostaných p 1 cifier mantisy, možných hodnôt exponentu UL1

61 Reprezentácia čísel v počítači β 2 β 16 β 8 β 10 binárna sústava hexadecimálna sústava osmičková sústava dekadická sústava Množina F čísel pohyblivej rádovej čiarky je konečná, počet čísel v nej je p 1 β β U L pretože môžeme mať dve znamienka, β 1 možností pre prvú cifru mantisy, β možností pre ostaných p 1 cifier mantisy, možných hodnôt exponentu a UL1 jednu nulu

62 Reprezentácia čísel v počítači Najmenšie kladné číslo v F je číslo UFL (UnderFlow Level) UFL β L, ktoré má prvú cifru mantisy rovnú jednej, ostatné nulové a exponent je najmenší možný. Najväčšie kladné číslo v F je číslo OFL (OverFlow Level) ktoré má všetky cifry mantisy rovné 1 p OFL ββ β exponent je najväčší možný. U, β 1 a

63 Reprezentácia čísel v počítači Reálne čísla presne zobraziteľné v systéme F nazývame strojové čísla.

64 Reprezentácia čísel v počítači Reálne čísla presne zobraziteľné v systéme F nazývame strojové čísla. Ostatné čísla musíme aproximovať (zaokrúhliť) fl x blízkym strojovým číslom.

65 Reprezentácia čísel v počítači Číslo εm 1 p β sa nazýva strojové epsilon alebo tiež strojová presnosť.

66 Reprezentácia čísel v počítači Číslo εm 1 p β sa nazýva strojové epsilon alebo tiež strojová presnosť. Vlastnosti strojového epsilon e e 1 a) v intervale β, β sú strojové čísla rozmiestnené rovnomerne e s krokom εmβ ;

67 Reprezentácia čísel v počítači Číslo εm 1 p β sa nazýva strojové epsilon alebo tiež strojová presnosť. Vlastnosti strojového epsilon e e 1 a) v intervale β, β sú strojové čísla rozmiestnené rovnomerne e s krokom εmβ ; b) najväčšia možná relatívna chyba, ktorá vznikne pri aproximácii reálneho čísla v systéme F nepresiahne 1 ε ; 2 m

68 Reprezentácia čísel v počítači Číslo εm 1 p β sa nazýva strojové epsilon alebo tiež strojová presnosť. Vlastnosti strojového epsilon e e 1 a) v intervale β, β sú strojové čísla rozmiestnené rovnomerne e s krokom εmβ ; b) najväčšia možná relatívna chyba, ktorá vznikne pri aproximácii reálneho čísla v systéme F nepresiahne 1 ε ; 2 m ε ε fl 1 ε c) je najväčšie z kladných čísel, pre ktoré m

69 Reprezentácia čísel v počítači Príklad Preskúmajte, aké čísla môžeme zobraziť v modelovom binárnom systéme F v prípade, že mantisa má p=4 cifry a exponent e je obmedzený zdola číslom L=-3 a zhora číslom U=2, t.j. 3e 2

70 Štandard IEEE V počítačoch vyvinutých po roku 1985 sa reálne čísla zobrazujú výhradne podľa štandardu IEEE a to spravidla v týchto presnostiach: a) Jednoduchá presnosť. Použijú sa 4 bajty, t.j. 32 bitov, z toho 23 bitov pre mantisu, 8 bitov pre exponent a 1 bit pre znamienko manitsy. Pretože mantisa je normalizovaná, pre je. Táto cifra sa neukladá, takže počet cifier manitsy je. Rozsah exponentu je Strojová presnosť je ε m Hovoríme, že mantisa má približne 7 dekadických cifier presnosti. 126 e UFL OFL x 0 d1 1 p 24

71 Štandard IEEE b) Dvojnásobná presnosť. Použije sa 8 bajtov, t.j. 64 bitov, z toho 52 bitov pre mantisu, 11 bitov pre exponent a 1 bit pre znamienko manitsy. Pretože mantisa je normalizovaná, pre je. Táto cifra sa neukladá, takže počet cifier manitsy je. Rozsah exponentu je. Strojová presnosť je ε m Hovoríme, že mantisa má približne 16 dekadických cifier presnosti e UFL OFL x 0 d1 1 p 53

72 Štandard IEEE Ďalšie binárne reprezentácie v IEEE štandarde: INF pre výraz typu + (napr. výsledok operácie 1/0 ) -INF pre výraz typu - (napr. výsledok operácie -1/0 ) NAN not a number (napr. výsledok operácie 0/0 ) UFLs subnormálne čísla, nenulové nenormalizované čísla s najmenším možným exponentom UFL s ε m UFL e L

73 Štandard IEEE Počítačová aritmetika podľa štandardu IEEE: Výsledok aritmetickej operácie vykonanej v počítači je rovnaký ako keď operáciu vykonáme presne a potom získaný výsledok vložíme do počítača Ak je absolútna hodnota výsledku aritmetickej operácie väčšia ako OFL dochádza k tzv. pretečeniu (overflow). Ak je absolútna hodnota výsledku aritmetickej operácie menšia ako UFL (resp. UFLs) dochádza k tzv. podtečeniu (underflow).

75 Podmienenosť numerických úloh a numerická stabilita algoritmov Pri numerickom riešení rôznych úloh musíme skúmať, aký vplyv na výsledok majú malé zmeny vo vstupných hodnotách a zaokrúhľovanie počas výpočtu.

76 Podmienenosť numerických úloh a numerická stabilita algoritmov Pri numerickom riešení rôznych úloh musíme skúmať, aký vplyv na výsledok majú malé zmeny vo vstupných hodnotách a zaokrúhľovanie počas výpočtu. Matematickú úlohu je možné chápať ako zobrazenie, ktoré ku každému vstupnému údaju x z množiny D vstupných dát priradí výsledok z množiny výstupných dát. y R y f x

77 Podmienenosť numerických úloh a numerická stabilita algoritmov Pri numerickom riešení rôznych úloh musíme skúmať, aký vplyv na výsledok majú malé zmeny vo vstupných hodnotách a zaokrúhľovanie počas výpočtu. Matematickú úlohu je možné chápať ako zobrazenie, ktoré ku každému vstupnému údaju x z množiny D vstupných dát priradí výsledok z množiny výstupných dát. y R y f x Hovoríme, že matematická úloha y f x, xd, yr, je korektná, keď x D y R 1. ku každému vstupu existuje jediné riešenie, 2. toto riešenie závisí spojito na vstupných dátach, t.j. keď, potom. x a f x f a

78 Podmienenosť numerických úloh a numerická stabilita algoritmov Hovoríme, že korektná úloha je dobre podmienená, ak malá zmena vo vstupných dátach vyvolá malú zmenu riešenia.

79 Podmienenosť numerických úloh a numerická stabilita algoritmov Hovoríme, že korektná úloha je dobre podmienená, ak malá zmena vo vstupných dátach vyvolá malú zmenu riešenia. Číslo podmienenosti úlohy definujeme ako C p relatívna chyba na výstupe relatívna chyba na vstupe

80 Podmienenosť numerických úloh a numerická stabilita algoritmov Hovoríme, že korektná úloha je dobre podmienená, ak malá zmena vo vstupných dátach vyvolá malú zmenu riešenia. Číslo podmienenosti úlohy definujeme ako C p relatívna chyba na výstupe relatívna chyba na vstupe Ak C p 1, je úloha dobre podmienená. Pre veľké C p (>100) je úloha zle podmienená.

81 Podmienenosť numerických úloh a numerická stabilita algoritmov Hovoríme, že algoritmus je dobre podmienený, ak je málo citlivý na poruchy vo vstupných dátach. Ak je vplyv zaokrúhľovacích chýb na výsledok malý, hovoríme o numericky stabilnom algoritme. Dobre podmienený a numericky stabilný algoritmus sa nazýva stabilný.

82 Podmienenosť numerických úloh a numerická stabilita algoritmov Príklad: Odhadnite číslo podmienenosti úlohy: určiť funkčnú hodnotu (diferencovateľnej) funkcie y f x ukážte na príklade funkcie f x tan x

83 Podmienenosť numerických úloh a numerická stabilita algoritmov Príklady: 1. Korene kvadratickej rovnice 2 x 2bx c 0 2. Výpočet integrálu n 1 0 n x1 E x e dx n 1,2,...