MATEMATIČNO-FIZIKALNI PRAKTIKUM 1 naloga: Izračun Gaußovega integrala Marko Petrič markopetric@guestarnessi Fakulteta za matematiko in fiziko, Univerza v Ljubljani (Dated: 18 februar 2007) Prva domača naloga za matematično-fizikalni praktikum je sestavljena iz analize različnih numeričnih metod računanja error funkcije - erf(x) ; x R Pod drobnogled smo vzeli potenčno vrsto, asimptotsko vrsto, racionalno aproksimacijo, ter Simpsonovo 3 integracijsko pravilo V nadaljnji 8 analizi smo pokazali, kako so se posamezne metode razlikovale v časovnem smislu in prav tako kolikšno natačnost lahko z njimi dosežemo Na osnovi dognanj iz sledeče analize smo skonstruirali algoritem, ki na celotnem definicijskim območju izračuna erf(x) Kot zaključek smo se še posvetili inverzu funkcije in smo ga skonstruirali s pomočjo bisekcije in prej dobljene funkcije za celotno območje I UVOD Naloga zahteva, da izračunamo integral Gaußove porazdelitve, ki je podana z w (x 0, σ, x) = 1 e (x x 0 ) 2 2πσ 2σ 2 Ta integral proglasimo za novo funkcijo - error funkcijo, ki je definirana kot erf (x) = 2 x e t2 dt π Za izračun bomo uporabili različne numerične metode, ter jih primerjali po uporabnosti glede na natančnost in časovno zahtevnost Prav tako se bomo ukvarjali s konvergenčnim obnašanjem vrst II 0 TEORIJA A Potenčna metoda Vrednost nepatoloških funkcij se da dokaj z lahkoto dobiti z potenčnimi vrstami Pri uporabi te metode moramo paziti na konvergenčno območje ter na napako, ki jo naredimo, saj če vrsta konvergira, bi morali sešteti neskončno členov Tega nas odreši računalnik, saj le-ta zna računati v prvem približku na 16 mest Potenčno vrsto za error funkcijo lahko zapišemo kot erf (x) = 2 ( 1) n x 2n+1 π n! (2n + 1) n=0 Radi bi ocenili napako, ki bi jo naredili, če bi sešteli nekaj členov te vrste Za trenutek odmislimo, da je ta vrsta alternirajoča, po kvocientnem kriterju vidimo, da je tudi vrsta absolutno konvergentna a n+1 lim = lim n a n n x 2n+3 (n+1)!(2n+3) x 2n+1 n!(2n+1) = lim n x2 2n + 1 (n + 1) (2n + 3) = 0 Tako vemo, da potenčna vrsta za erf(x) tudi absolutno konvergira in lahko omejimo napako, ki jo naredimo pri seštevanju z vrednostjo naslednjega člena Formalno zapišemo kot ɛ > 0 N, n > N, a n a n+1 > ɛ erf (x) = 2 X N ( 1) n x 2n+1 π n! (2n + 1) + O n=0 x 2N+3 (N + 1)! (2N + 3) O računalniški smiselnosti te izjave se bomo spraševali v naslednjem poglavju Omenimo le še, da se da člene vrste lepo zapisati z zaporedjem, a n+1 = x 2 2n + 1 a n (n + 1) (2n + 3) a 0 = x Ta zveza nam bo zelo priročna pri pri pisanju programa B Asimptotska vrsta Asimptotska vrsta je klasičen potenčni razvoj okoli neskončnosti Za naše potrebe je znana lepa zveza x πe x2 erfc (x) = 1 + m=1 erfc(x) = 1 erf(x) (2m 1)!! ( 2x 2 ) m, Zvezo med posameznimi členi zaporedja lahko zapišemo kot, «
2 a n+1 a n = 2n + 1 2z 2, a 1 = 1 2z 2 Problem, ki nastopi, je da vrsta ne konvergira za nobeno končno vrednost argumenta x C Racionalna aproksimacija Z malo navadiha so strokovnjaki ugotovili, da bi bil dober približek se izognemu problemu, da bi nam imenovalec in števec zbezljala Ta funkcija je v programu poimenovana erf2 Edini problem, ki nam še ostane, je kdaj nehamo seštevati vrsto, da bi dobili maksimalno natančnost Če pogledamo nazaj v poglavje s teorijo, ugotovimo, da je napaka, ki jo naredimo, reda velikosti zadnjega člena A problem, ki se pojavi pri nas, je da se lahko zgodi, da bo vrsta nekaj časa padala, nato pričela naraščati in nato pričela padati proti nič V področju, kjer so členi zavzemali velike vrednosti, je bila decimalna natančnost zmanjšana za velikostni red števila Tega problema ne moremo zlahka odpraviti, ne da bi definirali nove strukture, ki bi pomnile več decimalnih mest erf (x) = 1 (at + bt 2 + ct 3 + dt 4 + et 5 )e x2 + ɛ (x), 1 t = 1 + px Pri čemer so a, b, c, d, e, p določene numerične vrednosti Sledeča enačba je natančna na ɛ (x) = 10 7 Zveza velja zgolj za pozitivne vrednosti, a ta problem lahko odpravimo z lihostjo erf(x) D Simpsonovo 3 8 integracijsko pravilo Simpsonovo 3 8 integracijsko pravilo je definirano kot Z x4 x 0 f (x) dx = 3 8 h f (x 0 ) + 3f x 0 + h 3 «+ O h 5 f (6) (ξ)! + 3f x 0 + 2 «! h + f (x 4 ) + 3 Slika 1: Primerjalni graf spreminjanja absolutne vrednosti velikostnega reda členov vrste za erf(x) Vidimo, da je napaka reda h 5, torej če želimo izračunati na 16 decimalnih mest natančno moramo uporabiti korak h = 61 10 4 Torej, če bi nato želeli izračunati erf(5) bi porabili 7900 iteracij Simpsonovega pravila III IMPLEMENTACIJA TEORIJE A Potenčna vrsta Kot prvo metodo smo preizkusili bolj naiven pristop k računanju erf(x), to je tako, da smo šli vsak člen vrste izračunati posebej Prvi problem, ki se pojavi ob tem, je da dobimo kvocient dveh velikih računalniških števil Z računanjem vsakega števila posebej porabimo kar veliko število ciklov, a še bolj problematično, je da če želimo doseči dobro natančnost nam vrednosti imenovalca in števca hitro narastejo preko vseh meja in dobimo nesmisel Izkaže se, da je sledeča metoda uporabna samo do x = 15 Ta funkcija je v programu poimenovana erf1 Metoda se izboljša tako, da uporabimo rekurzivno zvezo za računanje členov S tem zmanjšamo število ciklov, potrebnih, da dobimo naslednji člen in prav tako Da bi dobili čim boljšo natančnost, bi si želeli, da v našem zaporedju ni področja, kjer bi členi naraščali, saj imajo ti členi manjšo decimalno natančnost Zadovoljimo se s pogojem za prekinitev seštevanja, mora vsota naslednjih dveh členov biti manjša od računalniške natančnosti B Asimptotska vrsta Pri tej metodi niti ne poizkušamo napisati programa, ki bi vsak člen posebej računal, ampak kar direktno uporabimo rekurzivno enačbo Ta funkcija je v programu poimenovana erfc1 Tukaj nastopi problem, saj nimamo nikakršne teoretske podlage, zato moramo pri uvedbi pogoja za terminacijo biti iznajdljivi Iz grafa obnašanja členov asimptotske vrste se vidi, da bi bilo smiselno seštevati člene dokler se le-ti manjšajo, saj domnevamo, da do takrat vrsta "konvergira"proti pravi vrednosti Drugi smiselni pogoj, ki smo ga dodali, je da seštevamo dokler kvocient naslednjega člena in vsote ni manjši od 10 16, saj naslednji členi ne prinesejo nič k končni natančnosti S tem seveda maksimiziramo natančnost, a nikakor ne vemo, na koliko mest je naš re-
situacije bistveno spremenila, stvari bi seveda lahko še malo pohitrili, ampak ne bi bilo nobenih bistvenih izboljšav Ta funkcija je v programu poimenovana simpson 3 IV PRIMERJAVA METOD Slika 2: Primerjalni graf spreminjanja absolutne vrednosti velikostnega reda členov asimptotske vrste za erfc(x) zultat zanesljiv Tukaj lahko opazimo ravno obratno konvergenčno obnašanje kakor pri potenčni vrsti Saj najprej členi padajo in nato pričnejo divergirati Odziv oblike na spreminjanje je prav tako obrnjen Če pri asimptotstki vrsti vzamemo večji argument, dobimo daljše konvergentno območje, a pri potenčni vrsti dobimo območje, kjer členi zelo narastejo Kot smo že skozi prejšnja dva poglavja omenili vse omejitve posameznih metod, jih dajmo še zdaj primerjati V ta namen smo generirali vrednosti funkcije erf(x) za večje območje in jih primerjali z točnimi vrednostmi Točne vrednosti smo dobili iz programa Mathematica 52, saj nam le ta izpiše vrednost funkcije na poljubno število mest natančno Nesmiselno bi bilo primerjati razlike med pravilno vrednostjo in od nas dobljeno, saj se vrednosti raztezajo preko več velikostnih redov Zato primerjamo relativne napake r = f (x) f (x) = erf Math (x) erf nas (x) erf Math (x) Tako definirano vrednost lahko primerjamo čez celotno definicijsko območje Iz slike je vidno, da metoda z upo- C Racionalna aproksimacija S stališča implementacije je racionalna metoda najenostavnejša, saj zgolj prepišemo funkcijo v C++ brez velikih pomislekov V mislih moramo imeti vedno v prejšnjem poglavju omenjeno natančnost, to je 10 7 Ta funkcija je v programu poimenovana erf3 D Simpsonovo 3 8 integracijsko pravilo Pri tej metodi ne uporabimo direktno nobenega terminacijskega pravila S pomočjo teorije izračunamo iz željene natančnosti število korakov, ki jo moramo uporabiti v integracijski metodi To storimo takole ( ) O h 5 f (6) (ξ) = 10 16, h 4 = 10 16, n = x up x down h Tukaj smo naredili približek f (6) (ξ) 1 h Seveda se zavedamo, da je takšna aproksimacija velika, ampak s tem bo pogojem zagotovo zadovoljeno Seveda bo to imelo vpliv na časovno zahtevnost, a o tem več v poglavju o časovni zahtevnosti Obstaja malo morje različnih numeričnih metod za integracijo, izbira katere druge ne bi Slika 3: Primerjalni graf relativne napake od nas napisane funkcije erf(x) glede na pravilno vrednost rabo potenčne vrste lepo deluje na intervalu od 0 do 2, a nato se ji prične natančnost manjšati To se zgodi zaradi tega, ker se pri seštevanju pričenjajo pojavljati členi, ki so veliki in s tem izgubljamo decimalno natančnost Delno bi bila metoda uporabna še do vrednosti argumenta 4 Za racionalno aproksimacijo vidimo, da je polovica območja napaka reda velikosti 10 7 Prav tako opazimo, da se nato napaka prične manjšati, to je posledica tega, da ima racionalna funkcija limito za velike x pri 1 in tako dobimo dve vrednosti, ki sta za manj kot 10 16 razmaknjeni Ugotovimo lahko tudi, da je racionalna aproksimacija najslabša metoda, seveda je asimptotska metoda še slabša na tistem področju, ampak jo tam niti ne poskusimo uporabljati
4 Naslednja metoda, ki je narisana na grafu je Simpsonova Metoda ima konstantno natančnost, kar bi pričakovali tudi iz teorije Majhne fluktuacije se lahko pojavijo zaradi odvisnosti napake od šestega odvoda integranda Zanimivo je omeniti, da obstaja območje, kjer je Simpsonova metoda najuspešnejša metoda izmed vseh od nas testiranih metod To dejstvo bo pomembno, ko bomo pisali funkcijo za izračun erf(x) za celotno definicijsko območje Za večje vrednosti argumenta error funkcije se je izkazala kot najboljša asimptotska metoda Razlog, zakaj smo lahko pridelali boljšo natančnost kot 10 16, je to, da računamo razliko med 1 in funkcijske vrednosti S tem še avtomatsko pridelamo dodatno natančnost, saj vemo iz vrednosti erfc(x), koliko devetk je spredaj, preden se prično pojavljati od nas izračunane vrednosti Slika 5: Graf povprečnega časa za izračun error funkcije po različnih metodah Slika 4: Graf relativne napake od nas napisane funkcije ercf(x) glede na pravilno vrednost Če bi si ogledali natančnost same asimptostske metode za izračun erfc(x), bi ugotovili, da pričnemo z manjšo natančnostjo in se nato proti večjim argumentom natančnost približuje 10 14 Od tod naprej je natančnost konstantna V ČASOVNA ZAHTEVNOST Za preverjanje časovne zahtevnosti smo uporabili knižnjico timeh, ter funkcijo clock() Časovna zahtevnost je bila merjena na računalniku z procesorjem ppc7450@15 GHz, ter compiler gcc 4 Za čim natančnejšo meritev časov smo večkrat zaporedoma ponovili račun pri istem argumentu in nato delili s številom ponovitev Že pri samem testiranju so se pojavile bistvene razlike med algoritmi, saj smo morali za dobro meritev Simpsonove metode narediti 100 ponovitev, za dobro meritev asimptotske metode pa milijon ponovitev Vidimo, da je racionalna aproksimacija najhitrejša metoda Bistveno hitreje skoraj ne bi mogli izračunati re- zultata, saj nismo tako daleč od procesorske meje Torej lahko rečemo, da je ta metoda časovno učinkovita, če želimo imeti rezultat zgolj na 7 mest natančno Red velikosti povprečnega časa za izračun funkcijske vrednosti error funkcije je 10 8 s Naslednjo mesto po hitrosti zavzemata dve metodi, asimptotska in potenčna Časovna zahtevnost potenčne vrste je dokaj konstantna, saj se v celem območju, kjer jo je smiselno uporabljati, spremeni za manj kot faktor 10 Povprečni čas za izračun funkcijske vrednosti error funkcije je 10 5 s Funkcija monotono narašča in v primeru da bi imeli bolj natančen računalnik, bi tako naraščala naprej asimptotska vrsta se prav tako giblje v enakih časovnih mejah kakor potenčna vrsta Zelo zanimiv efekt, ki ga opazim pri asimptotstki vrsti, je da do vrednosti argumenta 6 časovna zahtevnost narašča, nato pa prične padati To je enaka ločnica kakor pri natančnosti asimptotske vrste (do 6 narašča natančnost, nato je konstantna) Ali je kakšna globlja povezava med tema dvema fenomenoma ne moremo pojasniti, saj ne poznamo nobene dobre matematične podlage za sledeč efekt Kot najpočasnejša metoda se izkaže Simpsonova integracijska metoda Povprečni čas izračuna je 10 2 s Kot je že iz kode razvidno, se časovna zahtevnost linearno veča s časom Če le ni nujno ne bi uporabili te metode To seveda ne predstavlja nobenega problema, če to metodo uporabimo enkrat Pri kontinuirani uporabi in dejstvu, da je razlika med to metodo in vrstnima metodama 10 3, bi porabili bistveno več časa, da bi se dokopali do našega željenega rezultata VI PRIMERJALNA TABELA S pomočjo naših funkcij smo izdelali primerjalno tabelo in jo primerjali z natančnimi vrednostmi, dobljenimi iz programa Mathematica 52
5 Tabela I: Primerjalna tabela za različne metode računanja funkcije erf(x) na intervalu od 0 do 3 x Potenčna vrsta Racionalna aproksimacija Simpsonova metoda Asimptotska vrsta Točna vrednost 02 02227025892104784 02227024578583157 02227025892104685 3216887512926481 0,2227025892104785 04 04283923550466684 04283924234672845 04283923550466552 3554094075041911 0,4283923550466686 06 06038560908479260 06038561848494373 06038560908479219 1255125186203704 0,6038560908479260 08 07421009647076603 07421008597421919 07421009647075993 09186542870351116 0,7421009647076606 10 08427007929497148 08427006897475900 08427007929497587 08962231256448513 0,8427007929497149 12 09103139782296353 09103140355062125 09103139782296024 09272848130256577 0,9103139782296354 14 09522851197626487 09522852582685154 09522851197626230 09466336690583483 0,9522851197626488 16 09763483833446442 09763484558062899 09763483833446233 09779918438478339 0,9763483833446440 18 09890905016357308 09890904538115264 09890905016357135 09894185781727362 0,9890905016357308 20 09953222650189532 09953221395812188 09953222650189385 09952558269093786 0,9953222650189527 22 09981371537020176 09981370182111882 09981371537020102 09981486259968635 0,9981371537020182 24 09993114861033567 09993113821180052 09993114861033476 09993098040132044 0,9993114861033549 26 09997639655834748 09997639017652199 09997639655834714 09997641751261958 0,9997639655834707 28 09999249868053259 09999249538910548 09999249868053319 09999249645682371 0,9999249868053346 30 09999779095030106 09999778948511022 09999779095029970 09999779115203772 0,9999779095030014 Tabela II: Primerjalna tabela za različne metode računanja funkcije erfc(x) na intervalu od 3 do 8 x Racionalna aproksimacija Simpsonova metoda Asimptotska vrsta Točna vrednost 30 2210514889777748 10 5 2209049700296895 10 5 2208847962280516 10 5 2209049699858544 10 5 35 7442171360283467 10 7 7430983771650190 10 7 7431009546243327 10 7 7430983723414128 10 7 40 1546029582133457 10 8 1541725380693748 10 8 1541725916035692 10 8 1541725790028002 10 8 45 1975085650585129 10 10 1966186102819734 10 10 1966160443812399 10 10 1966160441542888 10 10 50 1547761918629931 10 12 1529887327933466 10 12 1537459794412670 10 12 1537459794428035 10 12 55 7438494264988549 10 15 3241851231905457 10 14 7357847917974782 10 15 7357847917974399 10 15 60 0 4241051954068098 10 14 2151973671249892 10 17 2151973671249891 10 17 65 0 2930988785010413 10 14 3842148327120647 10 20 3842148327120637 10 20 70 0 3230749001659206 10 14 4183825607779415 10 23 4183825607779420 10 23 75 0 3463895836830488 10 14 2776649386030569 10 26 2776649386030565 10 26 80 0 2842170943040401 10 14 1122429717298293 10 29 1122429717298291 10 29 V primerjalni tabeli za erfc(x) ni potenčne metode, saj je iz prejšnih poglavij razvidno, da je le-to metodo nesmiselno uporabljati na tem področju VII FUNKCIJA ZA CELO OBMOČJE Iz spoznanj, pridobljenih iz poglavja o časovni zahtevnosti in primerjave metod, lahko predlagamo dve funkciji Prva, ki je natančnostno orientirana, v tem primeru uporabimo na intervalu od 0 do 25 potenčno vrsto od 25 do 4 Simpsonovo metodo in od 4 dalje asimptotsko vrsto S takšno postavitvijo mej je zagotovljena maksimalna natančnost, ki jo je možno dobiti z kompozicijo naših metod Druga funkcija je orientirana časovno, zato uporabimo na intervalu od 0 do 36 potenčno metodo in od tod naprej asimptotično S tem je zagotovljena maksimalna hitrost, a je interval od 25 do 4 manj natančen Zaradi natančnosti vrača funkcija na intervalu od 0 do 4 funkcijo erf(x), od tod dalje pa funkcijo ercf(x) Ta funkcija je v programu poimenovana erff A Inverzna funkcija Na najbolj preprost način lahko s pomočjo bisekcije skonstruiramo inverz funkcije Smiselno bi bilo sestaviti dve funkciji Inverz na intervalu od 0 do 4 funkcije od erf(x), ter na intervalu večjem od 4 inverz funkcije erfc(x) Ko napišemo algoritem za en inverz, se da z nekaj spremembami dobiti tudi inverz druge funkcije Slika 6: Graf funkcije erf 1 (x), pridobljen s pomočjo našega algoritma
6 VIII ZAKLJUČEK Ta sestavek je lepo prikazal lastnosti štirih preprostih numeričnih metod za računanje error funkcije Ugotovili smo, da je na intervalu od 0 do 25 najbolj uporabna potenčna vrsta, od 25 do 4 Simpsonova integracija, ter za večje argumente asimptotična vrsta Če postopamo po takšnem pravilu, nam je zagotovljena natančnost na najmanj 10 15 Prav tako smo s kreacijo takšne učinkovite funkcije naredili dobro osnovo za računanje inverzne funkcije Seveda, če se zadovoljimo z natančnostjo na sedem mest, lahko tudi uporabimo racionalno aproksimacijo Preostala je edino skrivnost, ali je povezava med ekstremom časovne zahtevnosti asimptotske vrste in pričetkom konstante natančnosti konvergence Na to vprašanje lahko edino odgovorimo s hypotheses non fingo