9. REGRESNÁ A KORELANÁ ANALÝZA Vo vedeckých žerskch lýzch s sto stretávme s kvtttívm hodoteím dvoch vc velí, ktoré vjdrujeme fukým vzhom f(), z ϕ(, ). (9.) Vel sú vzájome šttstck korelové (závslé). Prtom epozáme tp koštt fukce, ktoré dodtoe urujeme podklde emprck zsteých (odmerých) údjov. eto druh reše prolému zývme regresá lýz. esos emprckej závslost korelových velí šttstck vhodoteom fukom vzhu zývme korelá lýz. V rovcch (9.) pr. mesto presých hodôt X, Y máme k dspozíc odmeré hodot,. Vrovávc krvk f() je spojtá prechádz medz odm emprckého polgóu, ktorý je vtvoreý odmerým údjm (or. 9.). Odstup odov P od krvk ε sú rezduá leo regresé ch. Emprckým ureím tpu ltckej fukce jej íselých koštát vjdrujeme preeh jvu odmerých hodôt závslej premeej pr mecch s hodotách rgumetu. Grfcké zázoree preehu jvu, vplvom merských chý leo ých rušvých vplvov, vjdruje eprvdelý rd odov (emprcký polgó). Úlohou je ájs tkú fukú závslos medz premeým,, preeh fukce jvu chrkterzový vrovávcou krvkou, s pr jedoduchom tvre fukce optmále prmkol k emprckému polgóu. Zvje máme k dspozíc dtoý poet merí, vted koefcet fukce (9.) uríme s vrovím MNŠ. Výsledkom ude tzv. regresá krvk. Apromác skutoého preehu jvu je evhutá k terpolác preehu jvu pre uovoú hodotu rgumetu. Použív s sto k íselému vjdreu fzkálch vzhov v geodéz v ých vedých odoroch. Or. 9.. Regresá krvk Metód regresej korelej lýz, ko všetk metód mtemtckej šttstk, pr omedzeom spleí podmeok udú m j omedzeú pltos záverov, v zásde defovom tervle, (,,... ). Metód regresej korelej lýz sú zložeé výsledkoch merí rdu dvoch súse ezávslých premeých. Výsledkom ude rd hodôt dvojíc, ktoré povžujeme z mere 60
dvojrozmerej vel. Pr korelác udeme predpokld, že oe premeé sú spojté áhodé vel. V regresej lýze stí predpokld, že jed z odvoch premeých je spojtá áhodá vel, u druhej emusí teto predpokld spleý. Pr regresej lýze povžujeme zvje hodot jedej premeej, pr., z mere spojtej áhodej vel pre dé hodot druhej premeej. Pre kždú z dých hodôt (,,..., ) ude m áhodá vel urté rozdelee so stredou hodotou vrcou, zodpovedjúcou príslušej hodote. Ak vhodocové kvtttíve vzh rešme leárou fukcou o ekokých ezámch prmetroch (regresých koefcetoch), rešeý prolém zývme leár regres. Neleár regres vžduje špecále rešee. Ke je poet lzových prvkov (, ) dv, rešeý prolém ozujeme jedopremeá regresá lýz. Väší poet lzových prvkov ko dv ozujeme multpremeá regresá lýz. Estujú tr vrt reše:. Uvžujeme le regresé ch ε fukce vrove vkoáme z podmek P m. Merským chm sú zžeé hodot hodot povžujeme z ezché f ( ) + ε, ε 0, P m. (9.) Je to jstejší prípd v geodetckých plkácách.. Uvžujeme le regresé ch ε rgumetu. Vrove vkoáme z podmek ( + ε ) f, ε 0, P m. (9.3) 3. Uvžujeme regresé ch ε fukce ko j regresé ch rgumetu. Rešme podmeku + P P m. (9.4) 9. Leár regres Predpokldjme, že dve vel sme odmerl krát s údjm:,,...,,,...,. Úlohou je zst, pltí vzh medz velm vjdreý rovcou A +, (9.5) kde A, sú ezáme (teoretcké) regresé koefcet. Ak rovc (9.5) geometrck predstvuje prmku, zývme ju teoretcká regresá prmk. Vzh medz môže ovplveý mohým komplkovým fktorm, okrem toho údje (,,,,... ) sú zžeé merským chm. Rovcu (8.5) uprvíme pre odmeré údje + ε A +, (9.6) 6
prom o zvškových regresých chách (rezduách) predpokldáme, že všetk ch ε ( ) sú vzájom ezávslé. A sme šl vrové hodot regresých koefcetov jlepše vhovovl vzhu odmerých údjov (, ) stovujeme podmeku ( A + ) A ˆ, ˆ, ktoré ε m. (9.7) Regresá lýz formulová vzhom (9.7) Aˆ, ˆ ezámch regresých koefcetov, predstvuje promácu s vrovím MNŠ. Vrové optmále hodot regresých koefcetov A, dosteme dervácou rovce (9.7) porováme s ulou A ( A + ) ( Aˆ + ˆ )( + ) 0 A Aˆ, ( A + ) ( Aˆ + ˆ )( + ) 0 A Aˆ,,, o vede k leáremu sstému rovíc pre ezáme regresé koefcet A ˆ, ˆ Aˆ, kde (9.8),,., (9.9), Rovcu (9.8) môžeme mtcovo zpís j v tvre C D. (9.0) Rešeím rovce (9.8), resp. (9.0) s verzou mtce C pomocou determtu, vrešme regresé koefcet A ˆ, ˆ C D A 6
. (9.) + Ureím regresých koefcetov Aˆ, ˆ vrovím MNŠ, vpoítme vrové rezduá εˆ, ktoré jedotlvo vjdrujú tesos emprckého polgóu od regresej prmk Aˆ+ ˆε A ˆ + ˆ. (9.) eoretcké rezduá ε mjú pror rozdelee ε N(0, σ ). Výerovú (áhodú) hodotu σ vpoítme z rezduí vrových MNŠ z rovce ( Aˆ + ˆ ) ˆ σ 0 ˆ ε. (9.3) ˆ0 Vrc σ je tež merou tesost všetkých odov k vpoítej regresej prmke Aˆ+ ˆ. Emprcké stredé ch vrových regresých koefcetov A ˆ, ˆ vpoítme z rovíc: σ ˆ ˆ0 σ, A σ ˆ ˆ0 σ. (9.4) Pre teoretcké rezduá ε N(0, σ ) plkujeme t χ rozdelee Aˆ σ Aˆ t(-), σ t(-), (9.5) ˆ σ ( ) σ Aˆ + σ ˆ χ (-). (9.6) Ak je zám vrc σ, celková pltos leárej regrese s šttstck testuje rovcou (9.6). Ak leárou regresou ureé koefcet Aˆ, ˆ ol šttstck spohlvo ureé (testom koefcet koreláce r, kp. 9.4) môžu použté predkcu hodot p pre hodotu p vel z tervlu p ( m, m ) ˆ Aˆ +. (9.7) p p 9. Neleár regres Vo všeoecost eleár regres e je tká jedoduchá ko leár regres. Pr hodoteí emprckého polgóu vzhov medz velm sto chádzme eleáru závslos. Neked eleár regresý model môžeme trsformov leár model zvedeím fukých vzhov medz regresým koefcetm tk, ko s to uvedeme v príkldoch. 63
Príkld 9.: Predpokldjme, že dve sére merí, (,,... ) vhovujú sledovému eleáremu regresému modelu, (9.8) A + kde A, sú regresé koefcet, ktoré je potreé ur. Rovcu (9.8) v ttel meovtel vdelíme, po úprve dosteme A +. Zvedeme ové vel Y, X. (9.9) Rovc (9.8) s zredukuje do leáreho tvru Y A + X, (9.0) z ktorého vpoítme regresé koefcet Aˆ. Príkld 9.: Iý eleár regresý model dvoch sérí merí, (,,... ) je Ae, (9.) kde A sú regresé koefcet, ktoré je potreé ur. Rovcu (9.) ooch strách lerzujeme prrodzeým logrtmm dosteme A. (9.) Po susttúc X, Y, A,, (9.3) dosteme leár regresý model dvoch ových regresých koefcetov : Y. (9.4) X Ke vrovím MNŠ vpoítme regresé koefcet, orgále regresé koefcet A uríme z rovíc (9.3) A ˆ e,. (9.5) 64
Príkld 3: Z lších tpov fukcí, ktoré s sto používjú v geodetckých plkácách sú: - epoecál fukc e, (9.6) leár tvr fukce je + Y A +, kde ˆ A,, (9.7) A ; e - logrtmcká fukc +, (9.8) leár tvr fukce je Y A + X, kde X X e, (9.9) -mocová fukc, (9.30) leár tvr fukce je + Y A + X, e A,. (9.3) Príkld 4: kmer uverzálm tpom regresej fukce vrove v dom tervle je mocový rd 3 A0 + A + A + A3 +... + A. (9.3) Ak urujeme dv prmetre (A 0, A ) je to prmk, tr prmetre (A 0, A, A ) je kvdrtcká prol, štr prmetre kucká prol. Optmál odhd regresých koefcetov A ˆ0. (,,... ) docelme pomocou vrov MNŠ, o vžduje dtoý poet regresých vzhov medz velm ko je poet regresých koefcetov. Jedotkovú stredú chu vpoítme zo vzhu m0, (9.33) k kde k je poet regresých koefcetov. Výpotom regresých koefcetov vtvoríme terpolú fukcu f(). Spohlvos terpoláce odhdeme vužtím jedotkovej stredej ch m 0. Vtvoríme pásmo spohlvost terpoláce pr hlde výzmost α s krtckou hrcou t α m 0 od regresej fukce, ke t α uríme zo Studetovho rozdele pre dtoých regresých vzhov. 65
Pásmo terpoláce je v tervle < m, m >. Etrpolác e je spohlvá. použjeme leár leo eleár regresý model záleží od chrkteru vzhu medz velm. Predežé rozhodute je možé uro pr vkresleí odov P (, ) pre,,..., v rovom súrdcovom sstéme súrdíc vzuálom poroví regresého polgóu ekokým zámm fukcm (prmk, prol, mocoový rd, trgoometrcká fukc pod.). Njvhodejší tvr regresej fukce vple po vhodoteí korelého koefcet r. 9.3 Prestorová regresá lýz Pr rôzch techckých úlohách s vužív prestorová regresá lýz. Príkldm sú: mmlzác presuu zem, uree regresej rov odvodee áklou vsokých stveých ojektov, uree prestorovej poloh dskotuít, výpoet výšok dgtálom model reléfu é. vr prestorových regresých fukcí sú pr.: - rov: +, (9.34) z 0 + - ploch druhého stup prmková ( hperolcký prolod): z 0 + 3 + +, (9.35) - ploch treteho stup v tvre polóu: 3 3 0 + + + 3 + 4 + 5 + 6 + 7 + 8 9 z +. (9.36) Or. 9.. Prestorová poloh rov (dskotut) 66
Príkldom vužt prestorovej regrese v geotechke je uree prestorovej poloh dskotuít (puklových plôch) z výsledkov fotogrmetrckého vhodote dskotut s potom chrkterstckých odov > 3. Ceom reše je ur vrovávcu rovu v smere ektorej z prestorových osí XYZ z regresých koefcetov rov vpoít sklo ormál ω smerík premetu σ rádus vektor (or. 9.). Všeoecý tvr rov, ktorý vjdrujú rezduá v smere os Y je ε + z + c (9.37) v mtcovom zápse ( ) ( ) ( ) +, A,3 3, (,), (9.38) kde je A mtc súrdíc chrkterstckých odov dskotut s lem v stpcoch, z,, stpcový vektor koefcetov,, c, - stpcový vektor s lem, (,,..., ). Podmek, ude spleá, k 0. Stpcový vektor uríme z rovce ( ) ( ) ( 3,) A ( 3, ) A (,3) A 3, (,). (9.39) Súet štvorcov rezduí vpoítme z rovce: ( ), (, ) A (,3 ) ( 3, ) + (, ) (,). (9.40) Presos promáce dskotut vrovávcou regresou rovou chrkterzuje jedotková stredá ch m0. (9.4) 3 Podoe s ur regresé koefcet regresých roví, ktoré promujú dskotutu v smere os X Z. Sklo ω smerík premetu rádus vektor σ vpoítme z tých koefcetov regresej rov, u ktorej jedotková stredá ch m 0j (j,, z) ml mmálu hodotu. Npr. pod or. 9. smerík σ premetu rádus vektor regresej rov uprveej do úsekového tvru vpoítme z koefcetov 67
c + c + z c, (9.4) z rovce c σ 90 ϕ rctg. (9.43) c Sklo ω rádus vektor dskotut vpoítme z rovce ω 80 ω z 80 rccos. (9.44) + + Zmeko odmoc v meovtel je vžd opé ko u regresého koefcet vrovávcej rov. c Pr promác dskotut (rov) v smere os X Z vpoítme uhol ϕ ω z rovíc: - v smere os X c ϕ rctg, c ω z rccos, (9.45) + + - v smere os Z, c z z ϕ rctg, c z ω z rccos. (9.46) + + z z Uvedeý postup výpotu sklou regresej rov smerík rádus vektor môžeme plkov j uree ákloov vsokých stveých ojektov z výsledkov velých merí. Vted použjeme mesto súrdce v smere os Z rozdel výšok pozorových odov medz dvom etpovým merm. 9.4 Apromác odového rdu fukcou trgoometrckej rd (hrmocká lýz) V prírode techckých zrdech preehjú ektoré jv tk, že s urtým rgumetom vplvu ko je pr. s, teplot, uhol, vlová džk, t. plulo rstá vekos merého rgumetu. Po doshutí mm odový rd klesá mmum opä s vrc k pôvodej hodote. Po prvej peróde P s preeh jvu opkuje v sledujúcch peródch ( ) f ( + P) f ( + )... f P (9.47) Preto stí všetr preeh jvu v jedej peróde. Jej rozsh v v 0 P uprvíme susttúcou 68
π t. (9.48) P Npr. rozsh π u roého preehu stredej hodot teplot ude do jedého mesc rová 30 peród. Jedoduchý jv, ktorý ple z jedej prí (pr. chu z ecetrct ldád), je možé vjdr krvkou susod (or. 9.3) L ( A z) + s (9.49) Máme odmerých hodôt pr hodotách spojtej premeej rgumetu A., z sú hdé tr koštt vrovávcej fukce, kde je pordc susod, je mpltúd, z je posu potku susod oprot potku rgumetu A. Ak poet odmerých hodôt > 3 plkujeme vrove odového rdu s vrovím MNŠ. Zostvíme rovcu opráv L ( A z) + v + s (9.50) Or. 9.3 Vrove odového rdu susodou Fukc (9.50) je prílš zložtá to, sme pomocou troch vhode rozložeých odov odovom rde, url prlžé hodot koštát. Vhodé je postupov tk, že s grfck zázoríme preeh odového rdu. Hodot 0, 0 z 0 odítme z grfu. Metódou vrov sprostredkujúcch merí uríme oprv d, d dz, 0 + d, 0 + d, z z 0 + dz. (9.5) Fukcu (9.50) rozveme do lorovho rdu s lem rozvoj 0 0 + 0 s( A z0 ), L L, ( A ) s z 0, L z ( A z ) 0 0 cos. (9.5) 0, Pretvoreé rovce opráv udú m tvr v ( A z 0 ) d 0 cos( A z 0 ) dz + d + s 0, (9.53) 69
v d + d + dz. (9.54) Oprv d, d dz k prlžým hodotám 0, 0 z 0 uríme zámm postupom vrov MNŠ. Vpoítým hodotm (9.5) spresíme odíté hodot z grfu zopkujeme vrove. Vždovú presos ure koštát môžeme lmtov porovím dvoch po see vkoých výpotov. Sprvdl ám stí jedo opkové vrove. Jedotkovú stredú chu m 0 ezámch koštát, z vpoítme z rovíc m 0 v v 3, m m0 Q, m m0 Q, mz m0 Qzz. (9.55) 9.5 Alýz koreláce Mjme rd merí dvojíc premeých,. Výsledk merí môžu ukáz, že jedej hodote vel ude zodpoved vc hodôt j (j,,..., ) opk jedej hodote ude odpoved vc hodôt k (k,,..., m). S mecou hodotou s meí stredá hodot druhej premeej. kúto závslos medz dvom premeým ozujeme pojmom korelá závslos tký efuký vzh má ázov stochstcký (áhodý) leo šttstcký vzh dvoch velí. Ak veseme grfck odmeré hodot, edosteme odový rd, le plošý útvr korelé pole. Príou vzku korelého po je estec pôsoe áhodých fktorov premeú rgumet. Úlohou korelého potu je ur vzájomý vzh medz premeou rgumetom, ktorý vjdrujeme koefcetom koreláce. V korelom pol dosteme dve vrovávce prmk pod defíce vrov MNŠ ( P) m. ( P) m. (9.56) Fuké rovce rovce rezduí udú pre prvú fukcu (9.56). + ε A + ε A + (9.57) ε 0. Normále rovce s použtím váhových koefcetov p mjú tvr (rovce 9.8 9.9) paˆ + ˆ p p 0, (9.58) paˆ + p p 0. Z rovíc vpoítme regresé koefcet Â, (pr. elmou metódou, pomocou determtu (9.), leo mtcovým rešeím) stredé ch vrových regresých 70
koefcetov m A m 0 QAA, m m 0 Q chádzjú dgoále verzej mtce ormálch rovíc, ke váhové koefcet Q AA Q s m 0 P. Ak vdelíme prvú rovcu (9.58) hodotou p druhú rovcu hodotou p dosteme p p Aˆ + 0, (9.59) p p A + p p p p 0. Doshl sme, že vrovác prmk prechádz žskom odov tzv. žskom žkých odov U so súrdcm p, p p, p p U, p p U. (9.60) p Ak sú žská U od se dosttoe vzdleé, vpoítme ch smerce prmk U tgα ˆ. (9.6) U Zjedodušee rovíc (9.58) docelme redukcou súrdíc žsko p p,,,, vted ude p p 0. p p Rovc prmk (9.57) po redukc žsko má posuutý potok do žsk, vted regresý koefcet A ˆ 0 ˆ + ε, ε ˆ. (9.6) Regresý koefcet vpoítme z druhej rovce (9.59), ke do ej dosdíme redukové súrdce žsko ˆ p p tgα. (9.63) p p Regresá prmk pre druhú podmeku (9.56) ude tgα. (9.64) Z rovce (9.64) cot gα. (9.65) Regresé koefcet v smere osí Y X sú ˆ p, p p. (9.66) p 7
Ke všetk dvojce (, ) odpovedl leáremu fukému vzhu (ležl prmke), odve regresé prmk splul do jedej prmk. Vted odve smerce prmok ol rovké sú velí ol rový : tg α tg α tg α cot gα. (9.67) Je to le teoretcký predpokld, ktorý v merskej pr prktck kd este, pretože úkom merských chý súse este predpokld, 0 0. Preto ude pomer r tgα tgα mer tesost áhodého vzhu velí, r s zýv koefcet koreláce. (9.68) Koefcet koreláce r je odmoc z podelu smeríc ooch regresých prmok leo geometrcký premer ooch koefcetov regrese. Koefcet koreláce r vpoítme z rovíc (9.66) vzhu (9.68) r p p p. (9.69) p p p p Koefcet koreláce pr rovkých váhch (p ) ude r. (9.70) + Koefcet koreláce pre leáru korelácu je vhodé poít zo vzhu r. (9.7) kde Dôkz vzhu (9.7) zíme pre rgumet. Rovce opráv sú ε A +. (9.7) V mtcovom tvre (, ) D(,) d (, ) (,) (9.73) A D (,), d (,), (,) Zostvíme fukcu MNŠ uprvíme:. (d D - ) (D d - ) d D Dd - d D - Dd +. (9.74) Nájdeme etrém fukce dervácou porovím s ulou ( ) d D Dd D 0. (9.75) 7
Regresé koefcet A ˆ, ˆvpoítme z rovce d (D D) - D. (9.76) V rovc (9.74) vtkeme d dosteme d (D D d - D ) + - Dd. (9.77) Výrz v zátvorke je rovc (9.75), ktorá je rová ule. Zostávjúce le v rovc (9.77) mjú výzm,...,, Dd... Aˆ Aˆ Aˆ +. Ke súrdce zredukujeme žsko, vted A ˆ 0 pod rovce (9.63) je. Súet štvorcov opráv vpoítme z rovce (9.77) ( ), kde. (9.78) Or. 9.4. Stupe koreláce Súet štvorcov opráv dosdíme do rovce (9.7) uprvíme 73
r + +. (9.79) Dokázl sme tk rovos vzhov (9.69) (9.7) výpoet koefcet koreláce r. Koefcet koreláce doúd hodot z tervlu 0, ±. V rozshu tervlu koreláce hodotíme korelé vzh sledove (or. 9.4).. r 0, medz premeým, e je leár vzh (korelác). 0 hodot v odkovom grfe (9.4) sú smetrcké k osám redukových súrdíc,. Odve regresé prmk sú se kolmé stotožujú s s osm X Y.. r, stochstcký vzh medz premeým, prechádz leár fuký vzh odve regresé prmk splú do jedej prmk (or. 9.4d). 3. 0 < r <. Ak s rozptlový orzec vzhu, sústreuje do I. III. Kvdrtu, sú je kldý koefcet regrese doúd hodot v tervle 0 < r <. A opk, k je rozptlový orzec v II. IV. kvdrte sú, je záporý koefcet koreláce ude m záporé hodot v tervle 0 > r > -. Vrc koefcet koreláce Kždá šttstcká chrkterstk, ted j koefcet koreláce má tú vlstos, že so zmešujúcm s potom združeých dvojíc (, ) s zmešuje j spohlvos vpoítých regresých koefcetov Aˆ, ˆ. S výpotom koefcet koreláce r s zoeráme j otázkou kú vekú hodotu výerového koefcet koreláce povžujeme z postujúcu rozhodute, že dve premeé sú v stochstckom (áhodom) vzhu opk, že sú v korelom vzhu. K uvedeým prolémom potreujeme poz rozdelee emprckého koefcet koreláce pr jeho teoretckej hodote ρ v zákldom súore združeých dvojíc (, ). Vrce koefcet koreláce vjdrujeme vzhom ( ρ ) σ r, (9.80) kde vjdruje fuký vzh, ke odve regresé prmk splú do jedej prmk, ρ E(r), je poet dvojíc (, ). N testove spohlvost ure koefcet koreláce používme krtckú hodotu koefcet koreláce r α vo výere zo zákldého súoru pr hpotéze, že koefcet koreláce (ρ) v zákldom súore je ρ 0. Krtcké hodot r α sú uvedeé v t. IX. posúdee, že výerový koefcet r vo výere zo zákldého súoru s ρ 0 prekroí svojou solútou hodotou údj r α s prvdepodoosou α, o zpsujeme { r > r α } α P pr E(r) ρ 0. 74
N prktcké vužte je vhodé testove relým vzhm r < t σ (9.8) α r je epreukázá korelác. t α je krtcká hodot, ktorú ájdeme v tuke Studetovho rozdele s - stupm voost hlde výzmost α. t α σ r < r < 0,40 mlá korelác (vem voý vzh), (9.8) 0,40 < r < 0,85 dorá korelác (preukázá korelác), (9.83) 40,85 < r < výzmá korelác. (9.84) 9.6 Neleár korelác Ke s od korelom grfe zoskupujú okolo krvk použjeme jvhodejšu eleáru fukcu f(). Koefcet koreláce vpoítme pod vzhu (9.6) I ( ). (9.85) Regresý koefcet r hodotí le leár vzh. Jeho hodotu urujeme j v prípde eleárej fukce. Koefcet I s zýv tež j de koreláce. 75