REGRESIJSKA ANALIZA. U razvoju regresijske analize najznačajniju ulogu su imali: Carl Friedrich Gauss ( ) Francis Galton (

Σχετικά έγγραφα
10. REGRESIJA I KORELACIJA

Prof. dr. sc. Maja Biljan-August Prof. dr. sc. Snježana Pivac Doc. dr. sc. Ana Štambuk 2. IZDANJE. Poglavlje 2.

Metoda najmanjih kvadrata

Linearna korelacija. Vrijedi: (1) 1 r 1

Obrada empirijskih podataka

x pojedinačnih rezultata:

Polarizacija. Procesi nastajanja polarizirane svjetlosti: a) refleksija b) raspršenje c) dvolom d) dikroizam

Ekonometrija 5. Ekonometrija, Osnovne studije. Predavač: Aleksandra Nojković

Korelacijska i regresijska analiza

Jednostavna regresiona analiza

Riješeni zadaci: Nizovi realnih brojeva

Moguća i virtuelna pomjeranja

F (t) F (t) F (t) OGLEDNI PRIMJER SVEUČILIŠTE J.J.STROSSMAYERA U OSIJEKU ZADATAK

Ĉetverokut - DOMAĆA ZADAĆA. Nakon odgledanih videa trebali biste biti u stanju samostalno riješiti sljedeće zadatke.

Mate Vijuga: Rijeseni zadaci iz matematike za srednju skolu

1.1. Pregled najvažnijih izraza i pojmova

RAČUNANJE SA PRIBLIŽNIM VREDNOSTIMA BROJEVA

1. Uvod u multivarijatnu statistiku. Prof.dr.sc. N. Bogunović Prof.dr.sc. B. Dalbelo Bašić

Elektrotehnički fakultet univerziteta u Beogradu 16.maj Odsek za Softversko inžinjerstvo

Ekonometrija 4. Ekonometrija, Osnovne studije. Predavač: Aleksandra Nojković

- pravac n je zadan s točkom T(2,0) i koeficijentom smjera k=2. (30 bodova)

2 tg x ctg x 1 = =, cos 2x Zbog četvrtog kvadranta rješenje je: 2 ctg x

Klasični linearni regresioni model (KLRM)

KRIVULJE RASPODJELE. Doc.dr.sc. Vesna Denić-Jukić

Aritmetički i geometrijski niz

Dvanaesti praktikum iz Analize 1

Glava 4 ANALIZA I OBRADA SIGNALA U VREMENSKOM DOMENU

2. KOLOKVIJ IZ MATEMATIKE 1

(P.I.) PRETPOSTAVKA INDUKCIJE - pretpostavimo da tvrdnja vrijedi za n = k.

II. ANALITIČKA GEOMETRIJA PROSTORA

( x) ( ) dy df dg. =, ( x) e = e, ( ) ' x. Zadatak 001 (Marinela, gimnazija) Nađite derivaciju funkcije f(x) = a + b x. ( ) ( )

7 Algebarske jednadžbe

Osnove kineziometrije i statistike

Pismeni ispit iz matematike Riješiti sistem jednačina i diskutovati rješenja sistema u zavisnosti od parametra: ( ) + 1.

Iterativne metode - vježbe

AKSIOMATIKA TEORIJE VEROVATNOĆE

Reverzibilni procesi

IZRAČUNAVANJE POKAZATELJA NAČINA RADA NAČINA RADA (ISKORIŠĆENOSTI KAPACITETA, STEPENA OTVORENOSTI RADNIH MESTA I NIVOA ORGANIZOVANOSTI)

Numerička matematika 2. kolokvij (1. srpnja 2009.)

Ispitivanje toka i skiciranje grafika funkcija

Općenito, iznos normalne deformacije u smjeru normale n dan je izrazom:

SEMINAR IZ KOLEGIJA ANALITIČKA KEMIJA I. Studij Primijenjena kemija

FUNKCIJE UTJECAJA I UTJECAJNE LINIJE

1. ODREĐIVANJE NETOČNOSTI MJERENJA

1 Promjena baze vektora

radni nerecenzirani materijal za predavanja R(f) = {f(x) x D}

M086 LA 1 M106 GRP. Tema: Baza vektorskog prostora. Koordinatni sustav. Norma. CSB nejednakost

ELEKTROTEHNIČKI ODJEL

Osnovni primer. (Z, +,,, 0, 1) je komutativan prsten sa jedinicom: množenje je distributivno prema sabiranju

ΕΙ Η ΠΑΛΙΝ ΡΟΜΗΣΗΣ. ΑΠΛΗ ΓΡΑΜΜΙΚΗ ΠΑΛΛΙΝ ΡΟΜΗΣΗ (Simple Linear Regression) ΓΡΑΜΜΙΚΗ ΠΑΛΙΝ ΡΟΜΗΣΗ (Regression) ΠΑΛΙΝ ΡΟΜΗΣΗ.

RIJEŠENI ZADACI I TEORIJA IZ

Operacije s matricama

3.1 Granična vrednost funkcije u tački

MATRICE I DETERMINANTE - formule i zadaci - (Matrice i determinante) 1 / 15

MODELI TEMELJENI NA DIFERENCIJALNIM JEDNADŽBAMA VIŠEG REDA I NA SUSTAVIMA DIFERENCIJALNIH JEDNADŽBI

a M a A. Može se pokazati da je supremum (ako postoji) jedinstven pa uvodimo oznaku sup A.

( ) BROJNI PRIMER 4. Temeljni nosač na sloju peska. Slika 6.3. Rešenje: Ekvivalentni modul reakcije podloge/peska k i parametar krutosti λ :

Funkcije dviju varjabli (zadaci za vježbu)

numeričkih deskriptivnih mera.

radni nerecenzirani materijal za predavanja

Osnovi ekonometrije Glava 8

Linearna algebra 2 prvi kolokvij,

Mašinsko učenje. Regresija.

INTELIGENTNO UPRAVLJANJE

Grafičko prikazivanje atributivnih i geografskih nizova

TEHNIČKI FAKULTET SVEUČILIŠTA U RIJECI Zavod za elektroenergetiku. Prijelazne pojave. Osnove elektrotehnike II: Prijelazne pojave

I N Ž E N J E R S K A M A T E M A T I K A 1

1.4 Tangenta i normala

SISTEMI NELINEARNIH JEDNAČINA

Zadaci sa prethodnih prijemnih ispita iz matematike na Beogradskom univerzitetu

PRIMJERI RJEŠENIH ZADATAKA IZ STATISTIKE

KOMUTATIVNI I ASOCIJATIVNI GRUPOIDI. NEUTRALNI ELEMENT GRUPOIDA.

5. Karakteristične funkcije

Gauss, Stokes, Maxwell. Vektorski identiteti ( ),

( , 2. kolokvij)

DISKRETNA MATEMATIKA - PREDAVANJE 7 - Jovanka Pantović

Cauchyjev teorem. Postoji više dokaza ovog teorema, a najjednostvniji je uz pomoć Greenove formule: dxdy. int C i Cauchy Riemannovih uvjeta.

Frekvencijska karakteristika Prijenosna funkcija Granična frekvencija Rezonantna frekvencija RLC krugova Električni filtri

Trigonometrija 2. Adicijske formule. Formule dvostrukog kuta Formule polovičnog kuta Pretvaranje sume(razlike u produkt i obrnuto

TRIGONOMETRIJSKE FUNKCIJE I I.1.

Glava 5 Z-TRANSFORMACIJA I NJENE PRIMJENE U ANALIZI DISKRETNIH LTI ISTEMA

Sume kvadrata. mn = (ax + by) 2 + (ay bx) 2.

6 Primjena trigonometrije u planimetriji

Pismeni ispit iz matematike GRUPA A 1. Napisati u trigonometrijskom i eksponencijalnom obliku kompleksni broj, zatim naći 4 z.

Determinante. a11 a. a 21 a 22. Definicija 1. (Determinanta prvog reda) Determinanta matrice A = [a] je broj a.

1. zadatak , 3 Dakle, sva kompleksna re{ewa date jedna~ine su x 1 = x 2 = 1 (dvostruko re{ewe), x 3 = 1 + i

MATEMATIKA Pokažite da za konjugiranje (a + bi = a bi) vrijedi. a) z=z b) z 1 z 2 = z 1 z 2 c) z 1 ± z 2 = z 1 ± z 2 d) z z= z 2

Veleučilište u Rijeci Stručni studij sigurnosti na radu Akad. god. 2011/2012. Matematika. Monotonost i ekstremi. Katica Jurasić. Rijeka, 2011.

METODE OPTIMIZACIJE NELINEARNO PROGRAMIRANJE

Odred eni integrali. Osnovne osobine odred enog integrala: f(x)dx = 0, f(x)dx = f(x)dx + f(x)dx.

Dinamika krutog tijela ( ) Gibanje krutog tijela. Gibanje krutog tijela. Pojmovi: C. Složeno gibanje. A. Translacijsko gibanje krutog tijela. 14.

Elektrotehnički fakultet univerziteta u Beogradu 26. jun Katedra za Računarsku tehniku i informatiku

Masa, Centar mase & Moment tromosti

POTPUNO RIJEŠENIH ZADATAKA PRIRUČNIK ZA SAMOSTALNO UČENJE

Neka je a 3 x 3 + a 2 x 2 + a 1 x + a 0 = 0 algebarska jednadžba trećeg stupnja. Rješavanje ove jednadžbe sastoji se od nekoliko koraka.

RAZLICITI PRISTUPI KREDITNOM. - master rad -

Matematika 1 - vježbe. 11. prosinca 2015.

Osnove. Uloga algoritama u računarstvu. Algoritmi. Algoritmi kao tehnika

Elementi spektralne teorije matrica

Računarska grafika. Rasterizacija linije

Transcript:

SEMINAR U razvoju regresjske aalze ajzačajju ulogu su mal: Carl Fredrch Gauss (822 9) Fracs Galto (822 9) Karl Pearso (857 936) George Udy Yule (87 95)

SEMINAR Regresjska aalza je matematčko-statstčk postupak kojm se utvrđuje odgovarajuća fukcoala veza (relacja) zmeđu jede zavse l krterjske varjable jede l vše ezavsh l predktorskh varjabl Zavsa (krterjska) varjabla je varjabla čj se varjabltet objašjava putem ezavsh varjabl Nezavse (predktorske) varjable su varjable a temelju kojh se objašjava varjabltet zavse varjable

SEMINAR Regresjska aalza se u kezologj ajčešće korst u svrhu: utvrđvaja utjecaja jede varjable l skupa varjabl a eku krterjsku varjablu (pr utvrđvaje utjecaja karakterstka građe tjela a rezultat u bacaju kugle) utvrđvaje treda razvoja rezultata u ekom sportu (pr utvrđvaje treda razvoja ajboljh rezultata u bacaju kugle a svjetskm prvestvma)

SEMINAR Fukcoala veza zmeđu predktorskh varjabl krterjske varjable defra se utvrđvajem odgovarajuće regresjske jedadžbe Opć oblk regresjske jedadžbe zgleda ovako: ezavse (predktorske) varjable Y f ( X, X,, X ) e 2 m odgovarajuća fukcja greška progoze zavsa (krterjska) varjabla

SEMINAR Regresjske modele moguće je geeralo podjelt a temelju dvaju krterja to: prema broju ezavsh varjabl a: jedostave (smple) regresjske modele všestruke (multple) regresjske modele, te prema odosu zmeđu zavse ezavsh varjabl a: leare regresjske modele eleare regresjske modele

SEMINAR Lear elear model jedostave regresjske aalze: Y Y = b 0 + b *X - polom stupja (pravac) Y = b 0 *log b*x - logartamska fukcja Y = b 0 *b x - ekspoecjala fukcja Y = b 0 + b *X + b 2 *X 2 + +b *X - polom -tog stupja X

SEMINAR Odabr modela jedostave regresjske aalze vrš se pomoću korelacjskog djagrama Y Y = b 0 + b * X Y = b 0 * log b*x (Prmjer: logartamska fukcja je prklada model) X

SEMINAR Jedostava leara regresjska aalza Jedostavom learom regresjskom aalzom utvrđuje se leara povezaost zmeđu jede ezavse (predktorske) jede zavse (krterjske) varjable pr čemu regresjska jedadžba ma sljedeć oblk: gdje je y b b x 0 y - rezultat etteta u krterjskoj varjabl b 0 b - regresjsk koefcjet x - rezultat etteta u predktorskoj varjabl e - rezduala vrjedost etteta =,, e

SEMINAR Jedostava leara regresjska aalza Regresjsk koefcjet omogućavaju progozraje rezultata etteta u krterjskoj varjabl a temelju rezultata u predktorskoj varjabl putem sljedeće formule: y' b b x 0 gdje je y - progozra rezultat etteta u krterjskoj varjabl b 0 b - regresjsk koefcjet x - rezultat etteta u predktorskoj varjabl =,,

SEMINAR Jedostava leara regresjska aalza Y y = b 0 + b x (x,, y ) y = y + e y e y y y x (Prkaz regresjskog pravca, orgalh progozrah rezultata u krterjskoj varjabl rezdualh vrjedost) X

SEMINAR Jedostava leara regresjska aalza y = b 0 + b x (Dstrbucja rezdualh vrjedost oko regresjskog pravca)

SEMINAR Jedostava leara regresjska aalza Koefcjet regresjskog pravca utvrđuju se metodom ajmajh kvadrata Metoda ajmajh kvadrata temelj se a uvjetu da je suma kvadrata rezdualh vrjedost mmala gdje je e 2 ( y y' ) 2 m e - rezduala vrjedost etteta y - rezultat etteta u krterjskoj varjabl y - progozra rezultat etteta u krterjskoj varjabl =,,

x x y x x x y b 2 2 2 0 ) ( Regresjsk koefcjet b 0 predstavlja odsječak a os zavse varjable y, odoso, vrjedost zavse varjable y ukolko je vrjedost ezavse varjable x = 0 SEMINAR Jedostava leara regresjska aalza y - rezultat etteta u krterjskoj varjabl x - rezultat etteta u predktorskoj varjabl =,, gdje je

x x y x y x b 2 2 ) ( Regresjsk koefcjet b određuje agb pravca, odoso, pokazuje kolko se u prosjeku learo mjeja vrjedost zavse varjable y za jedč porast vrjedost ezavse varjable x SEMINAR Jedostava leara regresjska aalza y - rezultat etteta u krterjskoj varjabl x - rezultat etteta u predktorskoj varjabl =,, gdje je

SEMINAR Jedostava leara regresjska aalza Regresjsk koefcjet se također mogu zračuat rješavajem regresjske jedadžbe u matrčom oblku: y = X b + e y y x x b b 0 e e gdje je y - vektor rezultata etteta u krterju X - matrca reda 2 rezultata etteta u predktoru b - vektor regresjskh koefcjeata e - vektor rezdualh vrjedost

SEMINAR Jedostava leara regresjska aalza y = X b /X T X T y = X T X b / (X T X) - b = (X T X) - X T y y' = X b e = y - y'

SEMINAR Jedostava leara regresjska aalza Y b y = b 0 + b x b b b 0 b b0+b b b 0 +2b b 0 +3b b 0 +4b b 0 +5b 0 2 3 4 5 (Prkaz regresjskh koefcjeata b 0 b ) X

SEMINAR Jedostava leara regresjska aalza Stadarda pogreška progoze ( e ) je drug korje z varjace rezdualh vrjedost, a predstavlja mjeru reprezetatvost regresjskog modela gdje je e ( y y' 2 y - rezultat etteta u krterjskoj varjabl y - progozra rezultat etteta u krterjskoj varjabl =,, - broj etteta ) 2

SEMINAR Jedostava leara regresjska aalza Koefcjet korelacje zmeđu krterjske predktorske varjable zražava velču jhove leare povezaost Kada je r x,y = 0 to zač da ezavsa varjabla x ema kakav utjecaj a varjabltet krterjske varjable y Ako koefcjet korelacje ma maksmalu vrjedost r x,y =, to zač da je cjelokupa varjabltet varjable y moguće prpsat utjecaju varjable x Kvadrat koefcjeta korelacje (r 2 ) azva se koefcjet determacje, a predstavlja proporcju varjace krterjske varjable koju je moguće objast putem predktorske varjable

SEMINAR STATISTICA 7 Jedostava leara regresjska aalza Jedostava leara regresjska aalza zvod se sljedom koraka: padajuć zbork Statstcs Multple Regresso U djaloškom okvru koj se pokreće odabrom opcje Varables potrebo je ozačt zavsu varjablu (Depedet var) ezavsu varjablu (Idepedet varable lst) Nako odabra varjabl rezultatma regresjske aalze se prstupa putem opcje Summary: Regresso results Zadatak - U datotec TRENDsta utvrdte regresjsku jedadžbu kojom je moguće progozrat tjelesu masu (TEZ) testraog sptaka a temelju broja tjedaa vježbaja (BRM)!

SEMINAR Všestruka leara regresjska aalza Všestrukom learom regresjskom aalzom utvrđuje se leara povezaost zmeđu dvju l vše ezavsh (predktorskh) jede zavse (krterjske) varjable pr čemu regresjska jedadžba ma sljedeć oblk: y = b 0 + b x + b 2 x 2 ++ b m x m + e gdje je y - rezultat etteta u krterjskoj varjabl b 0,,b m - regresjsk koefcjet x,,x m - rezultat etteta u m predktorskh varjabl e - rezduala vrjedost etteta =,, ( - broj etteta), a m - broj predktora

Regresjsk koefcjet mogu se zračuat rješavajem regresjske jedadžbe u matrčom oblku: SEMINAR Všestruka leara regresjska aalza y = X b + e m m m e e b b b x x x x y y 0

SEMINAR Všestruka leara regresjska aalza y = X b /X T X T y = X T X b /(X T X) - b = (X T X) - X T y y' = X b e = y - y' gdje je y - vektor rezultata etteta u krterju X - matrca reda m+ rezultata etteta u m predktora b - vektor regresjskh koefcjeata y - vektor progozrah vrjedost u krterju e - vektor rezdualh vrjedost

SEMINAR Všestruka leara regresjska aalza Regresjsk koefcjet b 0 predstavlja vrjedost zavse varjable y ukolko je vrjedost svh ezavsh varjabl jedaka 0 Regresjsk koefcjet b,,b m pokazuju kolko se u prosjeku learo mjeja vrjedost zavse varjable y za jedč porast vrjedost odgovarajuće ezavse varjable (x,,x m ) uz uvjet da su vrjedost ostalh ezavsh varjabl kostate

SEMINAR Všestruka leara regresjska aalza Ako se krterjska predktorske varjable prethodo stadardzraju regresjska jedadžba poprma sljedeć oblk: k = z + 2 z 2 + + m z m + gdje je k - stadardzra rezultat etteta u krterjskoj varjabl β,,β m - stadardzra regresjsk koefcjet z,,z m - stadardzra rezultat etteta u m predktorskh varjabl - stadardzraa rezduala vrjedost etteta =,, ( - broj etteta), a m - broj predktora

Stadardzra regresjsk koefcjet mogu se zračuat rješavajem sljedeće jedadžbe u matrčom oblku: SEMINAR Všestruka leara regresjska aalza k = Z + m m m z z z z k k

SEMINAR Všestruka leara regresjska aalza k = Z / Z T - gdje je Z T k - = Z T Z - k - vektor stadardzrah rezultata etteta u krterju r r2 r Z - matrca reda m m stadardzrah rezultata r2 etteta u m predktora β - vektor stadardzrah regresjskh koefcjeata r m rm r - vektor korelacja m r = R / R - predktora s krterjem R - matrca međusobh = R - r korelacja m predktora

SEMINAR Všestruka leara regresjska aalza Stadardzra regresjsk koefcjet β,,β m su relatv koefcjet utjecaja, a predstavljaju velču promjee zavse varjable zražeu u djelovma stadarde devjacje za jedč porast stadardzrae vrjedost odgovarajuće ezavse varjable (z,,z m ) uz uvjet da su vrjedost preostalh ezavsh varjabl kostate

SEMINAR Všestruka leara regresjska aalza Statstčka začajost svakog pojedog regresjskog koefcjeta se testra putem Studetove t-dstrbucje Pr tome je za svak regresjsk koefcjet moguće postavt sljedeću alteratvu (H), odoso ultu (H0) hpotezu: H: b j 0 - Utjecaj predktora j a krterjsku varjablu je statstčk začaja uz pogrešku p H0: b j = 0 - Uz pogrešku p e možemo tvrdt da je utjecaj predktora j a krterjsku varjablu statstčk začaja

SEMINAR Všestruka leara regresjska aalza Stadarda pogreška progoze ( e ) je drug korje z varjace rezdualh vrjedost, a predstavlja mjeru reprezetatvost regresjskog modela gdje je e ( y y' ) ( m ) y - rezultat etteta u krterjskoj varjabl y - progozra rezultat etteta u krterjskoj varjabl =,, - broj etteta, m - broj predktorskh varjabl 2

SEMINAR Všestruka leara regresjska aalza Koefcjet multple korelacje () je korelacja zmeđu krterjske varjable varjable progozrah rezultata, a zražava velču leare povezaost skupa predktorskh varjabl s krterjem Koefcjet multple korelacje se kreće u tervalu od 0 do pr čemu 0 ozačava kakavu, a potpuu zavsost krterjske varjable o skupu predktorskh varjabl Kvadrat koefcjeta korelacje (ρ 2 ) azva se koefcjet multple determacje, a predstavlja proporcju varjace krterjske varjable koju je moguće objast putem skupa predktorskh varjabl

SEMINAR Všestruka leara regresjska aalza Statstčka začajost koefcjeta multple korelacje () se testra putem Sedecorove F-dstrbucje Pr tome je moguće postavt sljedeću alteratvu (H), odoso ultu (H0) hpotezu: H: ρ 0 - Povezaost zmeđu skupa predktora krterjske varjable je statstčk začaja uz pogrešku p H0: ρ = 0 - Uz pogrešku p e možemo tvrdt da je povezaost zmeđu skupa predktora krterjske varjable statstčk začaja

SEMINAR STATISTICA 7 Všestruka leara regresjska aalza Všestruka leara regresjska aalza zvod se sljedom koraka: padajuć zbork Statstcs Multple Regresso U djaloškom okvru koj se pokreće odabrom opcje Varables potrebo je ozačt zavsu varjablu (Depedet var) dvje l vše ezavsh varjabl (Idepedet varable lst) Nako odabra varjabl rezultatma regresjske aalze prstupa se putem opcje Summary: Regresso results Zadatak - U datotec KOSARKAsta utvrdte regresjsku jedadžbu kojom je moguće progozrat uspješost ekpe (K2) a temelju skupa stuacjskh parametara (v-v2)!

SEMINAR Lteratura za prpremaje kolokvja Dzdar, D (2006) Kvattatve metode Zagreb: Kezološk fakultet, str 82-23 Petz, B (2002) Osove statstčke metode za ematematčare Jastrebarsko: str Naklada Slap, 237-247 Mejovšek, M (2003) Uvod u metode zastveog stražvaja u društvem humastčkm zaostma Jastrebarsko: Naklada Slap, str 82-200