8 ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç Ðåñéå üìåíá Êåöáëáßïõ 8.1 ÅéóáãùãÞ......................... 162 8.2 ÂáóéêÝò ííïéåò ÃñáììéêÞò ëãåâñáò........ 163 8.2.1 Ðßíáêåò êáé Äéáíýóìáôá................ 163 8.2.2 ÉäéïôéìÝò êáé Éäéïäéáíýóìáôá.............. 165 8.2.3 Äéáãùíéïðïßçóç.................... 169 8.2.4 Ðáñáãïíôïðïßçóç Éäéáæïõóþí Ôéìþí (SVD..... 172 8.2.5 ÐñïóÝããéóç Ðßíáêá.................. 175 8.3 Ç ÌÝèïäïò LSA..................... 178 161
162 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç 8.1 ÅéóáãùãÞ Ôï êïéíü áñáêôçñéóôéêü ôïõ Boolean, ôïõ Äéáíõóìáôéêïý êáé ôïõ Ðéèáíïêñáôéêïý ìïíôýëïõ áíüêôçóçò åßíáé üôé âáóßæïíôáé áðïêëåéóôéêü óôçí áíáðáñüóôáóç ôùí åããñüöùí ìå üñïõò. Äýï üñïé èåùñïýíôáé áíåîüñôçôïé ìåôáîý ôïõò åíþ äåí õðüñ åé ðñüâëåøç ãéá ôçí ðåñßðôùóç üðïõ äýï Þ ðåñéóóüôåñïé üñïé áí êáé äéáöïñåôéêïß, ùóôüóï áíáöýñïíôáé óôçí ßäéá Ýííïéá (ð.., áõôïêßíçôï, áìüîé, ü çìá. Ç ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç (Latent Semantic Analysis, LSA áðïôåëåß ìßá ðïëý óçìáíôéêþ ôå íéêþ áíüêôçóçò ðïõ ïðïßï ëáìâüíåé õðüøç ôéò áëëçëïåîáñôþóåéò ìåôáîý ôùí üñùí. Ôá êëáóéêü ìïíôýëá èåùñïýí üôé ç ïìïéüôçôá ìåôáîý ôùí åñùôçìüôùí êáé ôùí åããñüöùí êáèïñßæåôáé áðü ôï óýíïëï ôùí üñùí ðïõ ðåñéý ïíôáé óå áõôü. Ç ðñïóýããéóç áõôþ äå ëáìâüíåé õðüøç óõó åôßóåéò (Þ áëëéþò åîáñôþóåéò ðïõ õðüñ ïõí óå ëáíèüíïõóá ìïñöþ, ìå áðïôýëåóìá ïé åðéäüóåéò ôùí óõóôçìüôùí íá ìçí åßíáé ðüíôïôå éêáíïðïéçôéêýò. Ç ìýèïäïò LSA Ý åé ôç äõíáôüôçôá íá áíôéëçöèåß ôç ó åôéêüôçôá ìåôáîý üñùí êé Ýôóé íá ìåôáôñýøåé ôçí áíáðáñüóôáóç ôùí åããñüöùí áðü ôï þñï ôùí üñùí óôï þñï ôùí åííïéþí (concepts. Åðßóçò, ç ôå íéêþ áõôþ Ý åé ôç äõíáôüôçôá íá ìåéþóåé ôïí áñéèìü ôùí äéáóôüóåùí. Ç ìåßùóç ôçò äéáóôáóéìüôçôáò åßíáé ðïëý óçìáíôéêþ ãéá ôçí áðüäïóç óôçí åðåîåñãáóßá ôùí åñùôçìüôùí. ÂÝâáéá, ç ìåßùóç ôçò äéáóôáóéìüôçôáò óõíïäåýåôáé áðü áðþëåéá ðëçñïöïñßáò ç ïðïßá üìùò ìå ôéò óùóôýò ôå íéêýò äåí åðéöýñåé áñíçôéêýò åðéðôþóåéò óôçí áðïôåëåóìáôéêüôçôá ôçò ìåèüäïõ, åíþ ðñïóöýñåé êáëýôåñïõò ñüíïõò áðüêñéóçò êáôü ôçí åðåîåñãáóßá ôùí åñùôçìüôùí ëüãù ôçò áðëïýóôåõóçò óôçí áíáðáñüóôáóç ôùí åããñüöùí. Åðßóçò, áí êáé Ýíáò üñïò ìðïñåß íá ìçí åìöáíßæåôáé óå Ýíá Ýããñáöï (Üñá ôï âüñïò ôïõ üñïõ óôï äéüíõóìá ôïõ åããñüöïõ èá åßíáé ìçäýí, ìåôü ôçí åöáñìïãþ ôçò ìåèüäïõ LSA ôï âüñïò ôïõ üñïõ óôï Ýããñáöï ìðïñåß íá Ý åé ìç ìçäåíéêþ ôéìþ. Áõôü åßíáé ðïëý óçìáíôéêü, êáèþò åðéôñýðåé ôçí áíüêôçóç åããñüöùí áêüìç êáé áí äåí ðåñéý ïõí ôïõò üñïõò ôïõ åñùôþìáôïò, áëëü ó åôßæïíôáé ìå áõôïýò. Ç ìýèïäïò LSA óôçñßæåôáé óå åñãáëåßá ôçò ÃñáììéêÞò ëãåâñáò. Ç âáóéêþ ôå íéêþ ðïõ ñçóéìïðïéåßôáé åßíáé ç äéüóðáóç ôïõ ðßíáêá üñùí-åããñüöùí ìå ôç âïþèåéá ôçò ìåèüäïõ SVD (Singular Value Decomposition. Ï áñ éêüò ðßíáêáò üñùí-åããñüöùí åêöñüæåôáé ùò ãéíüìåíï ðéíüêùí (ðáñáãïíôïðïßçóç ñçóéìïðïéþíôáò éäéïôéìýò êáé éäéïäéáíýóìáôá. Óôç óõíý åéá, Ý ïõìå ôç äõíáôüôçôá íá ðåñéïñßóïõìå ôïí áñéèìü ôùí ãñáììþí Þ óôçëþí ôùí ðéíüêùí äéáôçñþíôáò ôéò óçìáíôéêüôåñåò Ýííïéåò ôùí åããñüöùí. Ìå ôïí ôñüðï áõôü áíôéìåôùðßæïíôáé ôá ðñïâëþìáôá ôçò óõíùíõìßáò êáé ôçò ðïëõóçìßáò ðïõ âëüðôïõí ôçí áêñßâåéá êáé ôçí áíüêëçóç áíôßóôïé á, üðùò Ý ïõìå Þäç áíáöýñåé óôï ÊåöÜëáéï 2.
ÁíÜêôçóç Ðëçñïöïñßáò 163 8.2 ÂáóéêÝò ííïéåò ÃñáììéêÞò ëãåâñáò Èá îåêéíþóïõìå ìå ìßá óýíôïìç ðáñïõóßáóç ìåñéêþí âáóéêþí åííïéþí ôçò ÃñáììéêÞò ëãåâñáò ôéò ïðïßåò èá ñåéáóôïýìå óôç óõíý åéá ãéá ôçí ðëçñýóôåñç êáôáíüçóç ôçò ìåèüäïõ LSA. Èá åóôéüóïõìå êõñßùò óôï åéñéóìü ðéíüêùí êáé óôá âáóéêü ôïõò áñáêôçñéóôéêü. Ôïíßæåôáé üôé ôï êåßìåíï äåí áðïôåëåß ìßá åéò âüèïò áíüëõóç ôçò ÃñáììéêÞò ëãåâñáò, áëëü öùôßæåé ôá óçìåßá ðïõ èá âïçèþóïõí óôçí êáôáíüçóç ôçò ËáíèÜíïõóáò ÓçìáóéïëïãéêÞò ÁíÜëõóçò. 8.2.1 Ðßíáêåò êáé Äéáíýóìáôá óôù M Ýíáò ðßíáêáò ðïõ áðïôåëåßôáé áðü n ãñáììýò êáé m óôþëåò êáé êüèå óôïé åßï M[i; j] ôïõ ðßíáêá åßíáé ìßá ðñáãìáôéêþ ôéìþ. ÅÜí n = m ôüôå ï ðßíáêáò êáëåßôáé ôåôñáãùíéêüò. Ï ðßíáêáò M T êáëåßôáé áíüóôñïöïò (transpose ôïõ ðßíáêá M, Ý åé äéáóôüóåéò m n êáé ðñïêýðôåé áðü ôïí M ìåôáôñýðïíôáò ôéò ãñáììýò ôïõ M óå óôþëåò (Üñá ïé óôþëåò ãßíïíôáé ãñáììýò. Ï ðßíáêáò M 1 êáëåßôáé áíôßóôñïöïò (inverse ôïõ ðßíáêá M êáé Ý åé ôçí éäéüôçôá üôé áí ðïëëáðëáóéáóôåß ìå ôïí ðßíáêá M ôï áðïôýëåóìá åßíáé ï ìïíáäéáßïò ðßíáêáò I n. Ðéï óõãêåêñéìýíá: M 1 M = M M 1 = I n Ïñéóìüò 8.1. íáò ôåôñáãùíéêüò ðßíáêáò M êáëåßôáé ïñèïêáíïíéêüò (orthogonal üôáí ï áíôßóôñïöüò ôïõ éóïýôáé ìå ôïí áíüóôñïöï, äçëáäþ M T = M 1. Óçìáíôéêü ñüëï óôç ÃñáììéêÞ ëãåâñá ðáßæïõí ïé óõììåôñéêïß ðßíáêåò. íáò ôåôñáãùíéêüò ðßíáêáò M äéáóôüóåùí n n êáëåßôáé óõììåôñéêüò üôáí ôï óôïé åßï ðïõ âñßóêåôáé óôçí i-ïóôþ ãñáììþ êáé ôçí j-ïóôþ óôþëç éóïýôáé ìå ôï óôïé åßï ðïõ âñßóêåôáé óôçí j-ïóôþ ãñáììþ êáé ôçí i-ïóôþ óôþëç. ÐáñÜäåéãìá 8.1 ( 4 3 óôù ï ðßíáêáò M =. Ï ðßíáêáò M äåí åßíáé óõììåôñéêüò áëëü 5 10 åßíáé ôåôñáãùíéêüò (ï áñéèìüò ôùí ãñáììþí ( éóïýôáé ìå ôïí áñéèìü ôùí óôçëþí. Ï áíüóôñïöïò ôïõ M åßíáé ï M T 4 5 =. óôù ôþñá ï ðßíáêáò 3 10 Q = ( 3 1 1 5. Ï áíôßóôñïöïò ôïõ Q åßíáé ï: Q 1 = ( 5=16 1=16 1=16 3=16.
164 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç ÐñÜãìáôé, áí ðïëëáðëáóéüóïõìå ôïõò äýï ðßíáêåò ðñïêýðôåé ï ìïíáäéáßïò ðßíáêáò 2 2: ( Q Q 1 3 1 = 1 5 Q 1 Q = ( 5=16 1=16 1=16 3=16 ( 5=16 1=16 1=16 3=16 ( 3 1 1 5 ( 1 0 = 0 1 ( 1 0 = 0 1 Óôç óõíý åéá áò äïýìå Ýíá ðááüäåéãìá ïñèïêáíïíéêïý ðßíáêá. Óýìöùíá ìå ôïí ïñéóìü, Ýíáò ðßíáêáò êáëåßôáé ïñèïêáíïíéêüò ( üôáí ï áíüóôñïöïò éóïýôáé 1= 2 1= 2 ìå ôïí áíôßóôñïöü ôïõ. óôù ï ðßíáêáò R = 1= 2 1=. Ï áíüóôñïöïò ôïõ R åßíáé ï R T 1= 2 1= 2 2 ( = 1= 2 1= êáé üðùò ìðïñïýìå åýêïëá 2 íá äéáðéóôþóïõìå R R T = R T R = I, êáé åðïìýíùò R 1 = R T. Ôï Üèñïéóìá äýï ðéíüêùí ðñïêýðôåé ìå Üèñïéóç ôùí óôïé åßùí ðïõ âñßóêïíôáé óôéò ßäéåò èýóåéò êáé óôïõò äýï ðßíáêåò. Áðáñáßôçôç ðñïûðüèåóç åßíáé ïé ðßíáêåò íá Ý ïõí ôéò ßäéåò äéáóôüóåéò. óôù ïé ðßíáêåò A, B êáé C = A + B äéáóôüóåùí m n. Áí óõìâïëßóïõìå ìå A[i; j] (B[i; j] ôï óôïé åßï ôïõ ðßíáêá A (B ðïõ âñßóêåôáé óôçí i-ïóôþ ãñáììþ êáé ôçí j-ïóôþ óôþëç ôüôå C[i; j] = A[i; j] + B[i; j], 1 i m, 1 j n. Ï ðïëëáðëáóéáóìüò äýï ðéíüêùí A êáé B åßíáé åöéêôüò áí ï áñéèìüò ôùí óôçëþí ôïõ A åßíáé ßóïò ìå ôïí áñéèìü ôùí ãñáììþí ôïõ B. ôóé, áí ï A Ý åé äéáóôüóåéò m n êáé ï B Ý åé äéáóôüóåéò n k ôüôå ï ðßíáêáò C = A B Ý åé äéáóôüóåéò m k. Èõìßæïõìå óôïí áíáãíþóôç üôé ôï óôïé åßï óôç ãñáììþ i êáé óôç óôþëç j ôïõ ôåëéêïý ðßíáêá éóïýôáé ìå ôï Üèñïéóìá ôùí ãéíïìýíùí ôùí óôïé åßùí ôçò i-ïóôþò ãñáììþò êáé ôçò j-ïóôþò óôþëçò, üðùò äßíåôáé ðáñáêüôù: C[i; j] = n A[i; k] B[k; j] k=1 Ïé ãñáììýò êáé ïé óôþëåò åíüò ðßíáêá M ìðïñïýí íá èåùñçèïýí ùò äéáíýóìáôá. Óå ðïëëýò ðåñéðôþóåéò ìáò åíäéáöýñåé íá åîåôüóïõìå ôç ó Ýóç ðïõ Ý ïõí äýï äéáíýóìáôá. Ìßá áðü áõôýò ôéò ó Ýóåéò åßíáé ç ãñáììéêþ áíåîáñôçóßá. Ïñéóìüò 8.2. Äýï äéáíýóìáôá v 1 êáé v 2 êáëïýíôáé ãñáììéêü áíåîüñôçôá, áí ôï Ýíá äåí ìðïñåß íá åêöñáóôåß ùò ãñáììéêüò óõíäõáóìüò ôïõ Üëëïõ. Ðéï
ÁíÜêôçóç Ðëçñïöïñßáò 165 óõãêåêñéìýíá, ôá v 1 êáé v 2 åßíáé ãñáììéêü áíåîüñôçôá áí äåí õðüñ ïõí ðñáãìáôéêïß áñéèìïß a 1 0 êáé a 2 0 Ýôóé þóôå: a 1 v 1 + a 2 v 2 = 0 (ï ôýðïò ãåíéêåýåôáé êáé ãéá ðåñéóóüôåñá äéáíýóìáôá. Ïñéóìüò 8.3. Ùò âáèìüò (rank åíüò ðßíáêá M ïñßæåôáé ï ìýãéóôïò áñéèìüò ôùí ãñáììéêü áíåîüñôçôùí óôçëþí (ãñáììþí ôïõ M. 8.2.2 ÉäéïôéìÝò êáé Éäéïäéáíýóìáôá óôù M Ýíáò ôåôñáãùíéêüò ðßíáêáò äéáóôüóåùí n n. Ç ôéìþ êáëåßôáé éäéïôéìþ (eigenvalue ôïõ M åüí õðüñ åé Ýíá ìþ ìçäåíéêü äéüíõóìá ~v Ýôóé þóôå íá éó ýåé ç áêüëïõèç ó Ýóç: M ~v = ~v (8.1 Óôçí ðåñßðôùóç áõôþ, ôï äéüíõóìá v 1 êáëåßôáé éäéïäéüíõóìá (eigenvector ôïõ M. ÐáñáôçñÞóôå üôé åíäå ïìýíùò íá õðüñ ïõí ðïëëü äéáíýóìáôá v êáé ðïëëýò ôéìýò ðïõ íá éêáíïðïéïýí ôç ó Ýóç 8.1. Ç ãåùìåôñéêþ åñìçíåßá ôçò åîßóùóçò 8.1 Ý åé ùò åîþò: åöáñìþæïíôáò ôï ìåôáó çìáôéóìü ðïõ ðñïóäéïñßæåôáé áðü ôïí ðßíáêá M óôï éäéïäéüíõóìá v Ý åé ùò áðïôýëåóìá åßôå ôçí áëëáãþ ôïõ ìýôñïõ ôïõ v åßôå ôçí áëëáãþ ôçò öïñüò ôïõ v åßôå êáé ôá äýï. Óå êáìßá üìùò ðåñßðôùóç äå ìåôáâüëåôáé ç äéåýèõíóç ôïõ v. Ç ìåôáâïëþ ôïõ ìýôñïõ Þ ôçò öïñüò êáèïñßæåôáé áðü ôéò éäéïôéìýò ôïõ M. ÅðïìÝíùò, ôá éäéïäéáíýóìáôá ôïõ M Ý ïõí ìßá éäéáßôåñç óçìáóßá, êáé ãéá ôï ëüãï áõôü áñáêôçñßæïõí ôïí ðßíáêá M. Ç åîßóùóç 8.1 ìðïñåß íá ãñáöåß êáé ùò åîþò: (M I n v = 0 (8.2 üðïõ I n åßíáé ï ìïíáäéáßïò ðßíáêáò äéáóôüóåùí n n. Ãéá íá åíôïðéóôïýí ïé éäéïôéìýò êáé ôá éäéïäéáíýóìáôá ôïõ ðßíáêá M èá ðñýðåé íá åðéëõèïýí ìåñéêü óõóôþìáôá åîéóþóåùí. Áò äïýìå ìå ðïéïí ôñüðï ìðïñåß íá ãßíåé áõôü. Óýìöùíá ìå ãíùóôü èåþñçìá ôçò ÃñáììéêÞò ëãåâñáò, ïé ôéìýò ðïõ éêáíïðïéïýí ôç ó Ýóç 8.2 åßíáé áõôýò ãéá ôéò ïðïßåò ï ðßíáêáò M I n ãßíåôáé ìç-áíôéóôñýøéìïò. íáò ðßíáêáò åßíáé ìç-áíôéóôñýøéìïò üôáí ç ïñßæïõóü ôïõ åßíáé ìçäåíéêþ. Óôçí ðåñßðôùóç áõôþ ï ðßíáêáò êáëåßôáé åðßóçò êáé éäéüæùí (singular. ÅðïìÝíùò, ãéá íá åíôïðéóôïýí ïé éäéïôéìýò ôïõ ðßíáêá M áñêåß íá ëõèåß ôï óýóôçìá åîéóþóåùí ðïõ ðåñéãñüöåôáé áðü ôçí ðáñáêüôù ó Ýóç, ðïõ åßíáé ãíùóôþ êáé ùò áñáêôçñéóôéêþ åîßóùóç ôïõ ðßíáêá M: 1 Ãéá ëüãïõò áðëïýóôåõóçò óôç óõíý åéá ôï äéüíõóìá ~v èá áíáãñüöåôáé ùñßò ôï âýëïò, äçëáäþ v.
166 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç det(m I n = 0 (8.3 ÐáñÜäåéãìá 8.2 Óôï ðáñüäåéãìá áõôü èá ðñïóäéïñßóïõìå ôéò éäéïôéìýò åíüò ðßíáêá M äéáóôüóåùí 2 2 óýìöùíá ìå ôç ìýèïäï ðïõ áíáöýñèçêå ðñïçãïõìýíùò. óôù ï áêüëïõèïò ðßíáêáò M: Ì = Ï ðßíáêáò M I 2 éóïýôáé ìå: M I 2 = ( 4 3 5 10 ( 4 3 5 10 ( 1 0 0 1 = Ç áñáêôçñéóôéêþ åîßóùóç ôïõ ðßíáêá M Ý åé ùò åîþò: ( 4 3 det(m I 2 = 0 det 5 10 ( 4 3 5 10 = 0 Ìå âüóç ôç ìýèïäï õðïëïãéóìïý ôçò ïñßæïõóáò ðßíáêá, ç ðáñáðüíù ó Ýóç ðáßñíåé ôç áêüëïõèç ìïñöþ äåõôåñïâüèìéáò åîßóùóçò ìå Üãíùóôï ôï : (4 ( 10 (3 5 = 0 2 + 6 55 = 0 Ïé ôéìýò ðïõ åðáëçèåýïõí ôçí ðáñáðüíù ó Ýóç åßíáé ïé 1 = 5 êáé 2 = 11, êáé åðïìýíùò áõôýò åßíáé êáé ïé éäéïôéìýò ôïõ ðßíáêá M. Ï ðñïóäéïñéóìüò ôùí éäéïôéìþí áðïôåëåß ôï ðñþôï âþìá ãéá ôçí åýñåóç ôùí éäéïäéáíõóìüôùí ôïõ ðßíáêá. Ùóôüóï, ãéá êüèå éäéïôéìþ õðüñ åé Ýíá Üðåéñïò áñéèìüò éäéïäéáíõóìüôùí, üðùò ðñïêýðôåé áðü ôçí åðßëõóç ôïõ óõóôþìáôïò åîéóþóåùí 8.2, üðïõ åßíáé ç åêüóôïôå éäéïôéìþ ðïõ ñçóéìïðïéåßôáé. Ôï óýíïëï ôùí éäéïäéáíõóìüôùí ðïõ áíôéóôïé ïýí óå ìßá éäéïôéìþ êáëåßôáé éäéï þñïò (eigenspace. Ï áñéèìüò ôùí äéáóôüóåùí ôïõ éäéï þñïõ ðïõ áíôéóôïé åß óôçí éäéïôéìþ åîáñôüôáé áðü ôï ðüóåò åìöáíßæåôáé ôï ùò éäéïôéìþ. Ãéá ðáñüäåéãìá, åüí ìßá éäéïôéìþ åìöáíßæåôáé äýï öïñýò ôüôå ï áíôßóôïé ïò éäéï þñïò åßíáé äéóäéüóôáôïò.
ÁíÜêôçóç Ðëçñïöïñßáò 167 ÐáñÜäåéãìá 8.3 Áò äïýìå óôç óõíý åéá ðùò õðïëïãßæïíôáé ôá éäéïäéáíýóìáôá ôïõ ðßíáêá M ãéá ôéò éäéïôéìýò 5 êáé -11. Áí èåùñþóïõìå üôé x 1 êáé x 2 åßíáé ïé äýï óõíôåôáãìýíåò ôïõ äéáíýóìáôïò, ôüôå áðü ôçí åîßóùóç 8.2 Ý ïõìå: [( 4 3 5 10 ( 1 0 0 1 ] ( x1 x 2 = ( 0 0 Ãéá ôïí ðñïóäéïñéóìü ôùí éäéïäéáíõóìüôùí ðïõ áíôéóôïé ïýí óôçí éäéïôéìþ 5, èýôïõìå óôçí ðáñáðüíù åîßóùóç = 5. ÌåôÜ áðï ðñüîåéò ðñïêýðôïõí ïé áêüëïõèåò åîéóþóåéò: x 1 + 3x 2 = 0 5x 1 15x 2 = 0 Åßíáé ðñïöáíýò üôé ïé äýï ðáñáðüíù åîéóþóåéò åßíáé éóïäýíáìåò, ìå áðïôýëåóìá íá õðüñ åé Ýíáò Üðåéñïò óõíäõáóìüò ôéìþí x 1 êáé x 2 ðïõ íá ôéò éêáíïðïéïýí. ÐñÜãìáôé, ç ó Ýóç ðïõ óõíäýåé ôá x 1 êáé x 2 åßíáé ç x 1 = 3x 2. Ïðüôå, áí èýóïõìå x 2 = 1 ðñïêýðôåé üôé x 1 = 3. Ç ßäéá ìýèïäïò ñçóéìïðïéåßôáé ãéá ôïí ðñïóäéïñéóìü ôùí éäéïäéáíõóìüôùí ðïõ áíôéóôïé ïýí óôçí éäéïôéìþ 11. Ïé åîéóþóåéò ðïõ ðñïêýðôïõí åßíáé: 15x 1 + 3x 2 = 0 5x 1 + x 2 = 0 Ïé åîéóþóåéò áõôýò åßíáé éóïäýíáìåò êáé åðïìýíùò ç ó Ýóç ðïõ óõíäýåé ôá x 1 êáé x 2 åßíáé ç x 1 = 1 5 x 2. Áí èýóïõìå x 2 = 5 ðñïêýðôåé üôé x 1 = 1 êáé Ýôóé ðñïóäéïñßóôçêå Ýíá áðü ôá éäéïäéáíýóìáôá. ÅðïìÝíùò, ãéá êüèå ìßá áðü ôéò éäéïôéìýò 1 = 5 êáé 2 = 11 äýï áðü ôá éäéïäéáíýóìáôá ðïõ ðñïêýðôïõí åßíáé: v 1 = ( 3 1 ( 1 ; v 2 = 5 Ôïíßæåôáé áêüìç ìßá öïñü, üôé õðüñ ïõí Üðåéñá éäéïäéáíýóìáôá ðïõ áíôéóôïé ïýí óôçí ßäéá éäéïôéìþ. Ùóôüóï, ìßá áðü ôéò âáóéêýò éäéüôçôåò áíáöýñåé
168 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç üôé ôá éäéïäéáíýóìáôá ðïõ áíôéóôïé ïýí óå äéáöïñåôéêýò éäéïôéìýò åßíáé ãñáììéêü áíåîüñôçôá ìåôáîý ôïõò êáé åðïìýíùò, êáíýíá äåí ìðïñåß íá åêöñáóôåß ùò ãñáììéêüò óõíäõáóìüò ôùí õðïëïßðùí, êüôé ðïõ äçëþíåé ôç óçìáíôéêþ ðëçñïöïñßá ôçí ïðïßá êáôáãñüöïõí. Åßíáé ãíùóôü áðü ôç èåùñßá ôçò ÃñáììéêÞò ëãåâñáò (ð.., [30] üôé Ýíá óýíïëï äéáíõóìüôùí åßíáé ãñáììéêü áíåîüñôçôá áí ï ðßíáêáò ðïõ ó çìáôßæåôáé èýôïíôáò ùò óôþëåò ôá äéáíýóìáôá Ý åé ìç ìçäåíéêþ ïñßæïõóá. Óýìöùíá ìå ôï ÐáñÜäåéãìá 8.3, ôá äýï éäéïäéáíýóìáôá ðïõ ðñïýêåõøáí âáóßæïíôáé óå äéáöïñåôéêýò éäéïôéìýò êáé åðïìýíùò èá ðñýðåé íá åßíáé ãñáììéêü áíåîüñôçôá. ÐñÜãìáôé, ç ïñßæïõóá ôïõ ðßíáêá ðïõ ó çìáôßæåôáé èåùñþíôáò ôï êüèå äéüíõóìá ùò óôþëç ôïõ ðßíáêá åßíáé: ( 3 1 det = 3 5 ( 1 1 = 16 1 5 êáé åðïìýíùò ìðïñïýìå íá óõìðåñüíïõìå üôé ôá äýï éäéïäéáíýóìáôá åßíáé ãñáììéêü áíåîüñôçôá. Áí ï ðßíáêáò M äéáóôüóåùí n n åßíáé óõììåôñéêüò, ôüôå Ý åé áêñéâþò n éäéïôéìýò ü é êáô' áíüãêç äéáöïñåôéêýò ìåôáîý ôïõò. Åðßóçò, äýï éäéïäéáíýóìáôá ðïõ áíôéóôïé ïýí óå äéáöïñåôéêýò éäéïôéìýò åßíáé ìåôáîý ôïõò ïñèïêáíïíéêü (êüèåôá, åðïìýíùò ôï åóùôåñéêü ãéíüìåíü ôïõò éóïýôáé ìå ìçäýí. Èåþñçìá 8.1. Áí ï ðßíáêáò M åßíáé óõììåôñéêüò, ôüôå äýï éäéïäéáíýóìáôá ðïõ áíôéóôïé ïýí óå äéáöïñåôéêýò éäéïôéìýò åßíáé ïñèïêáíïíéêü ìåôáîý ôïõò. ÌåñéêÝò öïñýò ìáò åíäéáöýñåé íá êñáôþóïõìå ìïíáäéáßá äéáíýóìáôá (unit vectors, ôá ïðïßá Ý ïõí ìýôñï ôç ìïíüäá. Ôï ìýôñï åíüò äéáíýóìáôïò v óôéò n äéáóôüóåéò ïñßæåôáé ùò åîþò: v = x 2 1 + x2 2 + ::: + x2 n üðïõ x i, 1 i n åßíáé ïé óõíôåôáãìýíåò ôïõ äéáíýóìáôïò. Ãéá íá ìåôáôñýøïõìå Ýíá äéüíõóìá v óå ìïíáäéáßï áñêåß íá äéáéñýóïõìå üëåò ôéò óõíôåôáãìýíåò ôïõ ìå ôï ìýôñï ôïõ. Óõìâïëßæïõìå ìå v ôï ìïíáäéáßï äéüíõóìá ðïõ áíôéóôïé åß óôï äéüíõóìá v. íá ìïíáäéáßï äéüíõóìá ìáò äßíåé ðëçñïöïñßá ãéá ôç äéåýèõíóç óôçí ïðïßá äåß íåé. ÐáñÜäåéãìá 8.4 óôù ôá äýï éäéïíýóìáôá ôïõ ðßíáêá M áðü ôï ÐáñÜäåéãìá 8.3: v 1 = ( 3 1 ( 1 ; v 2 = 5
ÁíÜêôçóç Ðëçñïöïñßáò 169 Ôá ìýôñá ôùí äýï äéáíõóìüôùí åßíáé: v 1 = 3 2 + 1 2 = 10 êáé v 2 = ( 1 2 + 5 2 = 26. ÅðïìÝíùò, ôá áíôßóôïé á ìïíáäéáßá äéáíýóìáôá ðïõ ðñïêýðôïõí åßíáé: v 1 = ( 3= 10 1= 10 ( 1= 26 ; v 2 = 5= 26 Ìðïñåß åýêïëá íá åðéâåâáéùèåß üôé ôá ìýôñá ôùí äýï äéáíõóìüôùí åßíáé ßóá ìå ôç ìïíüäá: v 1 = (3= 10 2 + (1= 10 2 = 9=10 + 1=10 = 1 = 1 v 2 = 8.2.3 Äéáãùíéïðïßçóç ( 1= 26 2 + (5= 26 2 = 1=26 + 25=26 = 1 = 1 ÐïëëÝò öïñýò, ïé éäéïôéìýò êáé ôá éäéïäéáíýóìáôá åíüò ðßíáêá M ìðïñïýí íá áðåéêïíéóôïýí ìå ôç âïþèåéá ôçò äéáäéêáóßáò ôçò äéáãùíéïðïßçóçò (diagonalization, ìå ôçí ïðïßá ï ðßíáêáò M ãñüöåôáé ùò ãéíüìåíï ôñéþí ðéíüêùí ùò åîþò: M = P D P 1 (8.4 üðïõ M åßíáé Ýíáò ðñáãìáôéêüò ðßíáêáò n n, D åßíáé Ýíáò äéáãþíéïò ðßíáêáò n n ðïõ ðåñéý åé ôéò éäéïôéìýò ôïõ M êáé P åßíáé Ýíáò ôåôñáãùíéêüò ðßíáêáò n n ôïõ ïðïßïõ ïé óôþëåò áðïôåëïýí ôá éäéïäéáíýóìáôá ôïõ M. Ôï åðüìåíï âáóéêü èåþñçìá óõíäýåé ôçí äéáãùíéïðïßçóç ìå ôïí áñéèìü ôùí éäéïäéáíõóìüôùí. Èåþñçìá 8.2. íáò ðßíáêáò M äéáóôüóåùí n n ìðïñåß íá äéáãùíéïðïéçèåß åüí êáé ìüíï åüí Ý åé n ãñáììéêü áíåîüñôçôá éäéïäéáíýóìáôá. Ìßá áðü ôéò åöáñìïãýò ðïõ Ý åé ç äéáãùíéïðïßçóç åíüò ðßíáêá M åßíáé ï ãñþãïñïò õðïëïãéóìüò ôùí ðéíüêùí M k, k 1. Ìðïñåß íá áðïäåé èåß üôé M k = P D k P 1, êáé åöüóïí ï ðßíáêáò D k õðïëïãßæåôáé ðïëý åýêïëá, ôï êüóôïò õðïëïãéóìïý ôïõ M k ìåéþíåôáé äñáóôéêü.
170 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç ÐáñÜäåéãìá 8.5 Óôï ÐáñÜäåéãìá 8.3 ðñïóäéïñßóôçêáí äýï éäéïäéáíýóìáôá ôïõ ðßíáêá M. ÅðïìÝíùò, áöïý ï M åßíáé Ýíáò ðßíáêáò 2 2 êáé Ý åé äýï ãñáììéêü áíåîüñôçôá éäéïäéáíýóìáôá, óýìöùíá ìå ôï Èåþñçìá 8.2 ìðïñåß íá äéáãùíéïðïéçèåß. Åöüóïí ãíùñßæïõìå ôéò éäéïôéìýò êáé ôá äýï ãñáììéêü áíåîüñôçôá éäéïäéáíýóìáôá ôïõ M ìðïñïýìå íá êáôáóêåõüóïõìå ôïõò ðßíáêåò D êáé P : Ì = ( 4 3 5 10 ( 5 0 ; D = 0 11 Ï áíôßóôñïöïò ôïõ ðßíáêá P åßíáé: ( P 1 5=16 1=16 = 1=16 3=16 Áò åðéâåâáéþóïõìå óôç óõíý åéá üôé éó ýåé ç ó Ýóç 8.4. ( 3 1 ; P = 1 5 P D P 1 = ( 3 1 1 5 ( 5 0 0 11 ( 5=16 1=16 1=16 3=16 = ( 4 3 5 10 ùò ôþñá óõíáíôþóáìå ôçí Ýííïéá ôïõ äéáãùíéïðïéþóéìïõ ðßíáêá. Áò äïýìå ôþñá ðüôå Ýíáò ðßíáêáò åßíáé ïñèïêáíïíéêü äéáãùíéïðïéþóéìïò. Ïñéóìüò 8.4. íáò ðßíáêáò M åßíáé ïñèïêáíïíéêü äéáãùíéðïéþóéìïò üôáí õðüñ åé Ýíáò ïñèïêáíïíéêüò ðßíáêáò P (Üñá ðñýðåé P T = P 1 êáé Ýíáò äéáãþíéïò ðßíáêáò D Ýôóé þóôå íá éó ýåé M = P D P T = P D P 1. ÅðïìÝíùò, ç ýðáñîç åíüò ïñèïêáíïíéêïý ðßíáêá P óôïí ðáñáðüíù ïñéóìü óõíåðüãåôáé ôçí ýðáñîç n ïñèïêáíïíéêþí éäéïäéáíóõìüôùí. óôù ôþñá üôé ï ðßíáêáò M åßíáé óõììåôñéêüò (Üñá êáé ôåôñáãùíéêüò. ÕðÜñ åé êüðïéá éäéáéôåñüôçôá óå ó Ýóç ìå ôç äéáãùíéïðïßçóç; Ç áðüíôçóç åßíáé íáé, êáé åðáëçèåýåôáé áðü ôçí áêüëïõèç óõæþôçóç. ÐñïçãïõìÝíùò, ìåëåôþóáìå ôçí Ýííïéá ôçò äéáãùíéïðïßçóçò. Áò äïýìå ôï óõìâáßíåé üôáí ï ðßíáêáò åßíáé óõììåôñéêüò. Áðü ôï Èåþñçìá 8.1 ãíùñßæïõìå üôé äýï éäéïäéáíýóìáôá ðïõ áíôéóôïé ïýí óå äéáöïñåôéêýò éäéïôéìýò åßíáé ïñèïêáíïíéêü ìåôáîý ôïõò áí ï ðßíáêáò åßíáé óõììåôñéêüò. ÅéäéêÜ ãéá ôïõò óõììåôñéêïýò ðßíáêåò éó ýåé ôï áêüëïõèï: Èåþñçìá 8.3. íáò ðßíáêáò M äéáóôüóåùí n n åßíáé ïñèïêáíïíéêü äéáãùíéïðïéþóéìïò áí êáé ìüíï áí åßíáé óõììåôñéêüò.
ÁíÜêôçóç Ðëçñïöïñßáò 171 Ôï ðñïçãïýìåíï èåþñçìá åßíáé ðïëý óçìáíôéêü äéüôé ìáò åîáóöáëßæåé ìßá éóïäõíáìßá ìåôáîý ôçò äéáãùíéïðïéçóéìüôçôáò åíüò ðßíáêá êáé ôçò óõììåôñßáò óõôïý. ÅðïìÝíùò, ç óõììåôñßá ôïõ ðßíáêá M äéáóôüóåùí n n óõíåðüãåôáé ôçí ýðáñîç åíüò ïñèïêáíïíéêïý ðßíáêá P Ýôóé þóôå M = P D P T, êáé ôï áíôßóôñïöï. Óå ðåñßðôùóç ðïõ ï áñéèìüò ôùí äéáêñéôþí éäéïôéìþí åßíáé áêñéâþò n, ôüôå ï ðñïóäéïñéóìüò ôïõ ðßíáêá P åßíáé ðïëý áðëþ õðüèåóç (ôá n ïñèïêáíïíéêü éäéïóéáíýóìáôá ãßíïíôáé ïé óôþëåò ôïõ P. ÄéáöïñåôéêÜ, èá ðñýðåé íá åêôåëåóôïýí êüðïéåò åðéðëýïí ðñüîåéò þóôå íá åíôïðéóôïýí üëá ôá ïñèïêáíïíéêü äéáíýóìáôá ðïõ èá áðïôåëýóïõí ôéò óôþëåò ôïõ P. Ãéá ðáñüäåéãìá, åüí ìßá éäéïôéìþ åßíáé äéðëþ (åßíáé äýï öïñýò ñßæá ôïõ áñáêôçñéóôéêïý ðïëõùíýìïõ ôüôå ðñýðåé íá åíôïðéóôïýí äýï ïñèïêáíïíéêü äéáíýóìáôá ãéá ôï óõãêåêñéìýíï éäéï þñï. ÅÜí ç éäéïôéìþ åßíáé ôñéðëþ, èá ðñýðåé íá åíôïðéóôïýí ôñßá ïñèïêáíïíéêü äéáíýóìáôá ôïõ éäéï þñïõ. Ï ðßíáêáò P êáôáóêåõüæåôáé áðü ôá äéáíýóìáôá ðïõ Ý ïõí åíôïðéóôåß óýìöùíá ìå ôçí ðñïçãïýìåíç ìåèïäïëïãßá. ñá, óå êüèå ðåñßðôùóç, áíåîüñôçôá áðü ôï áí ïé éäéïôéìýò ôïõ ðßíáêá M åìöáíßæïíôáé ìßá ç ðåñéóóüôåñåò öïñýò, ç êáôáóêåõþ ôïõ ïñèïêáíïíéêïý ðßíáêá P åßíáé ðüíôá åöéêôþ. ÐáñÜäåéãìá 8.6 óôù ï óõììåôñéêüò ðßíáêáò M äéáóôüóåùí 2 2: ( 1 1 M = 1 1 Ïé éäéïôéìýò ôïõ M åßíáé 1 = 0 êáé 2 = 2. Ôá äýï ìïíáäéáßá éäéïäéáíýóìáôá ôïõ M åßíáé ôá: ( ( 0:7071 0:7071 v 1 = ; v 0:7071 2 = 0:7071 Ïé ðßíáêåò P êáé D Ý ïõí ùò åîþò: ( ( 0 0 0:7071 0:7071 D = ; P = 0 2 0:7071 0:7071 ÅðïìÝíùò: ( ( 1 1 0:7071 0:7071 = 1 1 0:7071 0:7071 }{{}}{{} M P ( 0 0 0 2 } {{ } D ( 0:7071 0:7071 0:7071 0:7071 } {{ } P T
172 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç 8.2.4 Ðáñáãïíôïðïßçóç Éäéáæïõóþí Ôéìþí (SVD Ç äéüóðáóç åíüò ðßíáêá M óå ãéíüìåíï ôñéþí ðéíüêùí ñçóéìïðïéþíôáò ôç ìýèïäï ôçò äéáãùíéïðïßçóçò äåí åßíáé ðüíôïôå åöéêôþ, êáé åîáñôüôáé áðü ôá áñáêôçñéóôéêü ôïõ ðßíáêá M. Ùóôüóï, õðüñ åé ìßá ìýèïäïò äéüóðáóçò óýìöùíá ìå ôçí ïðïßá Ýíáò ïðïéïóäþðïôå ðßíáêáò Ì ìå äéáóôüóåéò m n ìðïñåß íá åêöñáóôåß ùò ãéíüìåíï ôñéþí ðéíüêùí: M = U S V T (8.5 üðïõ, S åßíáé Ýíáò äéáãþíéïò ðßíáêáò m n ðïõ ðåñéý åé óôçí êýñéá äéáãþíéï ôéò éäéüæïõóåò ôéìýò (singular values ôïõ ðßíáêá M óå öèßíïõóá äéüôáîç, U åßíáé Ýíáò ïñèïêáíïíéêüò ðßíáêáò ìå äéáóôüóåéò m m êáé V åßíáé Ýíáò ïñèïêáíïíéêüò ðßíáêáò n n. Ç äéüóðáóç áõôþ êáëåßôáé åðßóçò êáé ðáñáãïíôïðïßçóç éäéáæïõóþí ôéìþí (singular value decomposition. Ïé éäéüæïõóåò ôéìýò ôïõ ðßíáêá M ðñïêýðôïõí áðü ôéò éäéïôéìýò ôïõ ðßíáêá M T M. Ðéï óõãêåêñéìýíá, ãéá êüèå éäéïôéìþ ôïõ ðßíáêá M T M ðñïêýðôåé ç éäéüæïõóá ôéìþ. ÐáñÜäåéãìá 8.7 ( 4 3 óôù M =. Óýìöùíá ìå ôçí ðáñáãïíôïðïßçóç éäéáæïõóþí ôéìþí, ìðïñïýìå íá åêöñüóïõìå ôïí M ùò ãéíüìåíï: M = U S V T. Áöïý 5 10 ï M Ý åé äéáóôüóåéò 2 2 ïé ðßíáêåò U, S êáé V èá åßíáé åðßóçò 2 2. Ç ðáñáãïíôïðïßçóç Ý åé ùò åîþò: M = U S V T = ( 0:0985 0:9951 0:9951 0:0985 ( 11:2245 0 0 4:9000 ( 0:4082 0:9129 0:9129 0:4082 Ç êýñéá äéáãþíéïò ôïõ S ðåñéý åé ôéò ôéìýò 11.2245 êáé 4.9000. Ïé éäéïôéìýò ôïõ ðßíáêá M T M åßíáé ïé 125.9902 êáé 24.0098. Ðáñáôçñïýìå üôé ïé ôéìýò 11.2245 êáé 4.9000 ðïõ âñßóêïíôáé óôçí êýñéá äéáãþíéï ôïõ ðßíáêá S åßíáé ïé ôåôñáãùíéêýò ñßæåò ôùí ôéìþí 125.9902 êáé 24.0098 áíôßóôïé á. ÐáñÜäåéãìá 8.8 Óôï ðñïçãïýìåíï ðáñüäåéãìá åßäáìå ôçí ðáñáãïíôïðïßçóç åíüò ôåôñáãùíéêïý ðßíáêá. óôù ôþñá ï ðßíáêáò M = 1 2 3 4 5 6 äéáóôüóåùí 3 2. Åöáñìþæïíôáò ôçí ðáñáãïíôïðïßçóç éäéáæïõóþí ôéìþí Ý ïõìå:
ÁíÜêôçóç Ðëçñïöïñßáò 173 M = 0:2298 0:8835 0:4082 0:5247 0:2408 0:8165 0:8196 0:4019 0:4082 9:5255 0 0 0:5143 0 0 ( 0:6196 0:7849 0:7849 0:6196 Ï áíáãíþóôçò ìðïñåß íá åðéâåâáéþóåé üôé ïé ôéìýò 9.5255 êáé 0.5143 åßíáé ïé ôåôñáãùíéêýò ñßæåò ôùí éäéïôéìþí ôïõ ðßíáêá: M T M = ( 1 3 5 2 4 6 1 2 3 4 5 6 = ( 35 44 44 56 Ï ðßíáêáò S, üðùò Ý åé áíáöåñèåß, ðåñéý åé ôéò éäéüæïõóåò ôéìýò ôïõ M (ðïõ ðñïêýðôïõí áðü ôéò éäéïôéìýò ôïõ M T M óôçí êýñéá äéáãþíéï. Ïé éäéüæïõóåò ôéìýò åíüò ðßíáêá Ý ïõí ðáñüìïéá öõóéêþ óçìáóßá ìå áõôþ ôùí éäéïôéìþí. Áí ï ðßíáêáò M åßíáé óõììåôñéêüò, ïé áðüëõôåò ôéìýò ôùí éäéïôéìþí åêöñüæïõí ôï ìýãåèïò ôçò óõññßêíùóçò Þ ôçò åðýêôáóçò ôùí éäéïäéáíõóìüôùí. óôù ìßá éäéïôéìþ ôïõ M êáé v ôï ìïíáäéáßï éäéïäéüíõóìá 2 ðïõ áíôéóôïé åß óôçí éäéïôéìþ. Éó ýåé üôé: M v = v = v = (áöïý ôï v åßíáé ìïíáäéáßï êáé åðïìýíùò ôï ìýôñï ôïõ éóïýôáé ìå ôç ìïíüäá. óôù k ç éäéïôéìþ ôïõ ðßíáêá M ìå ôç ìåãáëýôåñç áðüëõôç ôéìþ êáé v k ôï ìïíáäéáßï éäéïäéüíõóìá ðïõ áíôéóôïé åß óôçí k. Ôüôå, ôï v k ðñïóäéïñßæåé ôç äéåýèõíóç ùò ðñïò ôçí ïðïßá ç åðßäñáóç ôïõ M ìåãéóôïðïéåßôáé. Áõôü óõìâáßíåé äéüôé ç ðïóüôçôá M v ìåãéóôïðïéåßôáé üôáí èýóïõìå = k êáé v = v k. Áíôéêáèéóôþíôáò ôéò ôéìýò áõôýò Ý ïõìå: M v k = k (8.6 óôù M ðßíáêáò äéáóôüóåùí n m. Ï ðßíáêáò M T M åßíáé óõììåôñéêüò êáé åðïìýíùò åßíáé ïñèïêáíïíéêü äéáãùíéïðïéþóéìïò óýìöùíá ìå ôï Èåþñçìá 8.3. ñá, ìðïñïýìå íá âñïýìå n ïñèïêáíïíéêü ìïíáäéáßá éäéïäéáíýóìáôá v 1; v 2; :::; v n ðïõ áíôéóôïé ïýí óôéò n éäéïôéìýò 1; 2; :::; n. Ãéá êüèå éäéïôéìþ i êáé éäéïäéüíõóìá v i (ðïõ áíôéóôïé åß óôçí i éó ýåé üôé: 2 Ãéá ôç óõíý åéá äå èá ñçóéìïðïéåßôáé ï óõìâïëéóìüò v ãéá íá äçëþóåé ìïíáäéáßï äéüíõóìá. Èá õðüñ åé åéäéêþ áíáöïñü óôï êåßìåíï áí êüðïéï äéüíõóìá åßíáé ìïíáäéáßï Þ ü é.
174 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç M v i 2 = (M v i T (M v i (áðü ôïí ïñéóìü ôïõ ìýôñïõ = v T i (M T M v i (áðü ôïí ïñéóìü ôïõ áíüóôñïöïõ ãéíïìýíïõ = v T i i v i (ôï i åßíáé éäéïôéìþ ôïõ M T M = i (ôï v i åßíáé ìïíáäéáßï Áðü ôçí ðáñáðüíù ó Ýóç ðñïêýðôåé üôé ïé éäéïôéìýò ôïõ ðßíáêá M T M äåí ìðïñåß íá åßíáé áñíçôéêïß áñéèìïß, áöïý éó ýåé üôé M v i 2 0. Ãéá êüèå éäéïôéìþ i ôïõ ðßíáêá M T M õðüñ åé ìßá éäéüæïõóá ôéìþ i = i. Ìå âüóç ôçí ðñïçãïýìåíç ó Ýóç, ç éäéüæïõóá ôéìþ i éóïýôáé ìå ôï ìýôñï ôïõ ãéíïìýíïõ M v i. óôù ôþñá k ç ìåãáëýôåñç éäéüæïõóá ôéìþ ôïõ M, ðïõ ðñïöáíþò áíôéóôïé åß óôç ìåãáëýôåñç éäéïôéìþ ôïõ ðßíáêá M T M, êáé v k ôï óíôßóôïé ï ìïíáäéáßï éäéïäéüíõóìá. Óýìöùíá ìå ôçí ðñïçãïýìåíç óõæþôçóç éó ýåé ç áêüëïõèç ó Ýóç: M v k = k (8.7 Ç ïìïéüôçôá ôùí ó Ýóåùí 8.6 êáé 8.7 åßíáé åìöáíþò. Ùóôüóï, ç 8.6 äåß íåé ôç ó Ýóç ôïõ ðßíáêá M ìå ôéò éäéïôéìýò êáé ôá éäéïäéáíýóìáôü ôïõ, åíþ ç 8.7 óõó åôßæåé ôïí ðßíáêá M ìå ôéò éäéïôéìýò êáé ôá éäéïäéáíýóìáôá ôïõ ðßíáêá M T M. Ç ìýèïäïò SVD óôçñßæåôáé áêñéâþò óå áõôþí ôçí ðáñáôþñçóç. Áò åîåôüóïõìå ôþñá ðéï ðñïóåêôéêü ôéò éäéüôçôåò ôùí ðéíüêùí U, S êáé V ôçò ó Ýóçò 8.5. Èá îåêéíþóïõìå áðü ôïí ðßíáêá S ãéá ôïí ïðïßï ãíùñßæïõìå üôé åßíáé äéáãþíéïò êáé ðåñéý åé ôéò éäéüæïõóåò ôéìýò ôïõ M óå öèßíïõóá äéüôáîç. Ôï áêüëïõèï èåþñçìá óõíäýåé ôï âáèìü ôïõ ðßíáêá ìå ôï ðëþèïò ôùí ìç ìçäåíéêþí éäéáæïõóþí ôéìþí. Èåþñçìá 8.4. Áí r åßíáé ï áñéèìüò ôùí ìç ìçäåíéêþí éäéáæïõóþí ôéìþí åíüò ðßíáêá M äéáóôüóåùí n m, ôüôå ï âáèìüò ôïõ M éóïýôáé ìå r. ÅðïìÝíùò, áíáìýíïõìå üôé ï áñéèìüò ôùí ìç ìçäåíéêþí óôïé åßùí óôçí êýñéá äéáãþíéï ôïõ ðßíáêá S åßíáé ßóïò ìå ôï âáèìü ôïõ ðßíáêá M, äçëáäþ ìå ôï ìýãéóôï áñéèìü ôùí ãñáììéêü áíåîüñôçôùí ãñáììþí. Áò äïýìå ôé óõìâáßíåé ìå ôïõò ðßíáêåò U êáé V. Ïé óôþëåò ôïõ ðßíáêá U êáëïýíôáé áñéóôåñü éäéüæïíôá äéáíýóìáôá (left singular vectors êáé ïé óôþëåò ôïõ V ïíïìüæïíôáé äåîéü éäéüæïíôá äéáíýóìáôá (right singular vectors. Ðéï óõãêåêñéìýíá, Ýóôù v 1,..., v r åßíáé ôá ìïíáäéáßá éäéïäéáíýóìáôá ôïõ ðßíáêá M T M êáé 1,..., r ïé áíôßóôïé åò éäéïôéìýò, üðïõ 1 2... r. Áðü êüèå éäéïôéìþ ôïõ M T M
ÁíÜêôçóç Ðëçñïöïñßáò 175 ðñïêýðôåé ìßá éäéüæïõóá ôéìþ ôïõ M: i = i, 1 i r. Ðñïöáíþò éó ýåé üôé: 1 2... r. Áöïý ï âáèìüò ôïõ M åßíáé r éó ýåé üôé r min{n; m}. Åöüóïí ôá äéáíýóìáôá v 1,..., v r åßíáé ïñèïêáíïíéêü, ôá äéáíýóìáôá M v 1,..., M v r åßíáé åðßóçò ïñèïêáíïíéêü, êáé ìüëéóôá óýìöùíá ìå ôç èåùñßá, áðïôåëïýí âüóç ôïõ þñïõ ðïõ ðáñüãåôáé áðü ôéò óôþëåò ôïõ ðßíáêá M. Ãéá êüèå äéüíõóìá v i üðïõ 1 i r ïñßæïõìå ôï äéüíõóìá u i óýìöùíá ìå ôïí áêüëïõèï ôýðï: 1 u i = M v i M v i u i = 1 M v i Mv i = i u i i Ç ðáñáðüíù ó Ýóç äçëþíåé üôé êáé ôá äéáíýóìáôá u i, 1 i r åßíáé ïñèïêáíïíéêü êáé áðïôåëïýí åðßóçò ìßá âüóç ôïõ þñïõ ðïõ ðáñüãåôáé áðü ôéò óôþëåò ôïõ ðßíáêá M. Óôç óõíý åéá, åðåêôåßíïõìå ôï óýíïëï {u 1 ; :::; u r } óôï óýíïëï {u 1 ; :::; u n } êáé ôï óýíïëï {v 1 ; :::; v r } óôï óýíïëï {v 1 ; :::; v m } Ýôóé þóôå ôá u i íá áðïôåëïýí âüóç ôïõ þñïõ R n êáé ôá v i íá áðïôåëïýí âüóç ôïõ þñïõ R m. Óôç óõíý åéá êáôáóêåõüæïõìå ôïõò ïñèïêáíïíéêïýò ðßíáêåò U êáé V ðïõ ðåñéý- ïõí ùò óôþëåò ôá ïñèïêáíïíéêü äéáíýóìáôá u i êáé v i áíôßóôïé á. Èá äåßîïõìå ôþñá üôé MV = US. MV = [Mv 1 Mv 2 ::: Mv r 0 }{{ ::: 0} ] = [ 1 u 1 2 u 2 ::: r u r 0 }{{ ::: 0} ] (8.8 m r m r US = [u 1 u 2 ::: u r ::: u n ] S = [ 1 u 1 2 u 2 ::: r u r 0 }{{ ::: 0} ] (8.9 m r Áðü ôéò ó Ýóåéò 8.8 êáé 8.9 åßíáé ðñïöáíýò üôé MV = US. Ï ðßíáêáò V åßíáé ïñèïêáíïíéêüò êáé åðïìýíùò V 1 = V T. ñá, ðïëëáðëáóéüæïíôáò ôá äýï ìýëç ìå V T ðáßñíïõìå üôé M = USV T. Ç ðáñáðüíù ìåèïäïëïãßá ìáò åðéôñýðåé íá ðñïóäéïñßóïõìå ôïõò ðßíáêåò U, S êáé V Ýôóé þóôå ç ðáñáãïíôïðïßçóç éäéáæïõóþí ôéìþí íá åßíáé ðüíôïôå åöéêôþ ãéá ïðïéïíäþðïôå ðßíáêá M, áíåîáñôþôùò äéáóôüóåùí. 8.2.5 ÐñïóÝããéóç Ðßíáêá Áò åîåôüóïõìå óôç óõíý åéá ìßá ðïëý óçìáíôéêþ éäéüôçôá ôçò ðáñáãïíôïðïßçóçò SVD. ¼ðùò Ý åé áíáöåñèåß, áí ï ðßíáêáò M Ý åé äéáóôüóåéò m n, ôüôå ï ðßíáêáò U åßíáé m m, ï S åßíáé m n êáé ï V åßíáé n n. Åðßóçò, Ý ïõìå äåé üôé ï áñéèìüò ôùí ìç ìçäåíéêþí éäéáæïõóþí ôéìþí ôïõ M (ðïõ âñßóêïíôáé óôçí êýñéá äéáãþíéï ôïõ S, éóïýôáé ìå ôï âáèìü ôïõ ðßíáêá M. óôù ôþñá üôé åêôåëïýìå ôéò áêüëïõèåò åíýñãåéåò åðéëýãïíôáò Ýíáí áêýñáéï áñéèìü k r:
176 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç äéáôçñïýìå ôéò k ìåãáëýôåñåò éäéüæïõóåò ôéìýò ôïõ M êáé èýôïõìå ôéò õðüëïéðåò r k ßóåò ìå ìçäýí óôïí ðßíáêá S, äéáôçñïýìå ôéò ðñþôåò k óôþëåò ôïõ ðßíáêá U êáé èýôïõìå ôéò õðüëïéðåò n r óôþëåò óå ìçäýí, êáé ôýëïò äéáôçñïýìå ôéò ðñþôåò k ãñáììýò ôïõ ðßíáêá V T êáé èýôïõìå ôéò õðüëïéðåò m r óôþëåò óå ìçäýí. Ç ðáñáðüíù äéáäéêáóßá áðåéêïíßæåôáé óôï Ó Þìá 8.1. Åöüóïí éó ýåé üôé k r êáé r min{n; m} ôüôå ðñïöáíþò ïé ðïóüôçôåò r k, n k êáé m k èá åßíáé ðüíôïôå èåôéêýò Þ ìçäýí. Ôï áðïôýëåóìá ôùí ðáñáðüíù åíåñãåéþí åßíáé íá ðñïêýøïõí ôñåéò íýïé ðßíáêåò, ïé U k, S k êáé V k, äéáóôüóåùí m k, k k êáé k n áíôßóôïé á. ñá, ðïëëáðëáóéüæïíôáò ôïõò ôñåéò ðßíáêåò ðñïêýðôåé ï ðßíáêáò M: M = U k S k V T k (8.10 M (m x n U (m x m S (m x n V T (n x n = X X M (m x n U k (m x k S k (k x k V k T (k x n k = X X k k k Ó Þìá 8.1: ÐñïóÝããéóç ðßíáêá.
ÁíÜêôçóç Ðëçñïöïñßáò 177 Ï ðßíáêáò M Ý åé äéáóôüóåéò m n (üðùò êáé ï M. Ùóôüóï, ï âáèìüò ôïõ ðßíáêá M åßíáé k, åíþ ôïõ M åßíáé r, üðïõ k r. Ôé ó Ýóç Ý ïõí üìùò ïé ðßíáêåò M êáé M; ÅÜí äéáôçñþóïõìå üëåò ôéò ìç ìçäåíéêýò éäéüæïõóåò ôéìýò ôïõ M, ôüôå ðñïöáíþò M = M. Ç äéáôþñçóç üìùò ìåñéêþí ìüíï (k éäéáæïõóþí ôéìþí ïäçãåß óôçí êáôáóêåõþ åíüò ðßíáêá M ï ïðïßïò Ý åé ôç ìéêñüôåñç äõíáôþ áðüóôáóç áðü ôïí M ìå âüóç ôç íüñìá Frobenius 3, ðïõ ïñßæåôáé ùò åîþò: M M n m F = M[i; j] M[i; j] 2 (8.11 i=1 j=1 Ç óçìáíôéêüôçôá ôçò ðáñáãïíôïðïßçóçò SVD ãßíåôáé ðåñéóóüôåñï ðñïöáíþò åüí áíáëýóïõìå ôç ó Ýóç M = U S V T. Áí åêöñüóïõìå ôçí ðáñáðüíù ó Ýóç ìå ôç ìïñöþ áèñïßóìáôïò (ìå åöáñìïãþ ôïõ ïñéóìïý ôïõ ðïëëáðëáóéáóìïý ðéíüêùí Ý ïõìå: M = 1 u 1 v T 1 + 2 u 2 v T 2 + ::: + r u r v T r (8.12 ÊÜèå ãéíüìåíï u i vi T åßíáé Ýíáò ðßíáêáò M i äéáóôüóåùí m n, üðùò áêñéâþò êáé ï M. Ï êüèå ðßíáêáò M i óõììåôý åé óôç óýíèåóç ôïõ ðßíáêá M ìå êüðïéï âüñïò ðïõ ðñïóäéïñßæåôáé áðü ôçí éäéüæïõóá ôéìþ i. Åöüóïí ôá äéáíýóìáôá u i êáé vi T åßíáé ìïíáäéáßá, åßíáé ðñïöáíýò üôé ç åðßäñáóç ôïõ ðßíáêá M i êáèïñßæåôáé áðü ôïí ðáñüãïíôá i. ñá, üóï ìåãáëýôåñç ç ôéìþ ôïõ i ôüóï ìåãáëýôåñç êáé ç óõììåôï Þ ôïõ M i óôç óýíèåóç ôïõ áñ éêïý ðßíáêá M. í êñáôþóïõìå ôéò k ìåãáëýôåñåò éäéüæïõóåò ôéìýò (êáé èýóïõìå ôéò õðüëïéðåò óôï ìçäýí èá Ý ïõìå ìßá ðñïóýããéóç ôïõ ðßíáêá M ç ðïéüôçôá ôçò ïðïßáò åîáñôüôáé áðü ôï k êáé áðü ôéò ôéìýò 1 Ýùò k. Óôç âéâëéïãñáößá, ðïëëýò öïñýò óõíáíôïýìå Ýíáí éóïäýíáìï ïñéóìü ãéá ôçí ðáñáãïíôïðïßçóç SVD, üðïõ ïé ðßíáêáò U, S êáé V T Ý ïõí äéáóôüóåéò m r, r r êáé r n áíôßóôïé á, üðïõ r åßíáé ï âáèìüò ôïõ ðßíáêá M. Ç áíáðáñüóôáóç áõôþ èåùñåßôáé ïéêïíïìéêüôåñç áðü ðëåõñüò þñïõ áðïèþêåõóçò, êáèþò ãéá ôï âáèìü ôïõ ðßíáêá M éó ýåé üôé r min{m; n}, ïðüôå ï ðßíáêáò S äå ñåéüæåôáé íá Ý åé ðåñéóóüôåñåò áðü r ãñáììýò êáé óôþëåò, äéüôé ôá óôïé åßá óôéò èýóåéò áõôýò èá åßíáé ìçäåíéêü. Áíôßóôïé á, ï ðßíáêáò U äå ñåéüæåôáé íá Ý åé ðüíù áðü r óôþëåò êáé ï V T ðüíù áðü r ãñáììýò. 3 Ferdinand Georg Frobenius (26 Ïêôùâñßïõ 1849-3 Áõãïýóôïõ 1917. Ãåñìáíüò ìáèçìáôéêüò ðïõ Ýãéíå ãíùóôüò êõñßùò ãéá ôç óõíåéóöïñü ôïõ óôéò äéáöïñéêýò åîéóþóåéò êáé ôç èåùñßá ïìüäùí. Åðßóçò, Þôáí ï ðñþôïò ðïõ Ý åé äþóåé ðëþñç áðüäåéîç ôïõ èåùñþìáôïò Cayley-Hamilton.
178 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç 8.3 Ç ÌÝèïäïò LSA Ìßá áðü ôéò åöáñìïãýò ôçò ìåèüäïõ SVD åßíáé ç áíáðáñüóôáóç åããñüöùí êåéìýíïõ. Óôçí ïõóßá, ç ìýèïäïò SVD ìáò äßíåé ôï ìáèçìáôéêü õðüâáèñï ãéá ôç ìýèïäï ôçò ËáíèÜíïõóáò ÓçìáóéïëïãéêÞò ÁíÜëõóçò (Latent Semantic Analysis ôùí åããñüöùí, ãíùóôþ óôç äéåèíþ âéâëéïãñáößá ùò LSA. Ç ìýèïäïò ðñïóðáèåß íá åðéëýóåé ôñßá âáóéêü ðñïâëþìáôá ðïõ áñáêôçñßæïõí êáé ôá ôñßá ìïíôýëá áíüêôçóçò ðïõ ìåëåôþóáìå (Boolean, Äéáíõóìáôéêü, Ðéèáíïêñáôéêü. Ôá ðñïâëþìáôá áõôü åßíáé ç óõíùíõìßá ôùí üñùí, ç ðïëõóçìßá ôùí üñùí êáé ç åîüñôçóç ìåôáîý ôùí üñùí. Ç åöáñìïãþ ôçò ìåèüäïõ LSA Ý åé ùò áðïôýëåóìá íá âåëôéùèåß ç áðïôåëåóìáôéêüôçôá ôùí óõóôçìüôùí, ðåôõ áßíïíôáò êáëýôåñåò ôéìýò áíüêëçóçò êáé áêñßâåéáò. Ãéá ôç óõíý åéá ôïõ êåöáëáßïõ èá èåùñþóïõìå üôé Ý ïõìå óôç äéüèåóþ ìáò ôïí ðßíáêá M, äéáóôüóåùí m n, üðïõ m åßíáé ôï ðëþèïò ôùí üñùí êáé n ôï ðëþèïò ôùí åããñüöùí ôçò óõëëïãþò. ÅðïìÝíùò, ç j-ïóôþ óôþëç ôïõ M åßíáé ôï äéüíõóìá ôïõ j-ïóôïý åããñüöïõ. Ôï êåëß M[i; j] ôïõ ðßíáêá M ðåñéý åé ôï âüñïò ôïõ i-ïóôïý üñïõ óôï j-ïóôü Ýããñáöï, ðïõ ðñïóäéïñßæåôáé óýìöùíá ìå ôç óõæþôçóç ðïõ Ý åé ðñïçãçèåß óôï ÊåöÜëáéï 4. Åäþ èá õðïèýóïõìå üôé ôï âüñïò åíüò üñïõ óå Ýíá Ýããñáöï ðñïóäéïñßæåôáé áðü ôï ðëþèïò ôùí åìöáíßóåùí ôïõ üñïõ óôï Ýããñáöï (óõ íüôçôá åìöüíéóçò. Åðßóçò, ãéá áðëüôçôá óôçí ðáñïõóßáóç ðáñáëåßðïõìå üëïõò ôïõò üñïõò (ð.., ôá Üñèñá, ôïõò óõíäýóìïõò, ôá ñþìáôá êáé äéáôçñïýìå ìüíï ôá ïõóéáóôéêü áðü ôç ãíùóôþ óõëëïãþ åããñüöùí ðïõ ðåñéëáìâüíåé ðëçñïöïñßåò ãéá ôïõò ðëáíþôåò êáé ôïõò êïìþôåò. Åðßóçò, üëá ôá ïõóéáóôéêü ìåôáôñýðïíôáé óôïí åíéêü áñéèìü êáé óôçí ïíïìáóôéêþ ðôþóç. ÌåôÜ ôçí ðñïåðåîåñãáóßá ôùí åããñüöùí, ç óõëëïãþ ðïõ ðñïêýðôåé äßíåôáé óôï Ó Þìá 8.2. d 1 : d 2 : d 3 : d 4 : d 5 : d 6 : d 7 : êïìþôçò Üëëåû åâäïìþíôá Ýîé ñüíïò êïìþôçò Üëëåû áóôñïíüìïò íôìïíô Üëëåû êïìþôçò åëëåéðôéêþ ôñï éü ðëáíþôçò ñçò äýï öõóéêüò äïñõöüñïò Äåßìïò Öüâïò ðëáíþôçò Äßáò åîþíôá ôñåéò ãíùóôüò öõóéêüò äïñõöüñïò ¹ëéïò áóôýñáò ñçò ðëáíþôçò çëéáêü óýóôçìá Ó Þìá 8.2: ÓõëëïãÞ åããñüöùí.
ÁíÜêôçóç Ðëçñïöïñßáò 179 d 1 d 2 d 3 d 4 d 5 d 6 d 7 êïìþôçò 1 1 1 0 0 0 0 Üëëåû 1 2 0 0 0 0 0 åâäïìþíôá 1 0 0 0 0 0 0 Ýîé 1 0 0 0 0 0 0 ñüíïò 1 0 0 0 0 0 0 áóôñïíüìïò 0 1 0 0 0 0 0 íôìïíô 0 1 0 0 0 0 0 åëëåéðôéêþ 0 0 1 0 0 0 0 ôñï éü 0 0 1 0 0 0 0 ðëáíþôçò 0 0 0 1 1 0 1 ñçò 0 0 0 1 0 0 1 äýï 0 0 0 1 0 0 0 öõóéêüò 0 0 0 1 1 0 0 äïñõöüñïò 0 0 0 1 1 0 0 Äåßìïò 0 0 0 1 0 0 0 Öüâïò 0 0 0 1 0 0 0 Äßáò 0 0 0 0 1 0 0 åîþíôá 0 0 0 0 1 0 0 ôñåéò 0 0 0 0 1 0 0 ãíùóôüò 0 0 0 0 1 0 0 ¹ëéïò 0 0 0 0 0 1 0 áóôýñáò 0 0 0 0 0 1 0 çëéáêü 0 0 0 0 0 0 1 óýóôçìá 0 0 0 0 0 0 1 Ó Þìá 8.3: Ï ðßíáêáò M üñùí-åããñüöùí. Ï ðßíáêáò M üñùí-åããñüöùí ðïõ ðñïêýðôåé áðü ôç óõëëïãþ Ý åé äéáóôüóåéò 24 7 êáé äßíåôáé óôï Ó Þìá 8.3. Óôç óõíý åéá, åöáñìüæïõìå ôçí ðáñáãïíôïðïßçóç SVD þóôå íá åêöñüóïõìå ôïí ðßíáêá M ùò ãéíüìåíï ôùí ðéíüêùí U, S êáé V T. Ãéá ôï óõãêåêñéìýíï ðáñüäåéãìá ñçóéìïðïéþèçêå ç åöáñìïãþ MATLAB [?], ç ïðïßá åìðåñéý åé ðïëëýò åõêïëßåò ãéá ôçí åðåîåñãáóßá ðéíüêùí, ìåôáîý áõôþí êáé ôçí ðáñáãïíôïðïßçóç SVD. ÅðåéäÞ ï âáèìüò ôïõ ðßíáêá M åßíáé ßóïò ìå 7 4, äåí Ý åé íüçìá íá ñçóéìïðïéþóïõìå ðåñéóóüôåñåò áðü 7 ãñáììýò ãéá ôïí ðßíáêá S, äéüôé èá ðåñéý ïõí ìüíï ìçäåíéêü óôïé åßá. ÅðïìÝíùò, ï ðßíáêáò U Ý åé 24 ãñáììýò êáé 7 óôþëåò, ï ðßíáêáò S Ý åé 7 ãñáììýò êáé 7 óôþëåò êáé ï ðßíáêáò V T Ý åé 7 ãñáììýò êáé 7 óôþëåò. Ïé ðßíáêåò U, S êáé V T 4 Áõôü ìðïñïýìå íá ôï äéáðéóôþóïõìå ñçóéìïðïéþíôáò ôçí åöáñìïãþ MATLAB Þ åöáñìþæïíôáò ìåèüäïõò ãñáììéêþò Üëãåâñáò.
180 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç Ý ïõí ùò åîþò: U = 0 0:5127 0 0:3333 0 0:2654 0 0 0:7004 0 0:3333 0 0:0971 0 0 0:1877 0 0:3333 0 0:3626 0 0 0:1877 0 0:3333 0 0:3626 0 0 0:1877 0 0:3333 0 0:3626 0 0 0:2564 0 0:3333 0 0:1327 0 0 0:2564 0 0:3333 0 0:1327 0 0 0:0687 0 0:3333 0 0:4953 0 0 0:0687 0 0:3333 0 0:4953 0 0:5053 0 0:1089 0 0:2755 0 0 0:3064 0 0:4579 0 0:1579 0 0 0:2129 0 0:2228 0 0:3195 0 0 0:4118 0 0:1262 0 0:2020 0 0 0:4118 0 0:1262 0 0:2020 0 0 0:2129 0 0:2228 0 0:3195 0 0 0:2129 0 0:2228 0 0:3195 0 0 0:1989 0 0:3490 0 0:1176 0 0 0:1989 0 0:3490 0 0:1176 0 0 0:1989 0 0:3490 0 0:1176 0 0 0:1989 0 0:3490 0 0:1176 0 0 0 0 0 0 0 0 0:7071 0 0 0 0 0 0 0:7071 0:0935 0 0:2351 0 0:4775 0 0 0:0935 0 0:2351 0 0:4775 0 0 S = 3:2682 0 0 0 0 0 0 0 3:0764 0 0 0 0 0 0 0 2:1003 0 0 0 0 0 0 0 1:7321 0 0 0 0 0 0 0 1:7052 0 0 0 0 0 0 0 1:5925 0 0 0 0 0 0 0 1:4142 V T = 0 0 0 0:6958 0:6500 0 0:3056 0:5774 0:7887 0:2113 0 0 0 0 0 0 0 0:4680 0:7330 0 0:4937 0:5774 0:5774 0:5774 0 0 0 0 0 0 0 0:5449 0:2005 0 0:8142 0:5774 0:2113 0:7887 0:0000 0 0 0 0 0 0 0 0 1:0000 0
ÁíÜêôçóç Ðëçñïöïñßáò 181 Ìå âüóç ôá üóá Ý ïõìå áíáöýñåé ãéá ôçí ðáñáãïíôïðïßçóç SVD, ï ðßíáêáò U ðåñéý åé ôá éäéïäéáíýóìáôá ôïõ ðßíáêá M M T. Óôçí ðñüîç, ãéá ôçí ðåñßðôùóç ìáò, ï ðßíáêáò U ðåñéãñüöåé ôç ìåôüâáóç áðü ôïõò üñïõò (terms óôéò Ýííïéåò (concepts. Ï ðßíáêáò S ðåñéãñüöåé ôç óõíåéóöïñü ôçò êüèå Ýííïéáò (ìå ôç ñþóç ôùí éäéáæïõóþí ôéìþí êáé ôýëïò ï ðßíáêáò V T ðåñéãñüöåé ôç ìåôüâáóç áðü ôéò Ýííïéåò óôá Ýããñáöá. ÅÜí äéáôçñþóïõìå üëåò ôéò éäéüæïõóåò ôéìýò ôïõ M êáé åêôåëýóïõìå ôïí ðïëëáðëáóéáóìü USV T ôüôå ðñïöáíþò èá ðñïêýøåé ï áñ éêüò ðßíáêáò M. Óôü ïò ìáò åßíáé íá ìåéþóïõìå ôç äéáóôáóéìüôçôá ôïõ þñïõ êáé íá ìåôáâïýìå áðü ôï þñï ôùí üñùí óôï þñï ôùí åííïéþí. Áõôü ìðïñåß íá ãßíåé äéáôçñþíôáò ôéò k ìåãáëýôåñåò éäéüæïõóåò ôéìýò ôïõ M êáé åêôåëþíôáò ðñïâïëþ ôùí äéáíõóìüôùí ôïõ M óå Ýíá íýï óýóôçìá óõíôåôáãìýíùí. Áðü ôïí ðßíáêá U äéáôçñïýìå ôéò k ðñþôåò óôþëåò ôïõ êáé ðñïêýðôåé ï ðßíáêáò U k. Áñ éêü, üðùò ðñïóäéïñßæåôáé áðü ôïí ðßíáêá M, ôï êüèå äéüíõóìá åããñüöïõ áðïôåëåßôáé áðü m äéáóôüóåéò (üóïé åßíáé êáé ïé üñïé ôçò óõëëïãþò. Ãéá íá ìåôáâïýìå óôéò k m äéáóôüóåéò ðïëëáðëáóéüæïõìå áðü áñéóôåñü ôïí ðßíáêá M ìå ôïí áíüóôñïöï ôïõ U k. Ðéï óõãêåêñéìýíá, ï ðßíáêáò M k ðïõ ðåñéý åé ùò óôþëåò ôá äéáíýóìáôá ôùí åããñüöùí óôéò k äéáóôüóåéò ðñïóäéïñßæåôáé ùò åîþò: M k = U T k M (8.13 óôù üôé áðïöáóßæïõìå íá äéáôçñþóïõìå ôéò k = 3 ìåãáëýôåñåò éäéüæïõóåò ôéìýò ôïõ M, ðïõ óýìöùíá ìå ôïí ðßíáêá S åßíáé ïé 3.2682, 3.0764 êáé 2.1003 (ïé ôñåéò ðñþôåò ôéìýò óôçí êýñéá äéáãþíéï ôïõ S. Ôáõôü ñïíá, äéáôçñïýìå ôéò ðñþôåò óôþëåò ôïõ ðßíáêá U, êáé ëáìâüíïõìå ôïí ðßíáêá U 3 ðïõ Ý åé ôç ìïñöþ:
182 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç U 3 = 0 0:5127 0 0 0:7004 0 0 0:1877 0 0 0:1877 0 0 0:1877 0 0 0:2564 0 0 0:2564 0 0 0:0687 0 0 0:0687 0 0:5053 0 0:1089 0:3064 0 0:4579 0:2129 0 0:2228 0:4118 0 0:1262 0:4118 0 0:1262 0:2129 0 0:2228 0:2129 0 0:2228 0:1989 0 0:3490 0:1989 0 0:3490 0:1989 0 0:3490 0:1989 0 0:3490 0 0 0 0 0 0 0:0935 0 0:2351 0:0935 0 0:2351 Óôç óõíý åéá, åöáñìþæïíôáò ôçí åîßóùóç 8.13 ëáìâüíïõìå ôïí ðßíáêá M 3 ï ïðïßïò ðåñéý åé ôá ôåëéêü äéáíýóìáôá ôùí åããñüöùí ôçò óõëëïãþò: M 3 = ( 0 0 0 2:2739 2:1244 0 0:9987 1:7761 2:4263 0:6501 0 0 0 0:0000 0 0 0 0:9829 1:5394 0 1:0369 Áõôü ðïõ Ý ïõìå ðåôý åé ìý ñé óôéãìþò åßíáé íá ìåôáôñýøïõìå ôá äéáíýóìáôá ôùí åããñüöùí áðü ôï þñï ôùí üñùí óôï þñï ôùí åííïéþí. Ãéá ôçí áêñßâåéá, áðïöáóßóáìå íá êñáôþóïõìå ôéò ôñåéò ìåãáëýôåñåò éäéüæïõóåò ôéìýò ôïõ ðßíáêá M ìå áðïôýëåóìá ñçóéìïðïéþíôáò ôç ó Ýóç 8.13 íá ìåôáâïýìå óôï þñï ôùí ôñéþí äéáóôüóåùí. Ìå âüóç üìùò áõôü ðïõ Ý ïõìå ìåëåôþóåé óå ðñïçãïýìåíá êåöüëáéá, Ýíá óýóôçìá áíüêôçóçò ñçóéìïðïéåßôáé êõñßùò ãéá ôçí åðåîåñãáóßá åñùôçìüôùí ìå óôü ï ôçí êüëõøç ôùí ðëçñïöïñéáêþí áíáãêþí ôùí ñçóôþí. Óôçí ðåñßðôùóç ðïõ äéáôçñþóïõìå ôïí áñ éêü ðßíáêá M, Ýíáò áíôåóôñáììýíïò êáôüëïãïò èá ìáò âïçèþóåé óôçí áðïäïôéêþ åðåîåñãáóßá
ÁíÜêôçóç Ðëçñïöïñßáò 183 åíüò åñùôþìáôïò: áíáæçôïýíôáé ïé ëßóôåò åìöáíßóåùí ôùí üñùí ðïõ ðåñéý ïíôáé óôï åñþôçìá, âáèìïëïãïýíôáé ôá áíôßóôïé á Ýããñáöá êáé ôá k Ýããñáöá ìå ôï ìåãáëýôåñï âáèìü åðéóôñýöïíôáé óôï ñþóôç (ãéá ðåñéóóüôåñåò ëåðôïìýñåéåò ï áíáãíþóôçò ìðïñåß íá áíáôñýîåé óôï ÊåöÜëáéï 6. Óôçí ðåñßðôùóç ôçò ìåèüäïõ LSA, äå äéáôçñåßôáé ï áñ éêüò ðßíáêáò, åíþ ôá äéáíýóìáôá ôùí åããñüöùí Ý ïõí áëëüîåé ìïñöþ. ÅðïìÝíùò, åýëïãá ôßèåôáé ôï åñþôçìá ó åôéêü ìå ôïí ôñüðï åðåîåñãáóßáò åíüò åñùôþìáôïò ñçóéìïðïéþíôáò ôç ìýèïäï LSA. óôù q Ýíá åñþôçìá ðïõ áíáöýñåé êüðïéïõò üñïõò. Ôï åñþôçìá ìðïñåß íá áíáðáñáóôáèåß ùò Ýíá äéüíõóìá óôéò m äéáóôüóåéò, üðïõ m ôï ðëþèïò ôùí üñùí ôçò óõëëïãþò. Ãéá ðáñüäåéãìá, ôï åñþôçìá ðïõ áíáæçôü ðëçñïöïñßåò ãéá ôïí êïìþôç ôïõ Üëëåû èá Ý åé äýï Üóóïõò óôéò èýóåéò ðïõ áíôéóôïé ïýí óôïõò üñïõò êïìþôçò êáé Üëëåû êáé èá Ý åé ôç ìïñöþ: q = ÐáñáôçñÞóôå üôé ôï äéüíõóìá ôïõ åñùôþìáôïò åßíáé ïñéóìýíï óôéò 24 äéáóôüóåéò åíþ ôá äéáíýóìáôá ôùí åããñüöùí âñßóêïíôáé óôéò 3 äéáóôüóåéò. ÅðïìÝíùò, èá ðñýðåé íá ìåôáó çìáôßóïõìå ôï äéüíõóìá ôïõ åñùôþìáôïò Ýôóé þóôå íá åßíáé óõãêñßóéìï ìå ôá äéáíýóìáôá ôùí åããñüöùí. Ãéá ôï ëüãï áõôü ñçóéìïðïéåßôáé ï áêüëïõèïò ìåôáó çìáôéóìüò ï ïðïßïò ðñïâüëåé ôï äéüíõóìá q óôï þñï ôùí k äéáóôüóåùí ðïõ ïñßæåôáé áðü ôéò óôþëåò ôïõ ðßíáêá U k : 1 1 0. 0 0 q k = U T k q (8.14 Ç åöáñìïãþ ôçò ó Ýóçò 8.14 óôï åñþôçìá ðïõ áíáöýñåôáé óôïí êïìþôç ôïõ Üëëåû äßíåé üôé: 0 q 3 = 1:2131 0 êáé óôç óõíý åéá, ìðïñåß íá åöáñìïóôåß ç óõíüñôçóç ïìïéüôçôáò ôïõ óõíçìéôüíïõ (Þ ïðïéáäþðïôå Üëëç óõíüñôçóç ïìïéüôçôáò ãéá ôïí ðñïóäéïñéóìü ôùí óôçëþí ôïõ ðßíáêá M 3 ðïõ åßíáé ðëçóéýóôåñá óôï äéüíõóìá q 3. åé áíáöåñèåß üôé Ýíá áðü ôá ðëåïíåêôþìáôá ôçò ìåèüäïõ LSA åßíáé üôé âñßóêåé óõó åôßóåéò ìåôáîý ôùí üñùí ôçò óõëëïãþò ìå âüóç ôéò êïéíýò åìöáíßóåéò ôùí üñùí óôá Ýããñáöá. Ùò áðïôýëåóìá ôçò óõó Ýôéóçò áõôþò åßíáé ôï üôé
184 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç d 1 d 2 d 3 d 4 d 5 d 6 Éíôåößî 2 1 1 0 0 0 Áóôåñßî 3 2 1 0 3 0 ìáñìßôá 0 2 2 0 4 0 Ôïì 0 0 1 3 0 2 ÔæÝñõ 0 0 0 2 0 3 ðïíôßêé 0 1 0 1 0 0 Êáßóáñáò 1 0 1 1 1 1 Ðáíïñáìßî 2 2 0 1 0 0 ãüôá 0 1 0 0 0 1 Ïâåëßî 1 2 0 1 1 0 Ðßíáêáò 8.1: Ï ðßíáêáò M üñùí-åããñüöùí. Ýíá Ýããñáöï ìðïñåß íá áíáêôçèåß áêüìç êáé áí äåí ðåñéý åé êáíýíáí üñï ôïõ åñùôþìáôïò! Ãéá ðáñüäåéãìá, èåùñþóôå ôï åñþôçìá Q ðïõ áðïôåëåßôáé ìüíï áðü ôïí üñï Üëëåû. Ôï áñ éêü äéüíõóìá ôïõ åñùôþìáôïò èá Ý åé Ýíáí Üóóï óôç èýóç ôïõ Üëëåû (äåýôåñç èýóç ôïõ äéáíýóìáôïò. Ìåôáó çìáôßæïíôáò ôï äéüíõóìá óôéò 3 äéáóôüóåéò Ý ïõìå üôé: Q 3 = 0 0:7004 0 Ðáñáôçñþíôáò ôá äéáíýóìáôá ôùí åããñüöùí ôïõ ðßíáêá M 3 åßíáé ðñïöáíýò üôé ç áðüóôáóç ìåôáîý ôïõ Q 3 êáé ôùí ôñéþí ðñþôùí óôçëþí ôïõ M 3 (ðïõ áíôéóôïé ïýí óôá äéáíýóìáôá ôùí åããñüöùí d 1, d 2 êáé d 3 èá åßíáé ìçäýí (ëüãù ôçò ñþóçò ôçò óõíüñôçóçò ôïõ óõíçìéôüíïõ. Ãéá ôá d 1 êáé d 2 äåí õðüñ åé êüðïéá Ýêðëçîç, êáèþò êáé ôá äýï Ýããñáöá ðåñéý ïõí ôïí üñï Üëëåû. Áíôßèåôá, ôï d 3 äåí ðåñéý åé ôïí üñï Üëëåû. ÅðåéäÞ üìùò ôï d 3 ðåñéý åé ôïí üñï êïìþôçò ï ïðïßïò åìöáíßæåôáé ìáæß ìå ôïí üñï Üëëåû óå Üëëá Ýããñáöá èá õðüñ åé êüðïéá ïìïéüôçôá ìå ôï Q 3. Ãéá ôçí êáëýôåñç êáôáíüçóç ôùí åííïéþí èá åîåôüóïõìå êáé Ýíá áêüìç ðáñüäåéãìá ìå ëéãüôåñïõò üñïõò. óôù ï ðßíáêáò üñùí-åããñüöùí ðïõ äßíåôáé óôïí Ðßíáêá 8.1 ï ïðïßïò áðïôåëåßôáé áðü m = 10 üñïõò (ãñáììýò êáé n = 6 Ýããñáöá (óôþëåò. ¼ðùò êáé ðñïçãïõìýíùò, èåùñïýìå üôé óôï êåëß ðïõ ðñïóäéïñßæåôáé áðü ôçí i-ïóôþ ãñáììþ êáé ôç j-ïóôþ óôþëç áðïèçêåýåôáé ç óõ íüôçôá åìöüíéóçò ôïõ i-ïóôïý üñïõ óôï j-ïóôü Ýããñáöï ôçò óõëëïãþò. Áò åîåôüóïõìå ôþñá ôçí ïìïéüôçôá ôùí åããñüöùí ðñéí êáé ìåôü ôçí åöáñìïãþ ôçò ìåèüäïõ LSA. Óôïí Ðßíáêá 8.2 äßíåôáé ï ðßíáêáò ôùí áðïóôüóåùí ìå-
ÁíÜêôçóç Ðëçñïöïñßáò 185 d 1 d 2 d 3 d 4 d 5 d 6 d 1 0 0.2632 0.5133 0.8853 0.5143 0.9408 d 2 0.2632 0 0.4322 0.8279 0.2936 0.9408 d 3 0.5133 0.4322 0 0.6464 0.1835 0.7261 d 4 0.8853 0.8279 0.6464 0 0.9038 0.1609 d 5 0.5143 0.2936 0.1835 0.9038 0 0.9503 d 6 0.9408 0.9408 0.7261 0.1609 0.9503 0 Ðßíáêáò 8.2: Áñ éêýò áðïóôüóåéò óõíçìéôüíïõ ìåôáîý åããñüöùí. d 1 d 2 d 3 d 4 d 5 d 6 d 1 0 0.0002 0.0512 0.8479 0.0002 0.9357 d 2 0.0002 0 0.0457 0.8303 0.0007 0.9180 d 3 0.0512 0.0457 0 0.5435 0.0579 0.6238 d 4 0.8479 0.8303 0.5435 0 0.8684 0.0039 d 5 0.0002 0.0007 0.0579 0.8684 0 0.9565 d 6 0.9357 0.9180 0.6238 0.0039 0.9565 0 Ðßíáêáò 8.3: ÁðïóôÜóåéò óõíçìéôüíïõ ìåôáîý åããñüöùí ìåôü ôçí åöáñìïãþ LSA óôéò äýï äéáóôüóåéò. ôáîý üëùí ôùí åããñüöùí ñçóéìïðïéþíôáò ôïí áñ éêü ðßíáêá M üñùí-åããñüöùí. Ç ïìïéüôçôá ìåôáîý äýï åããñüöùí êáèïñßæåôáé ìå âüóç ôçí ïìïéüôçôá óõíçìéôüíïõ. Õðåíèõìßæåôáé üôé ãéá äýï äéáíýóìáôá ~a êáé ~b ç ïìïéüôçôá óõíçìéôüíïõ äßíåôáé áðü ôçí áêüëïõèç Ýêöñáóç: S cosine (~a;~b = cos( = ~a ~b ~a ~b üðïõ åßíáé ç ãùíßá ìåôáîý ôùí äýï äéáíõóìüôùí. Ìå âüóç ôïí ðáñáðüíù ôýðï, åüí äýï Ýããñáöá ðáñïõóéüæïõí ïìïéüôçôá -1 ôüôå èåùñïýíôáé åíôåëþò áíüìïéá, åíþ áí ðáñïõóéüæïõí ïìïéüôçôá 1 ôüôå åßíáé åíôåëþò üìïéá. ÌåôáôñÝðïõìå ôï ìýôñï ïìïéüôçôáò óå ìüôñï áðüóôáóçò áöáéñþíôáò ôçí ôéìþ ðïõ äßíåé ï ðáñáðüíù ôýðïò áðü ôç ìïíüäá. ôóé, ç áðüóôáóç ìåôáîý ôùí åããñüöùí ðïõ ðåñéãñüöïíôáé áðü ôá äéáíýóìáôá a êáé b äßíåôáé áðü ôç ó Ýóç: D cosine (~a;~b = 1 S cosine (~a;~b = ~a ~b ~a ~b Ïé áðïóôüóåéò ôïõ Ðßíáêá 8.2 Ý ïõí õðïëïãéóôåß ìå âüóç ôï ìýôñï D cosine. ÅðïìÝíùò, åüí ìßá ôéìþ åßíáé ìçäýí ôüôå ôá äýï Ýããñáöá èåùñïýíôáé åíôåëþò
186 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç üìïéá. ¼óï ìåãáëþíåé ç ôéìþ áõôþ ôüóï ðéï áíüìïéá åßíáé ôá Ýããñáöá. Åßíáé ðñïöáíýò üôé Ýíá Ýããñáöï åßíáé åíôåëþò üìïéï ìå ôïí åáõôü ôïõ, êáé áõôüò åßíáé ï ëüãïò ðïõ ôá óôïé åßá óôçí êýñéá äéáãþíéï åßíáé ìçäåíéêü. ÐáñáôçñÞóôå åðßóçò üôé ï ðßíáêáò åßíáé óõììåôñéêüò. ÌåôÜ ôçí åöáñìïãþ ôçò ìåèüäïõ LSA êáé ôç ìåßùóç ôïõ áñéèìïý ôùí äéáóôüóåùí óå äýï ðñïêýðôåé ï áêüëïõèïò ðßíáêáò ðïõ ðåñéý åé ùò óôþëåò ôá íýá äéáíýóìáôá ôùí åããñüöùí óôï þñï ôùí äýï äéáóôüóåùí: ( 3:3675 3:8951 2:3267 1:2227 4:6044 0:8608 M 2 = 0:5794 0:5990 0:3539 3:6515 0:8910 3:5999 åíþ óôïí Ðßíáêá 8.3 äßíïíôáé ïé íýåò áðïóôüóåéò ìåôáîý ôùí åããñüöùí. Ðáñáôçñþíôáò ôïõò Ðßíáêåò 8.2 êáé 8.3 âëýðïõìå üôé ïé áðïóôüóåéò Ý ïõí äéáöïñïðïéçèåß áñêåôü. Ðéï óõãêåêñéìýíá, åíþ áñ éêü ôï Ýããñáöï d 5 åß å áðüóôáóç 0.5143 áðü ôï d 1, ìåôü ôçí åöáñìïãþ ôçò ìåèüäïõ LSA ç áðüóôáóç Ý åé ãßíåé ìüëéò 0.0002 ìå áðïôýëåóìá ôá d 2 êáé d 5 íá åßíáé ðëýïí ôá ðëçóéýóôåñá Ýããñáöá óôï d 1. Óôç óõíý åéá áò äïýìå ôé óõìâáßíåé êáôü ôçí åðåîåñãáóßá åñùôçìüôùí. óôù ôá åñùôþìáôá x = {Éíôåößî, Áóôåñßî, ìáñìßôá, Ðáíïñáìßî, Ïâåëßî}, y = {Ôïì, ÔæÝñõ}, êáé z = {ðïíôßêé, ãüôá}. Ãéá êüèå Ýíá áðü ôá åñùôþìáôá áõôü ðñïóäéïñßæïõìå ôéò áðïóôüóåéò óõíçìéôüíïõ ðñïò üëá ôá Ýããñáöá ôçò óõëëïãþò ðñéí êáé ìåôü ôçí åöáñìïãþ ôçò ìåèüäïõ LSA. Ôá áðïôåëýóìáôá óõíïøßæïíôáé óôïõò Ðßíáêåò 8.4 êáé 8.5. d 1 d 2 d 3 d 4 d 5 d 6 x 0.1792 0.0766 0.3675 0.8882 0.3115 1.0000 y 1.000 1.000 0.7500 0.1161 1.0000 0.0871 z 1.000 0.6756 1.0000 0.8232 1.0000 0.8174 Ðßíáêáò 8.4: ÁðïóôÜóåéò óõíçìôüíïõ ìåôáîý åñùôçìüôùí êáé åããñüöùí ðñéí ôçí åöáñìïãþ LSA.
ÁíÜêôçóç Ðëçñïöïñßáò 187 d 1 d 2 d 3 d 4 d 5 d 6 x 0.0010 0.0020 0.0665 0.8929 0.0003 0.9811 y 0.9967 0.9789 0.6810 0.0111 1.0174 0.0019 z 0.5051 0.4897 0.2560 0.0659 0.5232 0.1010 Ðßíáêáò 8.5: ÁðïóôÜóåéò óõíçìôüíïõ ìåôáîý åñùôçìüôùí êáé åããñüöùí ìåôü ôçí åöáñìïãþ LSA.
188 ÊåöÜëáéï 8. ËáíèÜíïõóá ÓçìáóéïëïãéêÞ ÁíÜëõóç