ΕΑΠ/ΠΛΗ22/ΑΘΗ.3 4 η ΟΣΣ 19.03.2017 Σχόλια για τη ΓΕ3 & Συμπληρωματικές Διαφάνειες στα Κανάλια Επικοινωνίας και τους Κώδικες Διόρθωσης Σφαλμάτων Νίκος Δημητρίου ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 1
Σχόλια ΓΕ3 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 2
Για το θέμα 1 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 3
Για το θέμα 3 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 4
Για το θέμα 3 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 5
Για το θέμα 5 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 6
Για το θέμα 7 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 7
Κανάλια Επικοινωνίας ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 8
Σκοπός: Μεταφορά συμβόλων διαμέσου του καναλιού διατηρώντας την κατανομή των μεταξύ τους πιθανοτήτων p(x i ) βλ. αρχείο PLH22_OSS4_slides διαφάνειες 5-19 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 9
10
ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 11
ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / Παρατηρήσεις: Η έξοδος μπορεί να είναι ομοιόμορφα κατανεμημένη εάν ισχύει μια από τις παρακάτω περιπτώσεις: Η είσοδος είναι ομοιόμορφά κατανεμημένη και το κανάλι είναι συμμετρικό ή αθόρυβο Η είσοδος δεν είναι αναγκαστικά ομοιόμορφα κατανεμημένη αλλά το κανάλι είναι συμμετρικό με f=1/2 Το κανάλι είναι ενθόρυβο γενικής μορφής (βλ. διαφάνεια 3) και με κατάλληλους συνδυασμούς των πιθανοτήτων p(y j /x i ) και p(x i ) προκύπτουν ομοιόμορφές p(y j ) 12
βλ. αρχείο PLH22_OSS4_slides διαφάνειες 20-29 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 13
14
N N N ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 15
βλ. αρχείο PLH22_OSS4_slides διαφάνειες 30-34 16
17
γ) Για τον προσδιορισμό της χωρητικότητας του καναλιού θα πρέπει να βρούμε τις πιθανότητες εμφάνισης των συμβόλων της εισόδου, για τις οποίες μεγιστοποιείται η αμοιβαία πληροφορία μεταξύ της εισόδου και της εξόδου του καναλιού, δηλαδή την τιμή α. Είναι C max I( X ; Y) p( x) max[ H ( Y) H ( Y / X )] max 0,66 0,8a log(0,8a ) 0,8(1 a)log(0,8(1 a)) 0,2575 p( x) max 0,8a log(0,8a ) 0,8(1 a)log(0,8(1 a)) 0,2575. p( x) p( x) 0,66) Η συνάρτηση αυτή μεγιστοποιείται όπως γνωρίζουμε για την τιμή του a που μηδενίζει την πρώτη της παράγωγο. ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 18
Επομένως, di( X ; Y ) da log 1 a a 0,8a log(0,8a) 0,8(1 a)log(0,8(1 a) 0,2575 0,8 ( a) log(0,8a) a(log(0,8a )) 0,8 (1 a) log(0,8(1 a)) (1 a)(log(1 a)) 0,8 log(0,8a) log(0,8(1 a)) a 0 1 a 2 1 a 1. 2 loge 1 0,8 log(0,8a) a 0,8 ( 1) log(0,8(1 a)) (1 a)( 1) loge 1 a a 0,8log(0,8 a) 0,8log e 0,8log(0,8(1 a)) 0,8log e 0 0,8a 0,8log 0,8 1 a 0 Σημείωση: Εφόσον έχουμε μερικώς συμμετρικό κανάλι μπορούσαμε να πούμε ότι η μέγιστη H(Y) που αντιστοιχεί σε ομοιόμορφα κατανεμημένες εξόδους προκύπτει από ομοιόμορφα κατανεμημένες εισόδους άρα α=1/2 χωρίς να γίνει παραγώγιση Θέτοντας ανωτέρω την τιμή αυτή του a, λαμβάνουμε τη χωρητικότητα του καναλιού C=0,8 bits/symbol. ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 19
ΕΞ2016Α ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 20
21
22
EΞ2012B Για επιπλέον παραδείγματα βλ. αρχείο PLH22_OSS4_slides διαφάνειες 35-43 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 23
24
ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 25
p( y1, x1 ) p( y2, x1 ) p( y3, x1 ) P Y, X p( y1, x2) p( y2, x2) p( y3, x2) p ( y1, x3) p( y2, x3) p( y3, x3) p( x1 ) p( y1 / x1 ) p( x1 ) p( y2 / x1 ) p( x1) p( y3 / x1) p( x2) p( y1 / x2) p( x2) p( y2 / x2) p( x2) p( y3 / x2) p ( x3) p( y1 / x3) p( x3) p( y2 / x3) p( x3) p( y3 / x3) 0.40.5 0.40.5 0 0 0.3 0.25 0.3 0.75 0.30.5 0 0.30.5 0.20 0.20 0 0 0.075 0.225 0.15 0 0.15 ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 26
Σημείωση: Εάν η άσκηση ζητούσε τη χωρητικότητα θα έπρεπε να γίνει διερεύνηση της μεγιστοποίησης της Ι(Χ;Υ) με παραγώγιση υποθέτοντας παραμετρικές πιθανότητες εισόδων Το κανάλι δεν έχει κάποια συμμετρία οπότε δεν συνεπάγεται ότι ομοιόμορφα καταμενημένες είσοδοι δίνουν ομοιόμορφα καταμενημένες εξόδους. ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 27
EΞ2011Α ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 28
29
30
31
ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 32
Κώδικες Διόρθωσης Σφαλμάτων ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 33
Μήκος Κώδικα: n Διάσταση κώδικα: k ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 34
35
36
Ικανότητες διόρθωσης/ανίχνευσης σφαλμάτων ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 37
38
39
40
41
42
43
44
45
46
47
ΕΞ2016Α ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
ΕΞ2012Β ΕΑΠ / ΠΛΗ22 /ΑΘΗ.3 / 4η ΟΣΣ / 19.03.2017 / 77
78