ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη

Σχετικά έγγραφα
ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 12η διάλεξη (2η έκδοση, 20/5/2013)

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η & 12η διάλεξη

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 6η διάλεξη

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 12η διάλεξη

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 4η διάλεξη (4η έκδοση, 11/3/2013)

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 10η διάλεξη (2η έκδοση, 7/5/2013)

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 10η διάλεξη

EE728 (22Α004) - Προχωρημένα Θέματα Θεωρίας Πληροφορίας 3η σειρά ασκήσεων Διακριτά και Συνεχή Κανάλια. Παράδοση: Έως 22/6/2015

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 2η διάλεξη (3η έκδοση, 11/3)

22Α004 - Προχωρημένα Θέματα Θεωρίας Πληροφορίας Τελική Εξέταση

ΕΕ725 Ειδικά Θέµατα Ψηφιακών Επικοινωνιών 4η διάλεξη

Χρήστος Ξενάκης. Πανεπιστήμιο Πειραιώς, Τμήμα Ψηφιακών Συστημάτων

EE728 (22Α004) - Προχωρημένα Θέματα Θεωρίας Πληροφορίας 3η σειρά ασκήσεων Ενδεικτικές Λύσεις

EE728 (22Α004) - Προχωρημένα Θέματα Θεωρίας Πληροφορίας Λυμένες ασκήσεις σε Κανάλια

Ασκήσεις στο µάθηµα «Επισκόπηση των Τηλεπικοινωνιών»

Ψηφιακές Τηλεπικοινωνίες

Ακρότατα υπό συνθήκη και οι πολλαπλασιαστές του Lagrange

Μάθηµα 9 ο : Συστήµατα πολλαπλής πρόσβασης

Τμήμα Μηχανικών Η/Υ και Πληροφορικής

, όπου οι σταθερές προσδιορίζονται από τις αρχικές συνθήκες.

Κεφάλαιο 1. Θεωρία Ζήτησης

Παράμετροι σχεδίασης παλμών (Μορφοποίηση παλμών)

Κεφάλαιο 3 ΠΑΡΑΓΩΓΟΣ. 3.1 Η έννοια της παραγώγου. y = f(x) f(x 0 ), = f(x 0 + x) f(x 0 )

ΠΑΝΕΠΙΣΤΗΜΙΟ ΚΥΠΡΟΥ, ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ

Εργαστήριο 8: Τεχνικές πολλαπλής πρόσβασης στα Δίκτυα Κινητών Επικοινωνιών

Προχωρημένα Θέματα Ασυρμάτων Επικοινωνιών (3) Αγγελική Αλεξίου

Ψηφιακές Τηλεπικοινωνίες

Περιεχόµενα διαλέξεων 2ης εβδοµάδας

ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΕΛΟΠΟΝΝΗΣΟΥ

Δίαυλος Πληροφορίας. Η λειτουργία του περιγράφεται από:

Επιδόσεις της σύνδεσης για κάλυψη µε κεραία πολλαπλής δέσµης σε σχέση µε κάλυψη µε κεραία απλής δέσµης

ιαφορική εντροπία Σεραφείµ Καραµπογιάς

Χρήστος Ξενάκης. Πανεπιστήμιο Πειραιώς, Τμήμα Ψηφιακών Συστημάτων

ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΕΛΟΠΟΝΝΗΣΟΥ

Γραµµική Αλγεβρα Ι. Ενότητα: ιανυσµατικοί χώροι. Ευάγγελος Ράπτης. Τµήµα Μαθηµατικών

Συστήματα Επικοινωνιών

Ασκήσεις για το µάθηµα «Ανάλυση Ι και Εφαρµογές» (ε) Κάθε συγκλίνουσα ακολουθία άρρητων αριθµών συγκλίνει σε άρρητο αριθµό.

Αρµονική Ανάλυση. Ενότητα: Το ϑεώρηµα παρεµβολής του Riesz και η ανισότητα Hausdorff-Young. Απόστολος Γιαννόπουλος.

1 η ΣΕΙΡΑ ΑΣΚΗΣΕΩΝ. / 2. Οι όροι Eb. και Ec

p(x, y) = 1 (x + y) = 3x + 6, x = 1, 2 (x + y) = 3 + 2y, y = 1, 2, 3 p(1, 1) = = 2 21 p X (1) p Y (1) = = 5 49

Παρεµβολή και Προσέγγιση Συναρτήσεων

ΘΕΩΡΙΑ ΑΡΙΘΜΩΝ. Λυσεις Ασκησεων - Φυλλαδιο 2

Μάθηµα 12 ο : Πολλαπλή πρόσβαση µε διαίρεση κώδικα (CDMA, code division multiple access)

Κεφάλαιο 6 Παράγωγος

ΚΕΦΑΛΑΙΟ ΠΕΜΠΤΟ ΘΕΩΡΙΑ ΠΛΗΡΟΦΟΡΙΑΣ

ΘΕΜΑΤΑ ΕΞΕΤΑΣΗΣ ΚΑΙ ΑΠΑΝΤΗΣΕΙΣ ΕΞΕΤΑΣΤΙΚΗ ΠΕΡΙΟ ΟΣ:

Τηλεπικοινωνιακά Συστήματα ΙΙ

Ψηφιακές Επικοινωνίες

ΕΡΓΑΣΤΗΡΙΟ ΑΝΑΛΟΓΙΚΩΝ & ΨΗΦΙΑΚΩΝ ΕΠΙΚΟΙΝΩΝΙΩΝ. Εργαστήριο 8 ο. Αποδιαμόρφωση PAM-PPM με προσαρμοσμένα φίλτρα

Χρήστος Ξενάκης. Πανεπιστήμιο Πειραιώς, Τμήμα Ψηφιακών Συστημάτων

Θέματα Συστημάτων Πολυμέσων

5.1 Ιδιοτιµές και Ιδιοδιανύσµατα

Τηλεπικοινωνιακά Συστήματα ΙΙ

1 Το ϑεώρηµα του Rademacher

ΣΥΓΚΡΙΣΗ ΕΠΙ ΟΣΕΩΝ ΨΗΦΙΑΚΩΝ ΚΑΝΑΛΙΩΝ & ΟΡΙΑ ΤΗΣ ΛΕΙΤΟΥΡΓΙΑΣ ΑΥΤΩΝ

ΘΕΩΡΙΑ ΠΛΗΡΟΦΟΡΙΑΣ. Κεφάλαιο 2 : Πληροφορία και Εντροπία Διάλεξη: Κώστας Μαλιάτσος Χρήστος Ξενάκης, Κώστας Μαλιάτσος

Μοντέλο Επικοινωνίας Δεδομένων. Επικοινωνίες Δεδομένων Μάθημα 6 ο

Γενική Ισορροπία-Ευηµερία. 2ο Θεµελιώδες Θεώρηµα των Οικονοµικών της ευηµερίας. Notes. Notes. Notes. Notes. Κώστας Ρουµανιάς.

ΛΕΙΤΟΥΡΓΙΑ ΚΑΙ ΑΠΟ ΟΣΗ ΨΗΦΙΑΚΩΝ ΤΗΛΕΠΙΚΟΙΝΩΝΙΑΚΩΝ ΣΥΣΤΗΜΑΤΩΝ

ΕΕ725 Ειδικά Θέµατα Ψηφιακών Επικοινωνιών 5η διάλεξη

3 Αναδροµή και Επαγωγή

Γραµµική Αλγεβρα Ι. Ενότητα: Εισαγωγικές Εννοιες. Ευάγγελος Ράπτης. Τµήµα Μαθηµατικών

Κυρτή Ανάλυση. Ενότητα: Υπερεπίπεδα στήριξης και διαχωριστικά ϑεωρήµατα. Απόστολος Γιαννόπουλος. Τµήµα Μαθηµατικών

Γραµµική Αλγεβρα. Ενότητα 2 : Επίλυση Γραµµικών Εξισώσεων. Ευστράτιος Γαλλόπουλος Τµήµα Μηχανικών Η/Υ & Πληροφορικής


Κεφάλαιο 2 Πληροφορία και εντροπία

11 Το ολοκλήρωµα Riemann

Ανω Φράγµα στην Τάξη των Συναρτήσεων. Ρυθµός Αύξησης (Τάξη) των Συναρτήσεων. Παράδειγµα (1/2) O( g(n) ) είναι σύνολο συναρτήσεων:

Προσδιορισµός της φασµατικής ισχύος ενός σήµατος

Ψηφιακή Μετάδοση Αναλογικών Σηµάτων

Γραµµική Αλγεβρα. Ενότητα 1 : Εισαγωγή στη Γραµµική Αλγεβρα. Ευστράτιος Γαλλόπουλος Τµήµα Μηχανικών Η/Υ & Πληροφορικής

Κινητές επικοινωνίες. Κεφάλαιο 6 Τεχνικές πoλυπλεξίας - CDMA

Ενότητα: Πράξεις επί Συνόλων και Σώµατα Αριθµών

Περιεχόμενα 1 Κωδικοποίησ η Πηγής 2 Χωρητικότητα Διακριτών Καναλιών 2 / 21

ΕΠΑΝΑΛΗΠΤΙΚΑ ΘΕΜΑΤΑ ΜΑΘΗΜΑΤΙΚΑ ΚΑΤΕΥΘΥΝΣΗΣ Γ ΛΥΚΕΙΟΥ 2008

Συστήματα Επικοινωνιών ΙI

A2. ΠΑΡΑΓΩΓΟΣ-ΚΛΙΣΗ-ΜΟΝΟΤΟΝΙΑ

HY118- ιακριτά Μαθηµατικά. Μαθηµατική επαγωγή. 11 Επαγωγή

( ) log 2 = E. Σεραφείµ Καραµπογιάς

= 5 cos(2π500t π/2) + 9 cos(2π900t + π/3) cos(2π1400t) (9) H(f) = 4.5, αλλού

ΘΕΩΡΙΑ ΑΡΙΘΜΩΝ Ασκησεις - Φυλλαδιο 2

ΕΡΓΑΣΤΗΡΙΟ ΑΝΑΛΟΓΙΚΩΝ & ΨΗΦΙΑΚΩΝ ΕΠΙΚΟΙΝΩΝΙΩΝ

ΘΕΩΡΙΑ ΠΛΗΡΟΦΟΡΙΑΣ. Κεφάλαιο 3 : Πηγές Πληροφορίας Χρήστος Ξενάκης. Πανεπιστήμιο Πειραιώς, Τμήμα Ψηφιακών Συστημάτων

ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΚΡΥΠΤΟΛΟΓΙΑ ΣΗΜΕΙΩΣΕΙΣ #6 ΘΕΟ ΟΥΛΟΣ ΓΑΡΕΦΑΛΑΚΗΣ

X(t) = A cos(2πf c t + Θ) (1) 0, αλλού. 2 cos(2πf cτ) (9)

Ατοµική Θεωρία Ζήτησης

Να χαρακτηρίσετε ως σωστές ή λανθασµένες τις επόµενες προτάσεις: Α3. Τα ελεύθερα αγαθά αποτελούν αντικείµενο µελέτης της Οικονοµικής Επιστήµης.

Σ ή. : υαδικά. Ε ό. ή Ενότητα

Μετάδοση πληροφορίας - Διαμόρφωση

x 2 = x x 2 2. x 2 = u 2 + x 2 3 Χρησιµοποιώντας το συµβολισµό του ανάστροφου, αυτό γράφεται x 2 = x T x. = x T x.

Περίληψη Προηγούμενου Μαθήματος Κανάλια επικοινωνίας με θόρυβο και η χωρητικότητά τους

Μετάδοση πληροφορίας - Διαμόρφωση

ΣΗΜΕΙΩΣΕΙΣ ΜΑΘΗΜΑΤΙΚΗΣ ΑΝΑΛΥΣΗΣ Ι ( )

ΘΕΩΡΙΑ ΑΡΙΘΜΩΝ. Ασκησεις - Φυλλαδιο 4. ιδασκων: Α. Μπεληγιάννης Ιστοσελιδα Μαθηµατος :

Στροβιλισµός πεδίου δυνάµεων

Εργασία στο µάθηµα Ανάλυση εδοµένων

Ψηφιακές Τηλεπικοινωνίες. Θεωρία Ρυθμού Παραμόρφωσης

( y) ( x) ( 0) ( ) ( 0) ( y) ( ) ( ) ( ) Παραδείγµατα και εφαρµογές. 1)Έστω D απλά συνεκτικός τόπος στο R που φράσσεται από την ( κατά τµήµατα 1

Transcript:

ΕΕ728 Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη ηµήτρης-αλέξανδρος Τουµπακάρης Τµήµα ΗΜ&ΤΥ, Πανεπιστήµιο Πατρών 14 Μαΐου 2010 ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 1/ 41

Περιεχόµενα σηµερινού µαθήµατος 1 Το Κανάλι Πολλαπλής Πρόσβασης (Multiple Access Channel - MAC) 2 Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 2/ 41

Αντιστοιχία µε συγγράµµατα Cover & Thomas: 15.1.1 15.1.2, 15.3 (χωρίς την απόδειξη του Θεωρήµατος Κωδικοποίησης Καναλιού) Gallager: Το ϐιβλίο του Gallager δεν αναφέρεται σε κανάλια πολλών χρηστών. Tse & Viswanath, Fundamentals of Wireless Communication (δωρεάν πρόσβαση στην Ιστοσελίδα του David Tse): 6.1 (για το Γκαουσιανό MAC). El Gamal & Kim, Lecture Notes on Network Information Theory (δω- ϱεάν πρόσβαση στην ιστοσελίδα του Young-Han Kim): Κεφάλαιο 4. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 3/ 41

Το Κανάλι Πολλαπλής Πρόσβασης (Multiple Access Channel - MAC) 1 Το Κανάλι Πολλαπλής Πρόσβασης (Multiple Access Channel - MAC) 2 Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 4/ 41

Κανάλι Πολλαπλής Πρόσβασης (Multiple Access Channel) Πολλοί χρήστες που επιθυµούν να επικοινωνήσουν µε ένα κεντρικό σταθµό. Παράδειγµα: Κινητά τερµατικά προς σταθµό ϐάσης. Το κανάλι πολλών χρηστών που έχει κατανοηθεί καλύτερα. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 5/ 41

Κανάλι Πολλαπλής Πρόσβασης (MAC) (2) Εως τώρα, η παράµετρος που επηρέαζε την επικοινωνία ήταν ο ϑόρυβος. Στο MAC, επιπλέον του ϑορύβου, η επικοινωνία επηρεάζεται από παρεµβολές (interference). Πόση πληροφορία µπορούµε να µεταδώσουµε για κάθε χρήστη, και πώς σχετίζονται µεταξύ τους οι χωρητικότητες των χρηστών; ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 6/ 41

Κανάλι Πολλαπλής Πρόσβασης (MAC) Ορισµοί Για απλοποίηση, ϑα αναφερθούµε, κατ αρχάς, σε MAC 2 χρηστών. ιακριτό MAC χωρίς µνήµη: Αποτελείται από 3 αλφάβητα X 1, X 2 και Y και πίνακα πιθανοτήτων µετάβασης p(y x 1, x 2 ). Κώδικας ((2 nr1, 2 nr2 ), n) για το MAC: Αποτελείται από δύο σύνολα ακεραίων W 1 = {1, 2,..., 2 nr1 } και W 2 = {1, 2,..., 2 nr2 } (σύνολα µηνυµάτων message sets), δύο συναρτήσεις κωδικοποίησης (encoding functions): X 1 : W 1 X n 1 και X 2 : W 2 X n 2, και µια συνάρτηση αποκωδικοποίησης (decoding function) g : Y n W 1 W 2. Θεωρούµε τέλειο συγχρονισµό µεταξύ των χρηστών. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 7/ 41

Μετάδοση στο MAC Ο χρήστης 1 επιλέγει ένα από 2 nr1 µηνύµατα οµοιόµορφα και στέλνει την αντίστοιχη κωδική λέξη στο κανάλι. Οµοίως, ο χρήστης 2 επιλέγει ένα από 2 nr2 µηνύµατα ανεξάρτητα από το χρήστη 1 και εκπέµπει την αντίστοιχη κωδική λέξη. Μέση Πιθανότητα Σφάλµατος: P (n) 1 e = 2 n(r1+r2) Pr{g(Y n ) (w 1, w 2 ) εστάλη το (w 1, w 2 )} (w 1,w 2) W 1 W 2 Ενα Ϲεύγος ϱυθµών µετάδοσης (R 1, R 2 ) είναι εφικτό για το MAC εάν υπάρχει ακολουθία κωδίκων (2 nr1, 2 nr2, n) τέτοια ώστε P (n) e 0. Ορισµός Η περιοχή χωρητικότητας (capacity region) του MAC είναι το κλειστό σύνολο (closure) των εφικτών (R 1, R 2 ). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 8/ 41

Η περιοχή χωρητικότητας του MAC είναι κυρτή Εστω R 1 = (R 1,1, R 2,1 ) και R 2 = (R 1,2, R 2,2 ) δύο Ϲεύγη ϱυθµών µετάδοσης που ανήκουν στην περιοχή χωρητικότητας, C, του MAC. Μπορούµε να µεταδώσουµε µε οποιοδήποτε κυρτό συνδυασµό λr 1 + (1 λ)r 2, 0 λ 1, µεταδίδοντας µε R 1 100λ % του χρόνου και µε R 2 100(1 λ) % του χρόνου (timesharing). Εποµένως, η περιοχή χωρητικότητας του MAC (και κάθε καναλιού όπου µπορούµε να χρησιµοποιήσουµε timesharing) είναι κυρτή (convex). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 9/ 41

Περιοχή Χωρητικότητας MAC Θεώρηµα (Cover 15.3.1): Η χωρητικότητα του MAC (X 1 X 2, p(y x 1, x 2 ), Y) είναι το κλειστό σύνολο (closure) της κυρτής γάστρας (convex hull) όλων των (R 1, R 2 ) που ικανοποιούν τις σχέσεις Περιοχή ϱυθµών (rate region) MAC 2 χρηστών για δεδοµένη p(x 1 )p(x 2 ) R 1 < I(X 1 ; Y X 2 ), R 2 < I(X 2 ; Y X 1 ), R 1 + R 2 < I(X 1, X 2 ; Y ) για κάποια κατανοµή p 1 (x 1 )p 2 (x 2 ) στο σύνολο X 1 X 2. ε ϑα το αποδείξουµε στο µάθηµα. Σηµείωση: Η κατανοµή εισόδου είναι p 1 (x 1 )p 2 (x 2 ) γιατί ϑεωρούµε ότι οι χρήστες δεν µπορούν να συνεργαστούν. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 10/ 41

Παράδειγµα 11.1 - Ανεξάρτητα BSC X 1 Y X 2 Μπορούµε να στείλουµε µε R 1 = 1 H(p 1 ) από το 1ο κανάλι, και, ταυτόχρονα, µε ϱυθµό R 2 = 1 H(p 2 ) από το 2ο κανάλι. Τα δύο κανάλια είναι ανεξάρτητα δεν εµφανίζεται παρεµβολή. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 11/ 41

Παράδειγµα 11.1 - Ανεξάρτητα BSC Περιοχή Χωρητικότητας R 2 C 2 = -H p 2 C 1 = -H p 1 R 1 ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 12/ 41

Παράδειγµα 11.2 - υαδικό Πολλαπλασιαστικό Κανάλι Οι X 1 και X 2 παίρνουν τιµές στο σύνολο {0, 1} {0, 1}. Y = X 1 X 2. Οταν X 1 = 1, µπορούµε να στείλουµε R 2 = 1 bit/χρήση καναλιού µε οµοιόµορφη κατανοµή της X 2. R 1 = 0, δεδοµένου ότι η X 1 δεν αλλάζει. Οµοίως, όταν X 2 = 1, µπορούµε να στείλουµε R 1 = 1 bit/χρήση καναλιού µε οµοιόµορφη κατανοµή της X 1. R 2 = 0. Μπορούµε να πετύχουµε οποιοδήποτε Ϲεύγος (λ, 1 λ), 0 λ 1 µε διαµέριση στο χρόνο (timesharing). ηλαδή, ``παγώνουµε το X 2 για 100λ % του χρόνου και µεταδίδουµε µε οµοιόµορφα κατανεµηµένη X 1 (αντίστροφα για το υπόλοιπο 100(1 λ) %). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 13/ 41

Παράδειγµα 11.2 - υαδικό Πολλαπλασιαστικό Κανάλι Περιοχή Χωρητικότητας R 2 C 2 = C 1 = R 1 ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 14/ 41

Παράδειγµα 11.3 - υαδικό MAC ιαγραφής Οι X 1 και X 2 παίρνουν τιµές στο σύνολο {0, 1} {0, 1}. Y = X 1 + X 2. Εάν Y = 1 δε γνωρίζουµε εάν η είσοδος ήταν (X 1, X 2 ) = (1, 0) ή (0, 1). Εάν ϑέσουµε X 1 = 1, µπορούµε να µεταδώσουµε µε R 2 = 1 bit/χρήση καναλιού (µε οµοιόµορφη X 2 ). Εάν ϑέσουµε X 2 = 1, µπορούµε να µεταδώσουµε µε R 1 = 1 bit/χρήση καναλιού (µε οµοιόµορφη X 1 ). Μπορούµε να στείλουµε µε R 1 + R 2 > 1 bit/χρήση καναλιού; ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 15/ 41

Παράδειγµα 11.3 - υαδικό MAC ιαγραφής (2) Εστω ότι χρησιµοποιούµε οµοιόµορφη X 1. Εποµένως, R 1 = 1 bit/χρήση καναλιού. Από τη σκοπιά του χρήστη 2 το κανάλι είναι δυαδικό κανάλι διαγραφής µε πιθανότητα διαγραφής p = 1/2. 1 2 1 2 1 2 1 2 Εποµένως, µπορούµε να στείλουµε επιπλέον 1/2 bits του χρήστη 2! ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 16/ 41

Παράδειγµα 11.3 - υαδικό MAC ιαγραφής Περιοχή Χωρητικότητας R 2 C 2 = 1 2 1 2 C 1 = R 1 Μπορούµε, επίσης, να επιτύχουµε οποιοδήποτε Ϲεύγος (R 1, R 2 ) = (0.5 + λ, 1 λ), 0 λ 0.5 µε timesharing. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 17/ 41

Περιοχή επιτεύξιµων ϱυθµών µετάδοσης (Rate Region) R 2 I X 2 ;Y X 1 I X 2 ;Y I X 1 ;Y I X 1 ;Y X 2 R 1 Θεωρούµε δεδοµένη p(x 1 )p(x 2 ). Η περιοχή εφικτών ϱυθµών µετάδοσης (όχι η περιοχή χωρητικότητας) ϕαίνεται στο Σχήµα. Σηµείο Β: Η X 1 αποτελεί ϑόρυβο για τη µετάδοση της X 2. Ο µέγιστος ϱυθµός για τη µετάδοση της X 2 ισούται µε I(X 2 ; Y ). Στο δέκτη, ανιχνεύεται αρχικά η X 2. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 18/ 41

Περιοχή επιτεύξιµων ϱυθµών µετάδοσης (Rate Region) (2) R 2 I X 2 ;Y X 1 I X 2 ;Y I X 1 ;Y I X 1 ;Y X 2 R 1 εδοµένης, τώρα, της τιµής x 2 της X 2, ο δέκτης προχωρά στην αποκωδικοποίηση της X 1. Ο R 1 ισούται µε x 2 p(x 2 )I(X 1 ; Y X 2 = x 2 ) = I(X 1 ; Y X 2 ). Προφανώς, µπορούµε να επιτύχουµε και οποιαδήποτε άλλη τιµή R 2 < I(X 1 ; Y X 2 ). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 19/ 41

Περιοχή επιτεύξιµων ϱυθµών µετάδοσης (Rate Region) (3) R 2 I X 2 ;Y X 1 I X 2 ;Y I X 1 ;Y I X 1 ;Y X 2 R 1 Σηµεία C και D: Αντίστοιχα µε τα Α και Β, αλλά µε τους ϱόλους των X 1 και X 2 ανεστραµµένους. Επιπλέον του ϱυθµού µετάδοσης αλλάζει και η σειρά αποκωδικοποίησης στο δέκτη. ηλαδή, για το σηµείο Β αποκωδικοποιείται πρώτα η X 2, ενώ για το σηµείο C αποκωδικοποιείται πρώτα η X 1. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 20/ 41

ιαδοχική Αποκωδικοποίηση (Successive Decoding) στο MAC Η ιδέα της διαδοχικής αποκωδικοποίησης (successive decoding ή successive interference cancellation -- SIC) είναι κεντρική στο MAC (καθώς και στο degraded Broadcast Channel, όπως ϑα δούµε στη συνέχεια). Π.χ. για το σηµείο Β. Αποκωδικοποιούµε τη X 2 ϑεωρώντας τη X 1 ως ϑόρυβο. Ανάλογα µε την τιµή της X 2, από τη σκοπιά της X 1 ϐλέπουµε X 2 διαφορετικά κανάλια. Αφού ϐρούµε την τιµή της X 2 επιλέγουµε το (ένα από τα X 2 ) κανάλι που ``βλέπει η X 1 και αποκωδικοποιούµε µε ϐάση αυτό το συγκεκριµένο κανάλι. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 21/ 41

ιαδοχική Αποκωδικοποίηση (Successive Decoding) στο MAC (2) Αντίστροφα, για το σηµείο C, αποκωδικοποείται πρώτα η X 1 και η X 2 αποκωδικοποιείται µε ϐάση ένα από X 1 διαφορετικά κανάλια. Στο, η επιλογή καναλιού γίνεται µε αφαίρεση, όπως ϑα δούµε στη συνέχεια. Το τµήµα µεταξύ των Β και C επιτυγχάνεται µε timesharing. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 22/ 41

Περιοχή επιτεύξιµων ϱυθµών µετάδοσης (Rate Region) (4) R 2 I X 2 ;Y X 1 I X 2 ;Y I X 1 ;Y I X 1 ;Y X 2 R 1 Το ευθύγραµµο τµήµα BC έχει κλίση 45 o. (Αποδείξτε το ως άσκηση) Αποδεικνύεται, επίσης (δείτε π.χ. Σηµειώσεις El Gamal & Kim) ότι µπορούµε να επιτύχουµε οποιοδήποτε σηµείο της περιοχής επιτεύξιµων ϱυθµών µετάδοσης χωρίς να απαιτείται timesharing εφαρ- µόζοντας από κοινού αποκωδικοποίηση των X 1 και X 2 στο δέκτη (αντί για SIC). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 23/ 41

Γενική Μορφή Περιοχής Χωρητικότητας MAC Για να ϐρούµε την περιοχή χωρητικότητας του MAC πρέπει να πάρουµε το κλειστό σύνολο (closure) της ένωσης όλων των πε- ϱιοχών επιτεύξιµων ϱυθµών (για όλες τις p(x 1 )p(x 2 )). Για παράδειγµα, για να µεγιστοποιήσουµε τον R 1, ενδέχεται να πρέπει να ``παγώσουµε τη X 2 σε µια τιµή x 2 για την οποία µεγιστοποιείται η I(X 1 ; Y X 2 = x 2 ) : max R 1 = max p1(x 1)p 2(x 2) I(X 1 ; Y X 2 ) = max p1(x 1)p 2(x 2) x 2 p 2 (x 2 )I(X 1 ; Y X 2 = x 2 ) max p1(x 1) {max x2 I(X 1 ; Y X 2 = x 2 )}. Αν δεν υπάρχει κατανοµή p 2 (x 2 ) µε περισσότερες από µία µη µηδενικές µάζες η οποία µεγιστοποιεί τον R 1, τα σηµεία Α και Β ταυτίζονται. Στο Παράδειγµα 11.2, για να µεγιστοποιήσουµε τον R 1 πρέπει να ``παγώσουµε τη X 2 στο 1 (και αντιστρόφως). Εποµένως, το πεντάγωνο εκφυλίζεται σε τρίγωνο. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 24/ 41

Γενική Μορφή Περιοχής Χωρητικότητας MAC (2) Ωστόσο, ενδέχεται να υπάρχει κατανοµή p 2 (x 2 ) µε µη µηδενική εντροπία για την οποία ισχύει ότι max p1(x 1)p 2(x 2) x 2 p 2 (x 2 )I(X 1 ; Y X 2 = x 2 ) = max p1(x 1) {max x2 I(X 1 ; Y X 2 = x 2 )}. Στο Παράδειγµα 11.3, µπορούµε να επιτύχουµε το µέγιστο ϱυθµό R 1 = 1 και, ταυτόχρονα, R 2 = 0.5 bit (µε οµοιόµορφη κατανοµή p 2 ). Παρατηρήστε ότι, ακόµα και αν είχαµε ``παγώσει τη X 2 σε µία σταθερή τιµή, δε ϑα µπορούσαµε να µεταδώσουµε µε R 1 > 1. Παρόλο που στο Παράδειγµα 11.3 η περιοχή επιτεύξιµων ϱυθµών για οµοιόµορφες p 1 και p 2 ταυτίζεται µε την περιοχή χωρητικότητας, στη γενική περίπτωση η χωρητικότητα είναι ένα κυρτό σύνολο που προέρχεται από την ένωση πενταγώνων (ή εκφυλισµένων πενταγώνων). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 25/ 41

Γενική Μορφή Περιοχής Χωρητικότητας MAC (3) Οπως ϑα δούµε, µία πολύ σηµαντική ειδική περίπτωση όπου όλα τα σηµεία στο όριο της περιοχής χωρητικότητας επιτυγχάνονται από µία µόνο κατανοµη p 1 (x 1 )p 2 (x 2 ) είναι το. Γενικά, αποδεικνύεται ότι αρκεί timesharing µεταξύ 2 το πολύ κατανοµών p 1 (x 1 )p 2 (x 2 ) για να επιτευχθεί οποιοδήποτε σηµείο της περιοχής χωρητικότητας του MAC 2 χρηστών. Για λεπτοµέρειες, δείτε Σηµειώσεις El Gamal & Kim. Αποδεικνύεται, επίσης, ότι οποιοδήποτε σηµείο της περιοχής χω- ϱητικότητας, C, µπορεί να επιτευχθεί χωρίς timesharing µε χρήση coded time sharing (για λεπτοµέρειες, δείτε Σηµειώσεις El Gamal & Kim). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 26/ 41

ιευκρίνιση: 2 είδη timesharing 1 Timesharing µεταξύ ϐιβλίων κωδίκων για δεδοµένη p 1 (x 1 )p 2 (x 2 ) (και, εποµένως, δεδοµένη rate region). Για κάθε ένα από τα δύο σηµεία χρησιµοποιούµε SIC στο δέκτη. Η σειρά SIC αλλάζει όταν αλλάζουµε σηµείο. Μπορούµε να µην κάνουµε timesharing αν χρησιµοποιήσουµε από κοινού (ταυτόχρονη) αποκωδικοποίηση των X 1 και X 2 στο δέκτη. 2 Timesharing µεταξύ Q = 2 διαφορετικών κατανοµών p 1 (x 1 )p 2 (x 2 ) προκειµένου να επιτύχουµε οποιοδήποτε σηµείο της περιοχής χω- ϱητικότητας. Μπορούµε να µην κάνουµε timesharing αν χρησιµοποιήσουµε coded timesharing (δε ϑα επεκταθούµε σε αυτό το µάθηµα). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 27/ 41

Γενίκευση MAC για m χρήστες X 1 X 2 p y x 1 x 2 x m Y X m Θεώρηµα (Cover 15.3.6): Η περιοχή χωρητικότητας του MAC m χρηστών είναι το κλειστό σύνολο (closure) της κυρτής γάστρας (hull) των διανυσµάτων R = (R 1, R 2,..., R m ) που ικανοποιούν τις σχέσεις R(S) I(X(S); Y X(S c )) για όλα τα σύνολα S {1, 2,..., m}, όπου S c το συµπλήρωµα του S και για όλες τις κατανοµές εισόδου (µε ανεξάρτητα X i ). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 28/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 1 Το Κανάλι Πολλαπλής Πρόσβασης (Multiple Access Channel - MAC) 2 Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 29/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 2 χρηστών W 1 n X 1 P 1 Z n Y n W 1,W 2 W 2 n X 2 P 2 Τη χρονική στιγµή i, ο δέκτης λαµβάνει σήµα Y i = X 1i + X 2i + Z i, όπου ο ϑόρυβος Z είναι i.i.d N (0, N). Επίσης, ο κάθε ποµπός i έχει περιορισµό ισχύος P i. Οι X 1 και X 2 είναι ανεξάρτητες. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 30/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 2 χρηστών (2) Για την I(X 1 ; Y X 2 ) µπορούµε να γράψουµε I(X 1 ; Y X 2 ) = h(y X 2 ) h(y X 1, X 2 ) (a) γιατί; = h(x 1 + X 2 + Z X 2 ) h(x 1 + X 2 + Z X 1, X 2 ) = h(x 1 + Z X 2 ) h(z X 1, X 2 ) = h(x 1 + Z) h(z) = h(x 1 + Z) 1 2 log(2πe)n (a) 1 2 log(2πe)(p 1 + N) 1 2 log(2πe)n = 1 ( 2 log 1 + P ) 1. N ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 31/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 2 χρηστών (3) Οµοίως, I(X 2 ; Y X 1 ) ( ) 1 2 log 1 + P2 N. Η X 1 και η X 2 πρέπει να ακολουθούν γκαουσιανή κατανοµή (N (0, P 1 ) και N (0, P 2 ), αντίστοιχα). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 32/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 2 χρηστών Περιοχή Χωρητικότητας Ορίζουµε τη χωρητικότητα του καναλιού AWGN µε λόγο σήµατος προς ϑόρυβο x ως C(x) 1 log(1 + x). 2 Η περιοχή χωρητικότητας του γκαουσιανού MAC 2 χρηστών δίνεται από τις σχέσεις Χωρητικότητα γκαουσιανού MAC 2 χρηστών R 1 C ( P1 N ), R 2 C ( P2 N ) και R 1 + R 2 C ( ) P1 + P 2 N και επιτυγχάνεται µε X 1 N (0, P 1 ) και X 2 N (0, P 2 ). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 33/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 2 χρηστών Περιοχή Χωρητικότητας (2) C R 2 P 2 N C P 2 P 1 +N C P 1 P 2 +N C P 1 N R 1 ( P Μπορούµε να επιτύχουµε ϱυθµό µετάδοσης έως και C 1+P 2 ) N, σα να είχαµε, δηλαδή, έναν ποµπό που εκπέµπει µε ισχύ P 1 + P 2. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 34/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 2 χρηστών Σχόλια Θεωρούµε το σηµείο Β. Ο δέκτης αποκωδικοποιεί πρώτα την πλη- ϱοφορία του ποµπού ( 2, ϑεωρώντας ) τη µετάδοση του ποµπού 1 ως ϑόρυβο: R 2 = C. P 2 P 1+N Στη συνέχεια, ο δέκτης αφαιρεί από το σήµα Y το αποκωδικοποιη- µένο σήµα X 2. Εποµένως, το µόνο άγνωστο σήµα που αποµένει είναι ο ϑόρυβος, και R 1 = C ( P 1 N ). Για το σηµείο C εφαρµόζεται η αντίθετη διαδικασία. ηλαδή, αποκωδικοποίηση του X 1 ϑεωρώντας ότι το X 2 είναι ϑόρυβος, αφαίρεση του X 1 από το Y και αποκωδικοποίηση του X 2 παρουσία µόνο του ϑορύβου. Η διαδικασία αυτή ονοµάζεται διαδοχική αποκωδικοποίηση (successive decoding), διαδοχική απαλοιφή παρεµβολών (successive interference cancellation -- SIC) ή onion peeling. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 35/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA 2 χρηστών Σχόλια (2) Οπως αναφέρθηκε και προηγουµένως, στην ειδική περίπτωση Γκαουσιανού MAC, µια κατανοµή είσόδου (το γινόµενο δύο Γκαουσιανών) αρκεί για να επιτύχουµε οποιοδήποτε σηµείο της περιοχής χωρητικότητας. Ωστόσο, ανάλογα µε το σηµείο, αλλάζουν οι κωδικές λέξεις που πρέπει να στείλουµε. Για παράδειγµα, ένας τρόπος για να µεταδώσουµε µε max(r, R) (στη µέση της ευθείας BC) είναι να µεταδίδουµε το 50% του χρόνου µε ϐιβλίο κωδίκων που επιτυγχάνει το σηµείο Β και το άλλο 50% µε ϐιβλίο κωδίκων που επιτυγχάνει το σηµείο C. Εποµένως, µπορούµε να χρησιµοποιήσουµε καλούς κώδικες που έχουν σχεδιαστεί για το κανάλι AWGN ενός χρήστη και στο Γκαουσιανό MAC. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 36/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA Σύγκριση µε CDMA uplink Uplink: Μετάδοση πληροφορίας από χρήστες σε σταθµό ϐάσης. Εµπίπτει στο µοντέλο του MAC (παρόλο που, στη γενική περίπτωση, είναι MAC µε διαλείψεις (fading)). Στα συµβατικά συστήµατα CDMA ο κάθε χρήστης αποκωδικοποιείται ϑεω- ϱώντας την επικοινωνία των άλλων χρηστών ως παρεµβολή (σηµείο Ε). Με χρήση SIC αυξάνεται ο συνολικός ϱυθµός µετάδοσης και το πρόβληµα near-far παύει να υφίσταται. C R 2 P 2 N C P 2 P 1 +N C P 1 P 2 +N C P 1 N R 1 ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 37/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA Σύγκριση µε FDMA uplink Εστω ότι οι δύο χρήστες µοιράζονται το ϕάσµα. Ο χρήστης 1 χρησι- µοποιεί W 1 Hz, ενώ ο χρήστης 2 χρησιµοποιεί W 2 Hz. Το συνολικό ϕάσµα ισούται µε W 1 + W 2 = W Hz. Ο κάθε χρήστης εκπέµπει µόνος του στο κανάλι AWGN που του αναλογεί. Εποµένως, ( R 1 = W 1 log 1 + P ) 1 R 2 = W 2 log ( NW 1 ) ( = (W W 1 ) log 1 + 1 + P 2 NW 2 ) P 2 N(W W 1 ) ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 38/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA Σύγκριση µε FDMA uplink (2) C R 2 P 2 N C P 2 P 1 +N C P 1 P 2 +N C P 1 N R 1 Η καµπύλη εφάπτεται µε το όριο της περιοχής χωρητικότητας σε ένα µόνο σηµείο στο οποίο ισχύει P 1 /W 1 = P 2 /W 2. Εποµένως, στη γενική περίπτωση, η χρήση FDMA στο MAC είναι υποβέλτιστη (suboptimal). ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 39/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA Σύγκριση µε TDMA uplink Ο χρήστης 1 µεταδίδει για α100 % του συνολικού χρόνου. Η µέση ισχύς του κατά τη διάρκεια µετάδοσης είναι P 1 /α (έτσι ώστε η συνολική του ενέργεια στη µονάδα του χρόνου να ισούται µε P 1 ). Ο χρήστης 2 µεταδίδει για (1 α)100 % του συνολικού χρόνου. Η µέση ισχύς του κατά τη διάρκεια µετάδοσης είναι P 2 /(1 α). Εποµένως, ( R 1 = αw log 1 + P ) 1 NαW ( ) P 2 R 2 = (1 α)w log 1 + N(1 α)w Η ίδια περιοχή, όπως και στην περίπτωση FDMA. ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 40/ 41

Μοντέλο και περιοχή χωρητικότητας Σύγκριση µε CDMA, TDMA και FDMA MAC: Σχόλια FDMA/TDMA υποβέλτιστες, εκτός εάν P i /W i = c για όλους τους χρήστες i. CDMA υποβέλτιστη, εκτός εάν ο δέκτης χρησιµοποιεί SIC (onion peeling). ( ) i R i i C Pi. Εποµένως, για κάθε επιπρόσθετο χρήστη που N εµφανίζεται στο κανάλι η συνολική χωρητικότητα αυξάνει! Ωστόσο, λόγω της λογαριθµικής ( ) σχέσης µεταξύ P και C, η χωρητικότητα ανά χρήστη 1 m C i Pi 0 για αριθµό χρηστών m. N ηµήτρης-αλέξανδρος Τουµπακάρης Προχωρηµένα Θέµατα Θεωρίας Πληροφορίας 11η διάλεξη 41/ 41