ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ

Transcript

1 ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ ΕΡΓΑΣΤΗΡΙΟ ΗΛΕΚΤΡΟΝΙΚΩΝ ΕΦΑΡΜΟΓΩΝ ΥΛΟΠΟΙΗΣΗ (ΣΕ ΛΟΓΙΣΜΙΚΟ) ΚΩ ΙΚΑ ΤΥΠΟΥ TURBO ΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ ΤΗΣ ΚΟΥΤΡΟΥΜΑΝΗ ΟΛΓΑΣ του ΑΘΑΝΑΣΙΟΥ ΦΟΙΤΗΤΡΙΑΣ ΤΟΥ ΤΜΗΜΑΤΟΣ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ ΕΠΙΒΛΕΠΩΝ ΚΑΘΗΓΗΤΗΣ : ΜΠΙΡΜΠΑΣ ΑΛΕΞΙΟΣ ΑΡΙΘΜΟΣ ΙΠΛΩΜΑΤΙΚΗΣ ΕΡΓΑΣΙΑΣ:../28 Σεπτέµβριος 28

2 2 ΠΙΣΤΟΠΟΙΗΣΗ Πιστοποιείται ότι η διπλωµατική εργασία µε θέµα ΥΛΟΠΟΙΗΣΗ (ΣΕ ΛΟΓΙΣΜΙΚΟ) ΚΩ ΙΚΑ ΤΥΠΟΥ TURBO της φοιτήτριας του Τµήµατος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών ΚΟΥΤΡΟΥΜΑΝΗ ΟΛΓΑΣ του ΑΘΑΝΑΣΙΟΥ (Α.Μ. 5362) Παρουσιάστηκε δηµόσια και εξετάστηκε στο τµήµα Ηλεκτρολόγων µηχανικών και Τεχνολογίας Υπολογιστών στις από την εξεταστική επιτροπή: Επιβλέπων: κ. Μπίρµπας Αλέξιος Συνεξεταστής: κ. Παλιουράς Βασίλειος Ο Επιβλέπων Καθηγητής Ο ιευθυντής του Τοµέα Καθηγητής Α. ΜΠΙΡΜΠΑΣ Κ. ΓΚΟΥΤΗΣ

3 3 Αριθµός ιπλωµατικής Εργασίας: Τίτλος: Υλοποίηση (σε λογισµικό) κώδικα τύπου TURBO Φοιτήτρια: Κουτρουµάνη Όλγα Επιβλέπων: Αλέξιος Μπίρµπας ΠΕΡΙΛΗΨΗ Αξιοσηµείωτη επίδραση στην εξέλιξη και ανάπτυξη των επικοινωνιακών συστηµάτων έχει παρουσιάσει το όριο χωρητικότητας διαύλου, το οποίο εισήγαγε ο Claude Shannon. Σήµερα γνωρίζουµε αρκετούς κώδικες διόρθωσης σφαλµάτων οι οποίοι προσεγγίζουν αρκετά τη µέγιστη χωρητικότητα του διαύλου. Ανάµεσα σε αυτούς, εξέχουσα θέση κατέχουν οι Turbo και οι LDPC κώδικες, οι οποίοι ανήκουν στην κατηγορία των κωδίκων τύπου-turbo. Στην παρούσα διπλωµατική εργασία γίνεται ανάλυση της λειτουργίας και της επίδοσης των LDPC κωδίκων σε AWGN δίαυλο. Συγκεκριµένα, υπολογίζεται ο ρυθµός σφάλµατος ψηφίου (BER) ενός σήµατος που µεταδίδεται διαµέσου ενός AWGN διαύλου και τα αποτελέσµατα που προκύπτουν συγκρίνονται µε τα αντίστοιχα ενός σήµατος που δεν έχει υποστεί κωδικοποίηση. Επίσης, µελετάται η απόδοση του κώδικα για διάφορες τιµές επαναλήψεων του αλγορίθµου αποκωδικοποίησης. ABSTRACT The channel capacity limit, which was determined by Claude Shannon, has caused a great impact on the evolution of communication systems. We know of error correction codes that closely approach this limit. Turbo codes and LDPC codes, which are a class of Turbo-like codes, are of great significance. The present thesis analyses the performance of LDPC codes in an AWGN channel. Particularly, it studies the bit error rate (BER) of a signal which is conveyed through an AWGN channel and compares the results with the ones of the corresponding uncoded signal. Furthermore, the thesis studies the performance of the code for a number of iterations of the decoding algorithm.

4 ΠΕΡΙΕΧΟΜΕΝΑ ΠΕΡΙΕΧΟΜΕΝΑ... ΠΡΟΛΟΓΟΣ... 2 ΚΕΦΑΛΑΙΟ... 3 Εισαγωγή Βασικά µέρη ενός τηλεπικοινωνιακού συστήµατος Γενικά Βασική δοµή ενός τηλεπικοινωνιακού συστήµατος ίαυλος επικοινωνίας....4 Κανάλι Προσθετικού Λευκού Γκαουσσιανού Θορύβου (Additive White Gaussian Noise channel, AWGN) Λόγος σήµατος προς θόρυβο (Signal to Noise ratio, SNR) Το όριο του Shannon... 6 ΚΕΦΑΛΑΙΟ Κωδικοποίηση και βασικές έννοιες Τι είναι «κωδικοποίηση» Κωδικοποίηση για έλεγχο σφαλµάτων Τεχνικές για έλεγχο σφαλµάτων Κώδικες δοµής (Block Codes) Συστηµατικοί κώδικες δοµής (Systematic block codes) Πίνακας ελέγχου ισοτιµίας Απόσταση και Βάρος Hamming ΚΕΦΑΛΑΙΟ Κώδικες Χαµηλής-Πυκνότητας-Ελέγχου-Ισοτιµίας (Low-Density-Parity-Check codes, LDPC) Ιστορική αναδροµή Κώδικες Χαµηλής Πυκνότητας Ελέγχου Ισοτιµίας (LDPC Codes) Τρόποι αναπαράστασης των LDPC κωδίκων Αναπαράσταση µε πίνακα Γραφική αναπαράσταση Οµαλοί (Regular) και Ανώµαλοι (Irregular) LDPC κώδικες Το πρόβληµα της κωδικοποίησης Άλλες µέθοδοι εύρεσης των πινάκων L και U Επαναληπτικοί αλγόριθµοι κωδικοποίησης (Iterative decoding algorithms) ΑΠΟΤΕΛΕΣΜΑΤΑ ΕΞΟΜΟΙΩΣΕΩΝ-ΣΥΜΠΕΡΑΣΜΑΤΑ ΒΙΒΛΙΟΓΡΑΦΙΑ ΠΑΡΑΡΤΗΜΑ... 63

5 ΠΡΟΛΟΓΟΣ Για την πραγµατοποίηση και σύνταξη της παρούσας διπλωµατικής εργασίας, χρησιµοποιήθηκε το κατάλληλο υλικό που συνελέγη από την έντυπη και ηλεκτρονική βιβλιογραφία που αφορά το αντικείµενο της µελέτης και αναφέρεται στο τέλος της εργασίας. Επίσης, για τη δηµιουργία του κώδικα και κατά συνέπεια των γραφηµάτων που συνέβαλαν στην εξαγωγή των συµπερασµάτων, χρησιµοποιήθηκε το πρόγραµµα MATLAB. 2

6 ΚΕΦΑΛΑΙΟ Εισαγωγή Βασικά µέρη ενός τηλεπικοινωνιακού συστήµατος. Γενικά Τα τεχνολογικά επιτεύγµατα του 2 ου αιώνα συνέβαλαν σηµαντικά στη βελτίωση της ποιότητας ζωής του ανθρώπου καθώς διευκόλυναν την εξυπηρέτηση των καθηµερινών αναγκών του. Ένας από τους σηµαντικότερους παράγοντες της καθηµερινότητας είναι οι κάθε µορφής επικοινωνίες, οι οποίες έχουν παρουσιάσει εξαιρετική πρόοδο τις τελευταίες δεκαετίες. Έτσι λοιπόν, καθηµερινά κάνουν την εµφάνισή τους ολοένα και νεότερες υπηρεσίες όσον αφορά τις επικοινωνίες, ενώ παράλληλα οι απαιτήσεις για γρήγορη, αδιάλειπτη και αξιόπιστη µετάδοση πληροφορίας σε πραγµατικό χρόνο συνεχίζουν να αυξάνονται. Αυτή η θεαµατική και εξελισσόµενη πρόοδος στον τοµέα των επικοινωνιών οφείλεται σε µεγάλο βαθµό στη συστηµατική πρόοδο που παρουσιάζεται σχετικά µε την απόδοση αλλά και στο χαµηλό κόστος των συσκευών και κυκλωµάτων γενικά που χρησιµοποιούνται. Αυτή η πρόοδος προκύπτει επίσης και από τις εξελίξεις που λαµβάνουν χώρα σε θεωρητικό 3

7 επίπεδο. Ακρογωνιαίος λίθος των σύγχρονων τηλεπικοινωνιακών υποδοµών θεωρείται η συνεργία (συγχρονισµός) µεταξύ των διάφορων στοιχείων από τα οποία αποτελείται ένα τηλεπικοινωνιακό σύστηµα και των τεχνικών επεξεργασίας σηµάτων. Η ανακάλυψη του τρανζίστορ κατέστησε πιο εύκολη την επεξεργασία της πληροφορίας, καθώς µε τα Πολύ Μεγάλης Κλίµακας Ολοκληρωµένα (Very Large Scale Integrated, VLSI ) κυκλώµατα η επεξεργασία των σηµάτων γίνεται σχεδόν αποκλειστικά µε ψηφιακό τρόπο. Στα ψηφιακά συστήµατα, η πληροφορία κωδικοποιείται σε ακολουθίες από και, που αντιστοιχούν στις δύο δυνατές καταστάσεις των τρανζίστορ, on - off, τα οποία λειτουργούν ως διακόπτες. Το πλεονέκτηµα αυτό έχει επιφέρει σηµαντικές αλλαγές στον τρόπο επεξεργασίας της πληροφορίας. Η πληροφορία στη φύση παρουσιάζεται αποκλειστικά σε αναλογική µορφή, καθώς ο άνθρωπος µόνο αναλογικά σήµατα µπορεί να αντιληφθεί. Έτσι λοιπόν, τα αναλογικά δεδοµένα πρέπει να ψηφιοποιηθούν, να µετατραπούν δηλαδή σε ακολουθίες από και, ώστε ο δέκτης να µην είναι υποχρεωµένος να κάνει µία εκτίµηση των άπειρων τιµών ενός αναλογικού σήµατος, αλλά απλά να πάρει µία απόφαση µεταξύ των δύο διακριτών τιµών για κάθε σήµα, ή. Η διαδικασία αυτή καθιστά τα ψηφιακά σήµατα πιο αξιόπιστα για τη µετάδοση πληροφορίας σε ένα ενθόρυβο περιβάλλον, καθώς µπορούν να ανιχνεύονται σχεδόν τέλεια, όταν το επίπεδο του θορύβου δεν είναι ιδιαίτερα υψηλό, πράγµα που επιτρέπει την ανάκτηση των ψηφιακών στοιχείων και µέσω των τεχνικών διόρθωσης λαθών είναι δυνατή η διόρθωση σφαλµάτων που συµβαίνουν κατά τη µετάδοση. Η ψηφιακή πληροφορία µπορεί να κωδικοποιηθεί µε τέτοιο τρόπο ώστε να εισάγονται σε αυτήν επιπρόσθετα δυαδικά ψηφία που δε µεταφέρουν πληροφορία και ονοµάζονται πλεονασµός (redundancy). Τα επιπρόσθετα ψηφία επιτρέπουν στον δέκτη να αναγνωρίσει τα σφάλµατα που τυχόν προέκυψαν κατά τη µετάδοση. Η τεχνική αυτή ονοµάζεται Κωδικοποίηση Ελέγχου Σφάλµατος (Error Control Coding). Ένα ακόµα πλεονέκτηµα της ψηφιακής επεξεργασίας της πληροφορίας είναι ο ευκολότερος σχεδιασµός των αλγορίθµων που απαιτούνται σε σχέση 4

8 µε τους αλγόριθµους επεξεργασίας αναλογικών σηµάτων. Συνδυάζοντας λοιπόν τα παραπάνω, µπορούµε να πούµε ότι το χαµηλό κόστος των VLSI και η εύκολη εφαρµογή των αλγορίθµων ψηφιακής επεξεργασίας σήµατος σε αυτά, αλλά και η πληθώρα των τεχνικών ελέγχου και διόρθωσης σφάλµατος, έχουν οδηγήσει σε πολλές πρακτικές εφαρµογές του ελέγχου λάθους. Αξιοσηµείωτη επίδραση στην εξέλιξη και ανάπτυξη των επικοινωνιακών συστηµάτων έχει παρουσιάσει η επιστήµη της «Θεωρίας της Πληροφορίας» της οποίας τα θεµέλια τοποθέτησε ο Claude Shannon µε ένα άρθρο που δηµοσίευσε το 948. Η θεωρία του C. Shannon αποδεικνύει ότι υπάρχει κατάλληλος κώδικας διόρθωσης λαθών για αξιόπιστη µετάδοση της πληροφορίας µέσω ενός ενθόρυβου καναλιού, αρκεί ο ρυθµός µετάδοσης δεδοµένων, r b, να είναι µικρότερος από τη µέγιστη χωρητικότητα του διαύλου, C. Αντίστροφα, δεν είναι δυνατή η ανάπτυξη κώδικα, τέτοιου ώστε να καθιστά δυνατή τη µετάδοση πληροφορίας µε οσοδήποτε µικρή πιθανότητα λάθους, για ρυθµό µετάδοσης µεγαλύτερο από τη χωρητικότητα καναλιού. Η θεωρία του Shannon έδωσε το έναυσµα για την αναζήτηση τεχνικών κωδικοποίησης, δηλαδή κωδίκων διόρθωσης σφαλµάτων (Error Correction Codes), που να προσεγγίζουν τη µέγιστη χωρητικότητα του διαύλου. Μια πρώτη προσπάθεια προσέγγισης του θεωρητικού ορίου του Shannon έγινε στις αρχές της δεκαετίας του 6 και συγκεκριµένα το 963, από τον R. G. Gallager, ο οποίος παρουσίασε τους κώδικες Χαµηλής Πυκνότητας Ελέγχου Ισοτιµίας (Low Density Parity Check Codes, LDPC codes). Η κατηγορία αυτή κωδίκων βασίστηκε σε έναν αλγόριθµο κωδικοποίησης του οποίου η πολυπλοκότητα ήταν ανώτερη των δυνατοτήτων των υπολογιστικών µηχανών της εποχής εκείνης και για το λόγο αυτό τέθηκαν στο περιθώριο µέχρι τις αρχές της δεκαετίας του 9. Τότε έκαναν την εµφάνισή τους ο πρώτοι κώδικες των οποίων η απόδοση άγγιζε το όριο του Shannon. Συγκεκριµένα, το 993 οι Claude Berrou, Alain Glavieux και Punja Thitimajshima πρότειναν τους Turbo κώδικες (Turbo codes) των οποίων η απόδοση για µετάδοση σε δίαυλο Προσθετικού Λευκού Γκαουσσιανού Θορύβου (Additive White Gaussian Noise channel, AWGN channel), έχει απόσταση µικρότερη του db από το θεωρητικό όριο του Shannon. Το 996 5

9 οι LDPC κώδικες επανήλθαν στο προσκήνιο από τους MacKay και Neal, καθώς η ύπαρξη ισχυρότερων επεξεργαστών καθιστούσε δυνατή τη µελέτη της απόδοσης των κωδίκων αυτών µε εξοµοιώσεις. Η καινοτοµία των Turbo και LDPC κωδίκων συνίσταται στην επαναληπτική κωδικοποίηση και στη ύπαρξη των interleavers. Οι επαναληπτικοί κώδικες χρησιµοποιούν κωδικοποιητές οι οποίοι διαχωρίζονται από interleavers, οι οποίοι αποτελούν διατάξεις που εισάγουν τα δυαδικά ψηφία της πληροφορίας από τον ένα κωδικοποιητή στον επόµενο µε αναδιάταξη. Έτσι λοιπόν, ο interleaver εισάγει τυχαιότητα αρκετή για την επίτευξη αξιόπιστης επικοινωνίας µε ρυθµούς µετάδοσης οι οποίοι πλησιάζουν τη χωρητικότητα του καναλιού, ενώ διαθέτει αρκετή δοµή που επιτρέπει την ενσωµάτωση πρακτικών αλγόριθµων κωδικοποίησης και αποκωδικοποίησης. Η ανακάλυψη των Turbo κωδίκων έκανε την επανάσταση στον τοµέα των κωδίκων διόρθωσης λαθών (error correction codes). Εκτός από το ότι οδήγησε στην επανεµφάνιση των LDPC κωδίκων, πυροδότησε το ενδιαφέρον γύρω από τα µοντέλα γραφικής αναπαράστασης των κωδίκων και µε βάση τη γνώση αυτή προτάθηκαν διάφορα αποτελεσµατικά σχήµατα κωδικοποίησης. Σήµερα γνωρίζουµε αρκετούς πρακτικούς κώδικες και αλγόριθµους αποκωδικοποίησης οι οποίοι πλησιάζουν αρκετά τη χωρητικότητα µερικών κλασσικών χωρίς µνήµη διαύλων επικοινωνίας. Ανάµεσα σε αυτούς τους κώδικες εξέχουσα θέση κατέχουν οι Turbo και οι LDPC κώδικες. 6

10 .2 Βασική δοµή ενός τηλεπικοινωνιακού συστήµατος Στο σχήµα που ακολουθεί παρουσιάζεται το τυπικό µοντέλο ενός επικοινωνιακού συστήµατος. Πηγή πληροφορίας Κωδικοποιητής πηγής Κωδικοποιητής διαύλου ιαµορφωτής Θόρυβος ίαυλος Παραλήπτης πληροφορίας Αποκωδικοποιητής πηγής Αποκωδικοποιητής διαύλου Αποδιαµορφωτής Σχήµα. : Τυπικό µοντέλο επικοινωνιακού συστήµατος Όπως φαίνεται και στο παραπάνω σχήµα ένα τυπικό τηλεπικοινωνιακό σύστηµα αποτελείται από τα εξής µέρη: Την πηγή πληροφορίας Τον κωδικοποιητή πηγής Τον κωδικοποιητή διαύλου Τον διαµορφωτή Τον δίαυλο 7

11 Τον αποδιαµορφωτή Τον αποκωδικοποιητή διαύλου Τον αποκωδικοποιητή πηγής Τον παραλήπτη πληροφορίας Η πηγή πληροφορίας (information source) παράγει τα µηνύµατα που περιέχουν την προς µετάδοση πληροφορία. Τα µηνύµατα αυτά µπορεί να είναι λέξεις, σύµβολα κλπ. Η έξοδος της πηγής πληροφορίας µετατρέπεται σε µια σειρά από σύµβολα ενός συγκεκριµένου αλφάβητου. Τα πιο συχνά µεταδιδόµενα σύµβολα είναι τα δυαδικά. Η έξοδος της πηγής πληροφορίας γενικά, δεν είναι κατάλληλη για µετάδοση καθώς ενδέχεται να περιέχει πολύ πλεονασµό (redundancy). Για λόγους απόδοσης, χρησιµοποιείται ο κωδικοποιητής πηγής (source encoder), ο οποίος είναι σχεδιασµένος για να µετατρέπει την έξοδο της πηγής πληροφορίας σε µια σειρά από δυαδικά ψηφία µε τον ελάχιστο δυνατό πλεονασµό (redundancy). Αν ο κωδικοποιητής πηγής παράγει r b δυαδικά ψηφία ανά δευτερόλεπτο, τότε το µέγεθος r b καλείται ρυθµός δεδοµένων (data rate). Οι αλλοιώσεις του καναλιού προκαλούν σφάλµατα στο σήµα που φτάνει στον παραλήπτη. Ο κωδικοποιητής διαύλου (channel encoder) ενσωµατώνεται στο σύστηµα για να προσθέσει πλεονασµό στα ψηφία πληροφορίας. Ο πλεονασµός, δηλαδή δυαδικά ψηφία που δεν περιέχουν πληροφορία, χρησιµοποιείται για να ελαχιστοποιήσει τα λάθη µετάδοσης. Ο κωδικοποιητής διαύλου αντιστοιχεί σε κάθε µήνυµα που αποτελείται από k δυαδικά ψηφία, ένα µεγαλύτερο µήνυµα που αποτελείται από n δυαδικά ψηφία και λέγεται κωδική λέξη (codeword). Ένας καλός κώδικας διόρθωσης λαθών παράγει κωδικές λέξεις οι οποίες διαφέρουν µεταξύ τους όσο το δυνατό περισσότερο, πράγµα που κάνει το επικοινωνιακό σύστηµα λιγότερο ευαίσθητο στις αλλοιώσεις του διαύλου. Κάθε κώδικας χαρακτηρίζεται από το 8

12 λόγο R = k/n <, που αποκαλείται ρυθµός κώδικα (code rate). Ο ρυθµός δεδοµένων στην έξοδο ενός κωδικοποιητή καναλιού είναι r c = r b /R bps. Ο κύριος στόχος ενός κώδικα διόρθωσης λαθών είναι να µεγιστοποιήσει την αξιοπιστία της µετάδοσης µέσα στα επιτρεπτά όρια της ισχύος του σήµατος, του εύρους ζώνης (bandwidth) και της πολυπλοκότητας του κυκλώµατος. Ο σκοπός αυτός επιτυγχάνεται εισάγοντας µε ελεγχόµενο τρόπο πλεονάζοντα στοιχεία (redundancy) στο προς µετάδοση σήµα, διαδικασία που έχει ως αποτέλεσµα µειωµένο ρυθµό µετάδοσης δεδοµένων ή αυξηµένο εύρος ζώνης του καναλιού, σε σχέση µε ένα σύστηµα που δεν έχει υποστεί κωδικοποίηση. Παρατηρούµε, ότι η διαδικασία που ακολουθείται στον κωδικοποιητή διαύλου είναι αντίθετη αυτής που ακολουθεί ο κωδικοποιητής πηγής. Συγκεκριµένα, στην κωδικοποίηση πηγής στόχο αποτελεί η ελάττωση του µεγέθους της πληροφορίας (ελαχιστοποίηση του πλεονασµού), σε αντίθεση µε την κωδικοποίηση διαύλου, η οποία αποσκοπεί στην εύρεση έξυπνων τρόπων αύξησης τους µεγέθους της µε ελεγχόµενο, αυτή τη φορά, τρόπο. Το σήµα εξόδου του κωδικοποιητή διαύλου δεν είναι κατάλληλο για µετάδοση και για το λόγο αυτό απαιτείται η χρήση του διαµορφωτή (modulator), ο οποίος καθιστά δυνατή τη µετάδοση της πληροφορίας διαµέσου ενός διαύλου. Η διαµόρφωση αποσκοπεί στην προσαρµογή του σήµατος στα χαρακτηριστικά του διαύλου, στην ταυτόχρονη µετάδοση περισσότερων σηµάτων µέσω του ίδιου φυσικού διαύλου αλλά και στην αύξηση της ταχύτητας µε την οποία µεταφέρεται η πληροφορία. Ο διαµορφωτής, αντιστοιχεί τα κωδικοποιηµένα δυαδικά ψηφία σε µια σειρά από µικρές αναλογικές κυµατοµορφές κατάλληλες για διάδοση. Η διαµόρφωση µπορεί να πραγµατοποιηθεί µεταβάλλοντας το πλάτος, τη φάση ή τη συχνότητα µιας ηµιτονοειδούς κυµατοµορφής, η οποία ονοµάζεται φορέας (carrier). Οι δίαυλοι (channels) είναι µέσα µετάδοσης τα οποία χρησιµοποιούνται για µετάδοση ή αποθήκευση πληροφορίας. Παραδείγµατα διαύλων αποτελούν τα καλώδια, οι µικροκυµατικές ασύρµατες συνδέσεις στον ελεύθερο χώρο, οι δορυφορικές συνδέσεις, οι οπτικές ίνες, τα µαγνητικά µέσα εγγραφής κλπ. Πολύ συχνά ο όρος «δίαυλος» αναφέρεται στα όρια 9

13 συχνοτήτων τα οποία µπορεί να εκµεταλλευτεί µία τηλεπικοινωνιακή υπηρεσία µε τις δοµές της, όπως για παράδειγµα τα τηλεοπτικά και τα τηλεφωνικά κανάλια. ύο σηµαντικούς περιορισµούς των πραγµατικών διαύλων αποτελούν ο θερµικός θόρυβος και το πεπερασµένο εύρος ζώνης. Επίσης, τα ασύρµατα κανάλια κινητής τηλεφωνίας επηρεάζονται από ανάκλαση σήµατος (multipath propagation), οι οπτικές ίνες από διασπορά σήµατος (signal dispersion) ενώ τα µαγνητικά µέσα εγγραφής είναι εκτεθειµένα στη σκόνη και στη φυσική φθορά. Στην πλευρά του δέκτη, ο αποδιαµορφωτής (demodulator) τυπικά παράγει µία δυαδική ή αναλογική ακολουθία στην έξοδό του ως την καλύτερη εκτίµηση της µεταδιδόµενης κωδικής λέξης ή της διαµορφωµένης ακολουθίας αντίστοιχα. Ο αποκωδικοποιητής διαύλου (channel decoder) κάνει εκτιµήσεις του πραγµατικά µεταδιδόµενου µηνύµατος και η λειτουργία του βασίζεται στον κανόνα κωδικοποίησης και στα χαρακτηριστικά του καναλιού. Στόχος του αποκωδικοποιητή είναι να ελαχιστοποιήσει τις επιπτώσεις του θορύβου του καναλιού. Με βάση τον κανόνα κωδικοποίησης πηγής, ο αποκωδικοποιητής πηγής (source decoder) µετατρέπει την ακολουθία που δέχεται στην είσοδό του, σε µια εκτίµηση της ακολουθίας στην έξοδο της πηγής και τη στέλνει στον παραλήπτη πληροφορίας (data sink)..3 ίαυλος επικοινωνίας Πολύ σηµαντική είναι η σχέση της θεωρίας κωδίκων µε τον δίαυλο που χρησιµοποιείται για τη µετάδοση της πληροφορίας. Η θεωρία κωδίκων και οι λύσεις που προσφέρει χαρακτηρίζονται από άµεση εξάρτηση από το είδος του καναλιού διαµέσου του οποίου πραγµατοποιείται η διάδοση της πληροφορίας. Αν ανατρέξουµε στο µοντέλο του τυπικού τηλεπικοινωνιακού συστήµατος, παρατηρούµε ότι µεταξύ του κωδικοποιητή και του αποκωδικοποιητή παρεµβάλλονται τρεις επιπλέον δοµές, ο διαµορφωτής, ο δίαυλος και ο αποδιαµορφωτής. Οι δοµές αυτές αποτελούν τον ιακριτό

14 ίαυλο (Discrete Channel). Η είσοδος και η έξοδος του διακριτού διαύλου είναι δυαδικές ακολουθίες µε ρυθµό δεδοµένων r c bps. Αν η έξοδος του αποκωδικοποιητή εξαρτάται αποκλειστικά από την ακολουθία δυαδικών ψηφίων που µεταδίδεται τη συγκεκριµένη χρονική στιγµή και όχι από µπλοκ δεδοµένων που προηγήθηκαν, ο εν λόγω δίαυλος δεν έχει µνήµη (memoryless). εδοµένου ότι ο θόρυβος ασκεί την ίδια επίδραση σε όλα τα µεταδιδόµενα δυαδικά ψηφία, διαδίδεται δηλαδή µε την ίδια πιθανότητα σε όλα τα bits, χωρίς να υπάρχει µνήµη της επίδρασης, αναφερόµαστε στον ιακριτό ίαυλο Χωρίς Μνήµη (Discrete Memoryless Channel, DSC). Η πιθανότητα λήψης ενός εσφαλµένου δυαδικού ψηφίου εξαιτίας της επίδρασης του θορύβου, είναι ίση για όλα τα µεταδιδόµενα ψηφία, ανεξάρτητα από τη θέση που κατέχουν µέσα στο µεταδιδόµενο µπλοκ. Η πιθανότητα ορθής λήψης ενός συµβόλου αναπαρίσταται µε το σύµβολο p, και επειδή η πιθανότητα αυτή είναι ίδια για όλα τα σύµβολα ο δίαυλος ονοµάζεται συµµετρικός. Αν θεωρήσουµε ότι το πλήθος των δυνατών τιµών που µπορούν να πάρουν τα ψηφία που µεταδίδονται, είναι m, το κανάλι αποκαλείται m-συµµετρικό (m-symmetric channel). Η πιο συνηθισµένη περίπτωση είναι η µετάδοση δυαδικών ψηφίων, δηλαδή µόνο των ψηφίων και και το κανάλι ονοµάζεται υαδικό Συµµετρικό (Binary Symmetric Channel, BSC). Στην απλή θεωρία της κωδικοποίησης όλα τα κανάλια θεωρούνται δυαδικά συµµετρικά. Η αξιοπιστία του διαύλου επικοινωνίας, εκφράζεται µε την πιθανότητα ορθής λήψης p, δηλαδή µε το κατά πόσο το ψηφίο που στέλνει η πηγή είναι ίσιο µε αυτό που έφτασε στην πλευρά του δέκτη. Ένα κανάλι µε πιθανότητα p = είναι το πλέον αξιόπιστο, καθώς δεν εισάγει καθόλου θόρυβο, ενώ αντίθετα το κανάλι µε πιθανότητα p = δεν έχει κανένα νόηµα, καθώς οδηγεί στη εσφαλµένη µετάδοση όλων των ψηφίων που αποστέλλονται. Στην πράξη, όλοι οι τηλεπικοινωνιακοί δίαυλοι έχουν πιθανότητα µε τιµές που κυµαίνονται από ½ ως (½ < p < ).

15 .4 Κανάλι Προσθετικού Λευκού Γκαουσσιανού Θορύβου (Additive White Gaussian Noise channel, AWGN) Στην πραγµατικότητα, οι δίαυλοι επικοινωνίας δεν είναι δυαδικοί συµµετρικοί (BSC). Μια ρεαλιστική απεικόνιση της πραγµατικότητας όµως έχουµε µε το AWGN (Additive White Gaussian Noise) κανάλι. Σε αυτόν τον δίαυλο, τα µεταδιδόµενα σύµβολα λαµβάνονται από ένα πεπερασµένο σύνολο πραγµατικών αριθµών και τα σφάλµατα ακολουθούν τη στατική κατανοµή Gauss (κανονική κατανοµή). Πηγή του AWGN αποτελεί η ακτινοβολία που εκπέµπεται από ασύρµατες µεταδόσεις (ατµοσφαιρικά παράσιτα) και ο θερµικός θόρυβος που οφείλεται στο υλικό (hardware), συγκεκριµένα στη θερµική κίνηση των ηλεκτρονίων στις τηλεπικοινωνιακές διατάξεις. Οι επιπτώσεις του AWGN εκτιµώνται και υπολογίζονται µε τη βοήθεια στατιστικής ανάλυσης. Τα AWGN σήµατα είναι καθαρά τυχαία και είναι αδύνατη η πρόβλεψη της στιγµιαίας τιµής τους σε οποιαδήποτε χρονική στιγµή. Εφόσον το σήµα του θορύβου έχει πλάτη που µεταβάλλονται τυχαία στη διάρκεια του χρόνου, αριθµητική αναφορά σε αυτόν µπορεί να γίνει χρησιµοποιώντας µόνο συναρτήσεις πυκνότητας πιθανότητας (probability density function). Η συνάρτηση πυκνότητας πιθανότητας σχετίζει την τιµή του σήµατος µε την πιθανότητα να εµφανιστεί το συγκεκριµένο σήµα. Ο Προσθετικός Λευκός Γκαουσσιανός Θόρυβος έχει συνάρτηση πυκνότητας πιθανότητας η οποία ακολουθεί την κατανοµή Gauss και δίνεται από τη σχέση που ακολουθεί: ( x p( x) = exp( 2 2πσ 2 2σ 2 x av ) ) 2

16 Οι δύο κύριες παράµετροι της συνάρτησης πυκνότητας πιθανότητας είναι οι εξής: Η µέση τιµή του θορύβου, η οποία αναπαρίσταται από την τιµή x av. Στην περίπτωση του AWGN η µέση τιµή είναι ίση µε το µηδέν (x av = ). Η τυπική απόκλιση του θορύβου, η οποία αναπαρίσταται από το σύµβολο σ και η οποία αποτελεί τη µέση τετραγωνική τιµή (RMS) του σήµατος του θορύβου. Εφόσον οι στιγµιαίες τιµές του σήµατος για κάθε χρονική στιγµή είναι εντελώς τυχαίες, η πρόβλεψη της εµφάνισης µιας συγκεκριµένης διακριτής τιµής είναι αδύνατη. Παρόλα αυτά είµαστε σε θέση να υπολογίσουµε την πιθανότητα ενός σήµατος να βρίσκεται σε ένα συγκεκριµένο διάστηµα, έστω [α,β]. Η πιθανότητα αυτή ονοµάζεται συνάρτηση πιθανότητας (probability function) και συµβολίζεται ως P(x). Η P(x) ισούται µε το ορισµένο ολοκλήρωµα της συνάρτησης πυκνότητας πιθανότητας στο διάστηµα [α,β]. Πιο αναλυτικά, γράφουµε: = P ( a< x< β ) p( x) dx β α Σχήµα.2 : Παράδειγµα σήµατος µε Γκαουσσιανό θόρυβο 3

17 Συνεπώς, µπορούµε να υπολογίσουµε την πιθανότητα εµφάνισης ενός σήµατος µέσα σε ένα συγκεκριµένο διάστηµα, αν είναι γνωστή η RMS τιµή του εν λόγω σήµατος. Σχήµα.3 : Γκαουσσιανή συνάρτηση κατανοµής πιθανότητας.5 Λόγος σήµατος προς θόρυβο (Signal to Noise ratio, SNR) Ο AWGN, όπως λέει και το όνοµά του, είναι προσθετικός (additive), γεγονός που σηµαίνει ότι το σήµα θορύβου προστίθεται στο υπάρχον σήµα, µε αποτέλεσµα την αλλοίωση του πληροφοριακού σήµατος. Η κατάσταση αυτή περιγράφεται σχηµατικά ως εξής: 4

18 S(t,f c ) σήµα εισόδου + U(t,f c )= S(t,f c )+n(t,σ) σήµα εξόδου n(t,σ) θόρυβος Σχήµα.4 : Σήµα στην είσοδο και στην έξοδο ενθόρυβου διαύλου Η ποιότητα του σήµατος καθορίζεται από το λόγο της ισχύος του σήµατος προς την ισχύ του θορύβου. Η ποσότητα αυτή ονοµάζεται Λόγος Σήµατος προς Θόρυβο (Signal to Noise Ratio, SNR) και η εξίσωση που την περιγράφει είναι: SNR= Ισχύς _ σήµατος s = Ισχύς _ θορύβου n rms rms ( t, fc) ( t, σ ) 2 Η ψηφιακή διαµόρφωση χρησιµοποιεί ηµιτονοειδείς φορείς, των οποίων η RMS τιµή µπορεί εύκολα να υπολογιστεί από τη σχέση Α 2 Τότε, ο Λόγος Σήµατος προς Θόρυβο ενός ψηφιακά διαµορφωµένου ηµιτόνου που έχει υποστεί την επίδραση του AWGN γίνεται:. SNR = 2 2 Α σ 2 5

19 Ένας δηµοφιλής τρόπος µε τον οποίο εκφράζεται ο Λόγος Σήµατος προς Θόρυβο είναι σε κλίµακα decibel (db). Η τιµή αυτή υπολογίζεται από την τιµή που έχει ο SNR σε Watt ως εξής: SNR db = log (SNR) = log Α σ = =2 log Α 2 σ.6 Το όριο του Shannon Το εύρος ζώνης (bandwidth, B) ενός σήµατος αποτελεί µέτρο της ταχύτητας µε την οποία µεταδίδεται. Τα σήµατα τα οποία µεταβάλλονται γρήγορα στο χρόνο χαρακτηρίζονται από µεγάλο εύρος ζώνης. Από την άλλη πλευρά, κάθε τηλεπικοινωνιακό σύστηµα έχει περιορισµένο εύρος ζώνης, γεγονός που οφείλεται στην επίδραση των παρασιτικών χωρητικοτήτων και επαγωγών, οι οποίες παρεµποδίζουν τις στιγµιαίες αλλαγές των σηµάτων. Το εύρος ζώνης του συστήµατος περιορίζει την ταχύτητα των µεταβολών του σήµατος. Ο περιορισµός αυτός ποσοτικοποιείται µε το µέγεθος φασµατική αποδοτικότητα (spectral efficiency) η οποία αναπαρίσταται µε το σύµβολο n και δίνεται από τον τύπο r B = bits/sec/hz, όπου r b είναι ο ρυθµός δεδοµένων. n b Η παραπάνω σχέση µπορεί να περιγραφεί και από τον τύπο που ακολουθεί: n rlr s =, όπου r s είναι ο ρυθµός συµβόλου B 6

20 Το ελάχιστο απαιτούµενο εύρος ζώνης για ένα διαµορφωµένο σήµα είναι r s Hz, ενώ η µέγιστη φασµατική αποδοτικότητα, η οποία αναπαρίσταται µε το σύµβολο n max δίνεται από τη σχέση n =lr max. Μια ακόµα σηµαντική παράµετρος που χρησιµοποιείται σαν µέτρο για την αξιοπιστία της µετάδοσης της πληροφορίας στα ψηφιακά τηλεπικοινωνιακά συστήµατα είναι η πιθανότητα σφάλµατος δυαδικού ψηφίου (bit error probability). Η αποδοτικότητα της ισχύος σχετίζεται µε τον απαιτούµενο για τη µετάδοση λόγο της ενέργειας δυαδικού ψηφίου προς την µονοπλευρική φασµατική πυκνότητα ισχύος του θορύβου (bit energy to one sided noise power spectral density ratio), E b /N, προκειµένου να επιτευχθεί η πιθανότητα σφάλµατος δυαδικού ψηφίου (bit error probability). Ο Λόγος Σήµατος προς Θόρυβο (Signal-to-Noise Ratio, SNR) σχετίζεται µε τον λόγο E b /N ως εξής: S N = n E b max N Για έναν δεδοµένο δίαυλο, υπάρχει ένα άνω όριο του ρυθµού δεδοµένων, το οποίο σχετίζεται µε το Λόγο Σήµατος προς Θόρυβο και µε το εύρος ζώνης του συστήµατος. Ο Shannon εισήγαγε την έννοια της χωρητικότητας του διαύλου (channel capacity), C, ως τον µέγιστο ρυθµό µετάδοσης δεδοµένων (data transmission rate, r b ) κατά τον οποίο µπορεί να µεταδοθεί η πληροφορία διαµέσου ενός ενθόρυβου διαύλου επιτυγχάνοντας µετάδοση της πληροφορίας µε µικρή πιθανότητα λάθους. Ο ρυθµός αυτός αναφέρεται ως «χωρητικότητα του διαύλου» και για δίαυλο Προσθετικού Λευκού Γκαουσσιανού Θορύβου (Additive White Gaussian Noise channel, AWGN channel) δίνεται από την εξίσωση των Shannon Hartley S C = B + N log 2 bits/sec. 7

21 Το θεώρηµα κωδικοποίησης διαύλου του Shannon εγγυάται την ύπαρξη κωδίκων οι οποίοι µπορούν να επιτύχουν αυθαίρετα µικρή πιθανότητα σφάλµατος αν ο ρυθµός µετάδοσης δεδοµένων, r b, είναι µικρότερος από την χωρητικότητα του διαύλου, C. Αντίθετα, αν ο ρυθµός δεδοµένων είναι µεγαλύτερος από την χωρητικότητα του διαύλου (r b > C), δεν είναι δυνατή η σχεδίαση κώδικα ο οποίος να επιτυγχάνει αυθαίρετα µικρή πιθανότητα σφάλµατος. Το θεµελιώδες αυτό συµπέρασµα δείχνει ότι ο θόρυβος θέτει ένα όριο στο ρυθµό µετάδοσης δεδοµένων αλλά όχι και στην πιθανότητα σφάλµατος, όπως πίστευαν µέχρι εκείνη την περίοδο οι επιστήµονες που ασχολούνταν µε τη θεωρία κωδίκων διόρθωσης σφαλµάτων. Παρά το γεγονός ότι το θεώρηµα του Shannon δεν υποδεικνύει κάποιον τρόπο σχεδίασης συγκεκριµένων κωδίκων οι οποίοι να επιτυγχάνουν τον πιθανό µέγιστο ρυθµό µετάδοσης δεδοµένων µε αυθαίρετα µικρή πιθανότητα σφάλµατος, πυροδότησε την ανάπτυξη ενός αριθµού τεχνικών διόρθωσης σφαλµάτων. Θεωρώντας πως ο ρυθµός δεδοµένων παίρνει τη µέγιστη δυνατή τιµή του για µετάδοση απαλλαγµένη από σφάλµατα, η οποία ισούται µε τη χωρητικότητα του διαύλου,c, η µέγιστη φασµατική αποδοτικότητα µπορεί να εκφραστεί από τη σχέση C n max = B n E + Rl = b max log2 N ή n + n E = b max log2 max N Ο ελάχιστος απαιτούµενος λόγος E b για µετάδοση απαλλαγµένη από N σφάλµατα δίνεται από την εξίσωση E N b = n 2 max n max 8

22 Αν το εύρος ζώνης δεν είναι περιορισµένο, µπορεί να επεκταθεί προκειµένου να αυξηθεί η χωρητικότητα του διαύλου. Στην οριακή περίπτωση που B ή n max, ως ελάχιστη τιµή του λόγου E b παίρνουµε N n lim max E b N = ln 2=.59dB Έτσι λοιπόν η ελάχιστη απαιτούµενη τιµή του λόγου E b για µετάδοση N απαλλαγµένη από σφάλµατα είναι -.59 db. Τα παραπάνω φαίνονται σχηµατικά στο διάγραµµα που ακολουθεί: Σχήµα.5 : Όριο χωρητικότητας AWGN διαύλου σε σχέση µε τη φασµατική αποδοτικότητα 9

23 ΚΕΦΑΛΑΙΟ 2 Κωδικοποίηση και βασικές έννοιες 2. Τι είναι «κωδικοποίηση» Σύµφωνα µε το µοντέλο του τυπικού τηλεπικοινωνιακού συστήµατος, που περιγράφηκε στο προηγούµενο κεφάλαιο, µε τον όρο «κωδικοποίηση» αναφερόµαστε σε µία ακολουθία διαφορετικών λειτουργιών. Συνοπτικά, οι λειτουργίες αυτές είναι: η κωδικοποίηση πηγής (source coding), σύµφωνα µε την οποία η πληροφορία, που βρίσκεται σε αναλογική µορφή, υφίσταται συµπίεση (compression) ώστε να µετατραπεί σε µορφή κατάλληλη για µετάδοση, µε τη µικρότερη δυνατή σπατάλη εύρους ζώνης και ισχύος, η κωδικοποίηση διαύλου (channel coding), κατά την οποία προστίθενται πλεονάζοντα δυαδικά ψηφία (redundancy) στα δυαδικά ψηφία της πληροφορίας µε σκοπό να καταστεί δυνατή η ανίχνευση και διόρθωση σφαλµάτων που πιθανώς προκύψουν κατά τη µετάδοση και τέλος, 2

24 η διαδικασία της διαµόρφωσης (modulation) µε την οποία η προς µετάδοση, κωδικοποιηµένη πλέον, δυαδική πληροφορία µετατρέπεται σε µορφή η οποία συµφωνεί µε τα χαρακτηριστικά του διαύλου ώστε να είναι δυνατή η µετάδοσή της διαµέσου αυτού. Σύµφωνα µε τη «Θεωρία της πληροφορίας» έχει αποδειχτεί ότι είναι εφικτή η αξιόπιστη µετάδοση πληροφορίας µε τον ελάχιστο απαιτούµενο αριθµό πλεοναζόντων δυαδικών ψηφίων (redundancy). Αρχικά, είχε γίνει αποδεκτό ότι για την έγκυρη µετάδοση της πληροφορίας, έπρεπε να ενσωµατωθούν στο προς αποστολή µήνυµα τα ψηφία ισοτιµίας (parity bits) µε καθορισµένο τρόπο, δηλαδή ψηφίο ισοτιµίας για κάθε ψηφίο του µηνύµατος. Στη συνέχεια όµως, παρατηρήθηκε ότι η συγκεκριµένη µέθοδος, η οποία είχε προταθεί από τους θεµελιωτές της Θεωρίας των κωδίκων, απλά ανίχνευε τα σφάλµατα και δεν προέβαινε στη διόρθωση αυτών. Η µόνη οδός για σωστό ανασχηµατισµό του µηνύµατος σε αυτή την περίπτωση, ήταν η εκ νέου µετάδοση του τµήµατος εκείνου της πληροφορίας που περιείχε σφάλµατα, από την πηγή πληροφορίας. Η επανάληψη της αποστολής όµως κοστίζει τόσο σε χρόνο όσο και σε πόρους, καθώς απαιτείται δίαυλος ανάδρασης, γεγονός που καθιστά τη συγκεκριµένη µέθοδο µη πρακτική. Η έρευνα πέρασε στα χέρια του διακεκριµένου στη Θεωρία Κωδικοποίησης επιστήµονα της εποχής, Richard Hamming, ο οποίος σχεδίασε έναν κώδικα στον οποίο σε κάθε τέσσερα ψηφία πληροφορίας αντιστοιχούσαν τρία ψηφία ελέγχου (check bits). Ο κώδικας αυτός ήταν σαφώς πιο αποτελεσµατικός, καθώς όχι µόνο ανίχνευε τα λάθη, αλλά ήταν και σε θέση να τα διορθώσει. Από εκείνο το σηµείο και µετά η πρόοδος στον τοµέα της κωδικοποίησης ήταν συνεχής και αλµατώδης. 2

25 2.2 Κωδικοποίηση για έλεγχο σφαλµάτων Σύµφωνα µε τον θεµελιωτή της «Σύγχρονης Θεωρίας Κωδίκων», Claude Shannon, κατά τη διάδοση µίας λέξης µέσω ενός υαδικού Συµµετρικού Καναλιού (Binary Symmetric Cannel, BSC), δεν χάνονται ούτε προστίθενται δυαδικά ψηφία. Έτσι λοιπόν, µία κωδική λέξη η οποία έχει µήκος n bits και η οποία µεταδίδεται διαµέσου ενός BSC, θα φτάσει στον προορισµό της µε το ίδιο µήκος ψηφίων. Αυτό όµως δεν σηµαίνει ότι η λέξη που λαµβάνει ο δέκτης είναι και η επιθυµητή, διότι µπορεί να έχει υποστεί αλλοιώσεις λόγω θορύβου. Για παράδειγµα, αν ο παραλήπτης δεχτεί την ψηφιοσειρά (bitstream) και ο κώδικας έχει µήκος 4 (δηλαδή κάθε κωδική λέξη αποτελείται από 4 ψηφία), τότε γνωρίζει ότι έλαβε τις εξής τρεις κωδικές λέξεις:, και. Όπως έχει αποδείξει ο Shannon, δεν είναι δυνατό να ληφθεί πληροφορία µε µήκος διαφορετικό από κάποιο πολλαπλάσιο του 4. Αυτό θα σήµαινε ότι θα έχουν «χαθεί» ή «προστεθεί» ψηφία, γεγονός που δεν ευσταθεί. Η λογική της κωδικοποίησης έγκειται στη σύγκριση της κάθε λέξης που λαµβάνει δέκτης, µε ένα γνωστό σύνολο κωδικών λέξεων. Προσπαθεί δηλαδή να αντιπαραβάλει τις λαµβανόµενες κωδικές λέξεις µε αυτές κάποιου αλφαβήτου. Αν δεν κατορθώνει να βρει λέξη όµοια µε αυτές που περιλαµβάνονται στο αλφάβητο, συµπεραίνουµε ότι έχουν υπεισέλθει σφάλµατα. Σε αντίθετη περίπτωση, εξάγεται το συµπέρασµα ότι έχει γίνει ορθή λήψη της πληροφορίας. Έστω για παράδειγµα ότι έχουµε τον κώδικα c = {,,,}. Όπως φαίνεται, κάθε κωδική λέξη έχει µήκος 2 και ο κώδικας περιλαµβάνει όλους τους δυνατούς συνδυασµούς των ψηφίων και. Συνεπώς, κάθε λέξη των δύο ψηφίων που καταλήγει στον δέκτη, αποτελεί κωδική λέξη και για το λόγο αυτό δεν υπάρχει η δυνατότητα ανίχνευσης κάποιου λάθους. Στην περίπτωση όµως του κώδικα c 2 = {,,, }, ο οποίος είναι επαναληπτικός, κάθε κωδική λέξη του c 22

26 επαναλαµβάνεται τρεις φορές. Η µέθοδος αυτή κωδικοποίησης, παρουσιάζει το πλεονέκτηµα της ευκολότερης ανίχνευσης πιθανών λαθών. Αν ληφθεί για παράδειγµα η λέξη, µε απλή αντιπαραβολή της µε το σύνολο των γνωστών λέξεων του κώδικα, παρατηρείται ότι δεν ανήκει στο συγκεκριµένο λεξικό, δεν αποτελεί δηλαδή κωδική λέξη, άρα περιέχει ένα τουλάχιστον σφάλµα. Υποθέτοντας ότι σε κάθε κωδική λέξη είναι δυνατό να υπάρξει το πολύ ένα λάθος, συµπεραίνουµε ότι τουλάχιστον δύο από τις τρεις επαναλήψεις των λέξεων που ελήφθησαν είναι σωστές. Η διαδικασία της επανάληψης όµως έχει και το εξής µειονέκτηµα: ο βαθµός πληροφορίας του κώδικα µειώθηκε στο /3, από που ήταν στην πρώτη περίπτωση. Για να αποφευχθεί η ατέλεια αυτή, εισάγεται στον αρχικό κώδικα, c, ένα επιπλέον ψηφίο. Συγκεκριµένα, στο τέλος κάθε κωδικής λέξης προστίθεται ένα ή ένα έτσι ώστε κάθε κωδική λέξη να περιλαµβάνει άρτιο αριθµό. Κατά συνέπεια προκύπτει ένας νέος, πιο αποτελεσµατικός κώδικας c 3 = {,,, }. Το επιπλέον δυαδικό ψηφίο που προστέθηκε στο τέλος της κωδικής λέξης ονοµάζεται ψηφίο ελέγχου ισοτιµίας (parity bit). Έτσι αν ληφθούν τα στοιχεία, τα οποία δεν αποτελούν κωδική λέξη, γίνεται αντιληπτό ότι έχει προκύψει κάποιο σφάλµα κατά τη µετάδοση. Η προσπάθεια διόρθωσης έγκειται στην αλλαγή των λιγότερων κατά το δυνατό δυαδικών ψηφίων, ώστε να προκύψει κωδική λέξη. Γενικά, οι κώδικες πρέπει να σχεδιάζονται µε τέτοιο τρόπο ώστε το κόστος κωδικοποίησης να είναι σχετικά χαµηλό. Η διαδικασία αυτή περιλαµβάνει κάποιες τεχνικές ανίχνευσης αλλά και διόρθωσης σφαλµάτων, προκειµένου να µην απαιτείται επανάληψη της µετάδοσης της πληροφορίας και συνεπώς ύπαρξη διαύλου ανάδρασης. 2.3 Τεχνικές για έλεγχο σφαλµάτων Σε περίπτωση εµφάνισης σφάλµατος στο δέκτη, δύο διαφορετικές τεχνικές µπορούν να εφαρµοστούν για την αντιµετώπισή τους. 23

27 Η πρώτη τεχνική καλείται Αυτόµατη Αίτηση Επανεκποµπής (Automatic Repeat Request, ARQ). Σε ένα τέτοιο σύστηµα ο δέκτης εκτελεί ανίχνευση των σφαλµάτων και απλά ζητά από τον ποµπό επανεκποµπή των δεδοµένων. Η συγκεκριµένη τεχνική συµβάλλει στην αξιοπιστία της λαµβανόµενης πληροφορίας, αν και έχει αυξηµένη πολυπλοκότητα αφού απαιτεί την ύπαρξη ενός καναλιού ανάδρασης, το οποίο όµως δεν είναι πάντα διαθέσιµο, καθιστώντας την έτσι µη πρακτική για αρκετές εφαρµογές. Σύµφωνα µε τη δεύτερη τεχνική, που ονοµάζεται Πρόσω ιόρθωση Σφάλµατος (Forward Error Correction, FEC), ο δέκτης σε περίπτωση ανίχνευσης σφάλµατος προβαίνει και στη διόρθωσή του σύµφωνα µε τους κανόνες κωδικοποίησης. Η τεχνική αυτή, αν και δυσκολότερη στην εφαρµογή από την ARQ, δεν απαιτεί δίαυλο ανάδρασης. Βασική διαφορά των δύο τεχνικών αποτελεί η διόρθωση σφαλµάτων, διαδικασία που συµβαίνει µόνο στη FEC. Η τεχνική FEC περιλαµβάνει δύο µεγάλες κατηγορίες κωδίκων, τους κώδικες δοµής (block codes) και τους συνελικτικούς κώδικες (convolutional codes). Η διαφορά των δύο αυτών τύπων βρίσκεται στη µνήµη του κωδικοποιητή. Στους κώδικες δοµής κάθε διαδικασία κωδικοποίησης εξαρτάται µόνο από την τρέχουσα πληροφορία εισόδου και όχι από προηγούµενα ψηφία εισόδου, πράγµα που σηµαίνει ότι ο κωδικοποιητής δεν έχει µνήµη. Σύµφωνα µε τους κανόνες, n-k πλεονάζοντα δυαδικά ψηφία προστίθεται σε k δυαδικά ψηφία πληροφορίας για να σχηµατίσουν τα n κωδικοποιηµένα δυαδικά ψηφία. Αντίθετα, στους συνελικτικούς κώδικες η έξοδος του κωδικοποιητή κάθε στιγµή εξαρτάται όχι µόνο από τρέχουσα πληροφορία εισόδου, αλλά και από block δυαδικών ψηφίων που προηγήθηκαν. Μετατρέπουν δηλαδή, µια ολόκληρη ροή δεδοµένων σε µία και µοναδική κωδική λέξη. 24

28 2.4 Κώδικες δοµής (Block Codes) Σε ένα κώδικα δοµής, ο κωδικοποιητής δέχεται στην είσοδό του µία σταθερού µήκους ακολουθία πληροφοριακών ψηφίων, το µήνυµα (message), που αποτελείται από k bits. Στη συνέχεια, µετατρέπει την πληροφορία αυτή σε µία ακολουθία n bits και σχηµατίζει την κωδική λέξη (codeword). Όπως προαναφέρθηκε, το σηµαντικό χαρακτηριστικό των κωδικοποιητών δοµής είναι ότι αποτελούν διατάξεις χωρίς µνήµη διότι δε χρησιµοποιούν ψηφία από προηγούµενα µπλοκ. Σε έναν (n,k) κώδικα δοµής υπάρχουν 2 k ξεχωριστά µηνύµατα. Αφού λοιπόν σε κάθε µήνυµα αντιστοιχεί µία και µόνο κωδική λέξη, θα υπάρχουν και 2 k ξεχωριστές κωδικές λέξεις, καθεµιά από τις οποίες έχει µήκος n. Ο ρυθµός κώδικα (code rate), R = k/n, καθορίζει και την ποσότητα του πλεονασµού. Ένας κώδικας δοµής είναι γραµµικός (linear) αν το άθροισµα δύο κωδικών λέξεων αποτελεί µία άλλη κωδική λέξη και αν ο κώδικας περιέχει και τη µηδενική κωδική λέξη. Ένας κώδικας δοµής παράγεται από ένα σύνολο k γραµµικώς ανεξάρτητων n-διάστατων διανυσµάτων g, g,, g k-. Οι κωδικές λέξεις αποτελούν γραµµικό συνδυασµό αυτών των k n-διάστατων διανυσµάτων. Συνεπώς, η κωδική λέξη ενός µηνύµατος c = (c, c,, c k- ) µπορεί να αναπαρασταθεί µε τη µορφή v = c g + c g + + c k- g k-. Τα k n-διάστατα διανύσµατα που δηµιουργούν τον κώδικα g,g,,g k- µπορούν να αποτελέσουν τις γραµµές ενός πίνακα G διάστασης k n όπως φαίνεται παρακάτω: 25

29 26 G = 2 g k g g g M =,,, 2, 2 2,, n k k k k k k g g g g g g g g g g g g L M O M M L L L Ο πίνακας G λέγεται γεννήτορας πίνακας ή γεννήτρια µήτρα (generator matrix) του κώδικα. Έτσι λοιπόν, η κωδική λέξη v για το µήνυµα c γράφεται ως εξής: v = c G = c g + c g + + c k- g k- εδοµένου του γεννήτορα πίνακα δηλαδή, είµαστε σε θέση να υπολογίσουµε από την προηγούµενη σχέση τις διακριτές κωδικές λέξεις που αντιστοιχούν σε όλες τις δυνατές ακολουθίες και ενός µπλοκ. Για παράδειγµα, ένας (8,4) κώδικας δοµής µπορεί να παραχθεί από τον γεννήτορα πίνακα: = G Τότε, το µήνυµα c = ( ) κωδικοποιείται ως εξής: v = c G = () + () + () + () = () + () + () + () = ()

30 codes) 2.5 Συστηµατικοί κώδικες δοµής (Systematic block Ένας κώδικας δοµής λέγεται συστηµατικός (systematic) όταν η ακολουθία δυαδικών ψηφίων, δηλαδή το µήνυµα, αποτελεί σαφές τµήµα της κωδικής λέξης, όταν δηλαδή τα k πληροφοριακά bits βρίσκονται στην αρχή της κωδικής λέξης. Τα υπόλοιπα n-k δυαδικά ψηφία αποτελούν τα bits ισοτιµίας (parity bits). Η διάταξη αυτή επιτρέπει την άµεση εξαγωγή των πληροφοριακών bits από την κωδική λέξη και παρουσιάζεται στο σχήµα που ακολουθεί. 6 codeword c message ,c,,c k- u,u,,u n-k-c,c,, k c parity-check message Ο γεννήτορας πίνακας ενός συστηµατικού κώδικα δοµής έχει την ακόλουθη µορφή. G = [P I k ] Ο I k είναι πίνακας διάστασης k k ο οποίος έχει στη κύρια διαγώνιό του και µηδενικά τα υπόλοιπα στοιχεία του (µοναδιαίος πίνακας ή πίνακας ταυτότητας), ενώ ο πίνακας P έχει διάσταση k (n-k) και τα περιεχόµενά του είναι και. Πρόκειται δηλαδή για έναν πίνακα της µορφής: 27

31 p p P= p M pk 2, p p p p M 2 k, K K K K K p p p p, n k, n k 2, n k M k, n k, όπου p ij = ή. Ο πίνακας P, εφόσον είναι δοσµένος, καθορίζει πλήρως τον γεννήτορα πίνακα, γεγονός το οποίο µπορούµε εύκολα να αντιληφθούµε παρατηρώντας τη σχέση που συνδέει τους δύο πίνακες, G = [P I k ]. Ο πίνακας P εκλέγεται κατάλληλα, ώστε ο κώδικας να έχει τις επιθυµητές ιδιότητες, όπως για παράδειγµα εύκολη υλοποίηση και δυνατότητα διόρθωσης σφαλµάτων. 2.6 Πίνακας ελέγχου ισοτιµίας Για την ανίχνευση σφαλµάτων χρησιµοποιείται ο πίνακας ελέγχου ισοτιµίας (parity check matrix) H, ο οποίος και εξετάζει αν η λέξη που φτάνει στο δέκτη αποτελεί κωδική λέξη ή όχι. Ο πίνακας ελέγχου ισοτιµίας δίνεται από το συνδυασµό του µοναδιαίου πίνακα I n-k µε τον ανάστροφο του πίνακα P, τον P T. Συγκεκριµένα, ο πίνακας H περιγράφεται από τη σχέση H = [I n-k P T ]. 28

32 O έλεγχος σφαλµάτων που πραγµατοποιείται από τον πίνακα ελέγχου ισοτιµίας, Η, γίνεται εξετάζοντας αν ισχύει η σχέση v H T = όπου το v αναπαριστά την κωδική λέξη και το H T αναπαριστά τον ανάστροφο πίνακα του H. Όπως γίνεται εύκολα αντιληπτό από τα παραπάνω, ο πίνακας Η είναι ένας πίνακας µε διάσταση (n-k) n του οποίου τα στοιχεία είναι και, εφόσον αναφερόµαστε σε δυαδική πληροφορία. 2.7 Απόσταση και Βάρος Hamming Σε οποιαδήποτε κωδική λέξη ορίζεται ένας συγκεκριµένος αριθµός ο οποίος καλείται βάρος Hamming (Hamming weight). Η ποσότητα αυτή αντιστοιχεί στον αριθµό των µη µηδενικών στοιχείων της κωδικής λέξης. Ως απόσταση Hamming (Hamming distance) d, µεταξύ δύο κωδικών λέξεων ορίζεται ο αριθµός των θέσεων στις οποίες διαφέρουν οι δύο λέξεις. Για παράδειγµα, έστω οι κωδικές λέξεις v = και u =. Παρατηρούµε ότι οι λέξεις αυτές διαφέρουν στα δυαδικά ψηφία a, a 2 και a 3, όπου το bit a αντιστοιχεί στο ελάχιστης σηµασίας bit (Least Significant Bit, LSB), δηλαδή σε τρεις θέσεις, συνεπώς η απόσταση Hamming είναι d = 3. Ως ελάχιστη απόσταση (minimum distance) dmin, ενός κώδικα δοµής ορίζεται η ελάχιστη απόσταση Hamming µεταξύ δύο ζευγών κωδικών λέξεων του κώδικα. Η ελάχιστη απόσταση αποτελεί σηµαντική παράµετρο καθώς καθορίζει την ικανότητα ανίχνευσης και διόρθωσης σφαλµάτων του κώδικα. Συγκεκριµένα, σε ένα γραµµικό κώδικα δοµής µε ελάχιστη απόσταση 29

33 dmin αποδεικνύεται ότι σε κάθε κωδική λέξη υπάρχει η δυνατότητα να ανιχνευθούν s (dmin - ) σφάλµατα και να διορθωθούν αντίστοιχα d min t. Σηµαντική είναι και η σχέση που υπάρχει µεταξύ του πίνακα 2 ελέγχου ισοτιµίας και της ελάχιστης απόστασης, η οποία µπορεί οριστεί ως ο ελάχιστος αριθµός στηλών του πίνακα H, που έχουν άθροισµα ίσο µε το µηδέν. Συγκεκριµένα, η σχέση που αναφέρεται προκύπτει από τα ακόλουθα: Όπως έχει προαναφερθεί, ένας γραµµικός κώδικας δοµής ορίζεται από το σύνολο των κωδικών λέξεων που ικανοποιούν τη σχέση v H T =. Μπορούµε να χρησιµοποιήσουµε για τον πίνακα ελέγχου ισοτιµίας την έκφραση H = [h,h,,h i,,h n- ], όπου κάθε τιµή h i αντιστοιχεί στην i-οστή στήλη του πίνακα. Έτσι λοιπόν ο κώδικας περιγράφεται από τη σχέση που ακολουθεί: u h + u h + + u i h i + + u n- h n- =, όπου η τιµή u i αναπαριστά το i-οστό στοιχείο της κωδικής λέξης v. Γίνεται εύκολα κατανοητό ότι για να ισχύει η προηγούµενη εξίσωση, θα πρέπει η κωδική λέξη v να έχει µη µηδενικά στοιχεία σε κατάλληλες θέσεις τέτοιες ώστε οι αντίστοιχες στήλες του πίνακα ελέγχου ισοτιµίας να έχουν σαν άθροισµα το µηδενικό διάνυσµα. Από την άλλη πλευρά, η ελάχιστη απόσταση ενός κώδικα είναι ίση µε τον ελάχιστο αριθµό των µη µηδενικών στοιχείων µιας κωδικής λέξης. Για το λόγο αυτό λοιπόν, η ελάχιστη απόσταση ενός γραµµικού κώδικα δοµής ισούται µε τον ελάχιστο αριθµό στηλών του πίνακα H των οποίων το άθροισµα είναι ίσο µε το µηδέν. Έστω για παράδειγµα ότι έχουµε τον εξής πίνακα ελέγχου ισοτιµίας: H = 3

34 Παρατηρούµε ότι καµία στήλη δεν είναι µηδενική. Μπορούµε να διακρίνουµε επίσης, ότι δεν υπάρχει κανένα ζευγάρι στηλών των οποίων το άθροισµα να δίνει αποτέλεσµα ίσο µε το µηδέν. Το ελάχιστο σύνολο στηλών δηλαδή, που δίνει µηδενικό άθροισµα είναι τρεις. Σύµφωνα µε τις παρατηρήσεις αυτές λοιπόν, αντιλαµβανόµαστε ότι η ελάχιστη απόσταση του κώδικα ισούται µε 3. 3

35 ΚΕΦΑΛΑΙΟ 3 Κώδικες Χαµηλής-Πυκνότητας-Ελέγχου-Ισοτιµίας (Low-Density-Parity-Check codes, LDPC) 3. Ιστορική αναδροµή Τις τελευταίες δεκαετίες το ενδιαφέρον των επιστηµόνων της Θεωρίας Κωδίκων έχει επικεντρωθεί στην κατασκευή κωδίκων διόρθωσης σφαλµάτων πολύ καλά δοµηµένων, οι οποίοι διαθέτουν µεγάλη ελάχιστη απόσταση, d min. Η υψηλή ποιότητα των κωδίκων ως προς τη δοµή τους, καθιστά αντιµετωπίσιµη την πολυπλοκότητα της αποκωδικοποίησης, ενώ παράλληλα η µεγάλη ελάχιστη απόσταση φέρεται να εξασφαλίζει την υψηλή απόδοση του κώδικα. Ωστόσο, η προσέγγιση αυτή δεν θα µπορούσε να µην έχει και ορισµένα µειονεκτήµατα. Αρχικά, για να είναι ένα σχήµα κωδικοποίησης αξιόπιστο, η επιλογή των κωδίκων θα πρέπει να γίνει τυχαία. Το γεγονός αυτό όµως, έρχεται σε αντίθεση µε το στόχο της θεωρίας κωδίκων, την κατασκευή δηλαδή, πολύ καλά δοµηµένων κωδίκων, οι οποίοι παράλληλα χαρακτηρίζονται από ένα απλό σχήµα αποκωδικοποίησης. Επίσης, 32

36 συγκρινόµενη µε τη χωρητικότητα του διαύλου (channel capacity), η ελάχιστη απόσταση, σε πρακτικό επίπεδο, αποτελεί µία µικρότερου ενδιαφέροντος παράµετρο σχετικά µε την απόδοση του κώδικα. Από το 993 και µετά, οι νεότερες τεχνικές κωδικοποίησης επέτρεψαν την κατασκευή κωδίκων των οποίων η απόδοση σε δίαυλο Προσθετικού Λευκού Γκαουσσιανού Θορύβου (AWGN) προσέγγιζε το όριο του Shannon µε απόκλιση db. Οι µέθοδοι αυτές, όπως για παράδειγµα οι Turbo και οι LDPC κώδικες, χρησιµοποιούν µία εντελώς διαφορετική φιλοσοφία βασισµένη στα επαναληπτικά σχήµατα κωδικοποίησης. 3.2 Κώδικες Χαµηλής Πυκνότητας Ελέγχου Ισοτιµίας (LDPC Codes) Οι Κώδικες - Χαµηλής Πυκνότητας Ελέγχου - Ισοτιµίας (LDPC), αποτελούν µία κατηγορία γραµµικών κωδίκων δοµής (linear block codes). Οι κώδικες αυτοί, καθώς και ο σχετικός επαναληπτικός αλγόριθµος κωδικοποίησης, προτάθηκαν από τον R. G. Gallager το 96 στη διδακτορική του διατριβή, όµως δεν αξιοποιήθηκαν παρά µόνο στις αρχές της δεκαετίας του 99. Ο λόγος για τον οποίο οι LDPC κώδικες είχαν κατά κάποιο τρόπο τεθεί στο περιθώριο, ήταν το υπερβολικά µεγάλο, για τα δεδοµένα της εποχής, υπολογιστικό κόστος που απαιτούσαν, καθώς οι υπολογιστικές µηχανές της εποχής δεν ήταν σε θέση να ανταπεξέλθουν στην πολυπλοκότητα του αλγορίθµου στον οποίο βασίζονταν οι LDPC κώδικες. Εξαίρεση αποτελεί το έργο του Tanner το 98, ο οποίος εισήγαγε την αναπαράσταση των LDPC κωδίκων µε γράφους, οι οποίοι ονοµάζονται Γράφοι Tanner (Tanner Graphs) ή αλλιώς ιµερείς Γράφοι (Bipartite Graphs). 33

37 3.3 Τρόποι αναπαράστασης των LDPC κωδίκων Οι Κώδικες - Χαµηλής Πυκνότητας Ελέγχου - Ισοτιµίας (LDPC codes) µπορούν να αναπαρασταθούν µε δύο τρόπους. Όπως το σύνολο των κωδίκων δοµής, δύνανται να περιγραφούν µέσω πινάκων. Υπάρχει όµως και µία εναλλακτική µέθοδος απεικόνισης, η οποία χρησιµοποιεί γράφους Tanner Αναπαράσταση µε πίνακα Εφόσον οι κώδικες που µελετάµε ανήκουν στην κατηγορία των γραµµικών κωδίκων δοµής (linear block codes), προκύπτουν από έναν πίνακα G διάστασης k n, ο οποίος λέγεται γεννήτορας πίνακας, ενώ οι αριθµοί k και n αντιστοιχούν στον αριθµό ψηφίων του προς µετάδοση µηνύµατος και της κωδικής λέξης αντίστοιχα. Όπως έχει αναφερθεί και στο προηγούµενο κεφάλαιο, ο πίνακας αυτός δηµιουργείται από ένα σύνολο k γραµµικώς ανεξάρτητων n-διάστατων διανυσµάτων, g,g,,g k-. Ο γεννήτορας πίνακας συνδέει το προς µετάδοση µήνυµα c µε την κωδική λέξη v, αφού κάθε κωδική λέξη γράφεται ως εξής: v = c G. Ο γεννήτορας πίνακας έχει τη µορφή G = [P I k ], δηλαδή αποτελείται από τον k (n-k) πίνακα P και από τον k k µοναδιαίο πίνακα I k. Γενικά όµως οι γραµµικοί κώδικες δοµής, περιγράφονται κυρίως από τον Πίνακα Ελέγχου Ισοτιµίας (Parity Check Matrix), H. Ο πίνακας αυτός έχει τη µορφή H = [I n-k P T ], δηλαδή προκύπτει από το συνδυασµό του µοναδιαίου (n-k) (n-k) I n-k πίνακα µε τον ανάστροφο του πίνακα P, διάστασης (n-k) k. Όπως γίνεται εύκολα αντιληπτό, ο πίνακας H, έχει διάσταση (n-k) n. Συγκεκριµένα, το πλήθος των γραµµών του αντιστοιχεί στο πλήθος των πλεοναζόντων ψηφίων ελέγχου (check bits) που εισάγονται µε την κωδικοποίηση, ενώ ο αριθµός των στηλών του ισούται µε τον αριθµό των ψηφίων από τον οποίο αποτελείται µία κωδική λέξη. Ο πίνακας H πραγµατοποιεί m = n-k ελέγχους ισοτιµίας σε κάθε κωδική λέξη που φτάνει στον αποκωδικοποιητή. 34

38 Οι κώδικες Χαµηλής Πυκνότητας Ελέγχου Ισοτιµίας, LDPC, αποτελούν µία συγκεκριµένη κατηγορία γραµµικών κωδίκων δοµής, της οποίας το βασικό χαρακτηριστικό συνίσταται στην χαµηλή πυκνότητα του πίνακα ελέγχου ισοτιµίας σε µη µηδενικά στοιχεία (). Αυτό σηµαίνει ότι ο πίνακας H της συγκεκριµένης κατηγορίας κωδίκων αποτελείται κυρίως από µηδενικά στοιχεία και µόνο από έναν πολύ µικρό αριθµό µονάδων. Από το χαρακτηριστικό αυτό προκύπτει και η ονοµασία των συγκεκριµένων κωδίκων (χαµηλής πυκνότητας). Ακολούθως, δίνεται ένας πίνακας χαµηλής πυκνότητας ελέγχου ισοτιµίας για έναν (8,4) κώδικα, δηλαδή για κώδικα µε µεταδιδόµενη πληροφορία αποτελούµενη από 4 ψηφία και µε 4 ψηφία ελέγχου. Η= ύο σηµαντικά µεγέθη που πρέπει να λαµβάνονται υπόψη σε έναν πίνακα ελέγχου ισοτιµίας είναι το πλήθος των µη µηδενικών στοιχείων σε κάθε γραµµή του πίνακα, w r και το πλήθος των µη µηδενικών στοιχείων σε κάθε στήλη του πίνακα w c. Τα µεγέθη αυτά ονοµάζονται βαθµός γραµµής και βαθµός στήλης αντίστοιχα. Για να µπορεί να χαρακτηριστεί ένας πίνακας ως χαµηλής-πυκνότητας πίνακας (low-density), θα πρέπει να ικανοποιούνται οι συνθήκες w c << n και w r << m. Πιο αναλυτικά, θα πρέπει ο αριθµός των στοιχείων σε µία στήλη του πίνακα να είναι κατά πολύ µικρότερος από το πλήθος των στηλών, δηλαδή από το µήκος της κωδικής λέξης, και αντίστοιχα ο αριθµός των στοιχείων σε µία γραµµή του πίνακα να είναι κατά πολύ µικρότερος από το πλήθος των γραµµών, δηλαδή από το µήκος του προς µετάδοση µηνύµατος. Για την ικανοποίηση των ανωτέρω συνθηκών, ο πίνακας ελέγχου ισοτιµίας πρέπει να είναι πολύ µεγάλος. Συνεπώς, ο πίνακας 35

39 του παραδείγµατος δεν µπορεί να χαρακτηριστεί ως πίνακας χαµηλής πυκνότητας, απλά χρησιµοποιείται για την κατανόηση των χαρακτηριστικών ενός τέτοιου πίνακα Γραφική αναπαράσταση Ο δεύτερος τρόπος αναπαράστασης των LDPC κωδίκων προτάθηκε από τον Tanner, ο οποίος εισήγαγε τους γράφους Tanner. Οι γράφοι Tanner (Tanner graphs) εκτός από το γεγονός ότι παρέχουν µία πλήρη περιγραφή του κώδικα, βοηθούν επίσης στην επεξήγηση του αλγόριθµου κωδικοποίησης που χρησιµοποιείται. Οι γράφοι Tanner ανήκουν στην κατηγορία των διµερών γράφων (bipartite graphs). Ένας γράφος ονοµάζεται «διµερής» όταν οι κόµβοι του χωρίζονται σε δύο οµάδες και µόνο κόµβοι διαφορετικών οµάδων µπορούν να ενωθούν µεταξύ τους. Οι δύο τύποι κόµβων που υπάρχουν σε ένα γράφο Tanner ονοµάζονται κόµβοι µεταβλητών (variable nodes), οι οποίοι συνήθως αναφέρονται ως v-nodes και κόµβοι ελέγχου (check nodes), οι οποίοι συνήθως αναφέρονται ως c-nodes. Ο γράφος Tanner ενός κώδικα σχεδιάζεται ακολουθώντας το εξής κανόνα: Ο i-οστός κόµβος ελέγχου συνδέεται µε τον j-οστό κόµβο µεταβλητών µόνο όταν το στοιχείο h ij του πίνακα ελέγχου ισοτιµίας, H, είναι ίσο µε. Μπορούµε να συµπεράνουµε ότι ο γράφος περιλαµβάνει m = n-k κόµβους ελέγχου, έναν για κάθε ψηφίο ελέγχου, και n κόµβους µεταβλητών, έναν για κάθε ψηφίο της κωδικής λέξης. Επιπλέον, οι m γραµµές του πίνακα H ορίζουν m συνδέσεις κόµβων ελέγχου και οι n στήλες ορίζουν n συνδέσεις κόµβων µεταβλητών. 36

40 37 Στο σχήµα που ακολουθεί παρουσιάζεται ο γράφος του κώδικα που αντιστοιχεί στον πίνακα H του προηγούµενου σχήµατος. Η= Σχήµα 3. : Γράφος Tanner και ο αντίστοιχος πίνακας ελέγχου ισοτιµίας c c c 2 c 3 c 4 c 5 c 6 c 7 f f f 2 f 3 c-nodes v-nodes

41 Παρατηρούµε οι ο κόµβος ελέγχου f συνδέεται µε τους κόµβους µεταβλητών c, c 3, c 4 και c 7 αφού τα στοιχεία h, h 3, h 4 και h 7 του πίνακα H έχουν τιµή. Με τον ίδιο τρόπο, ο κόµβος f συνδέεται µε τους c, c, c 2 και c 4, αφού h = h = h 2 = h 4 =. Οµοίως ο c-node f 2 συνδέεται µε τους v- nodes c 2, c 5, c 6 και c 7, διότι h 2 = h 25 = h 26 = h 27 = και τέλος, ο κόµβος f 3 συνδέεται µε τους κόµβους c, c 3, c 4 και c 6 δηλώνοντας ότι τα στοιχεία h 3, h 33, h 34 και h 36 έχουν τιµή. Γνωρίζοντας ότι σε κάθε γραµµικό κώδικα δοµής πρέπει να ισχύει η σχέση v H T =, ώστε να είναι δυνατή η ανίχνευση και διόρθωση σφαλµάτων, παρατηρούµε ότι οι τιµές των ψηφίων της πληροφορίας (variable nodes), που συνδέονται στον ίδιο κόµβο ελέγχου (check node), πρέπει να δίνουν µηδενικό άθροισµα. κώδικες 3.4 Οµαλοί (Regular) και Ανώµαλοι (Irregular) LDPC Οι LDPC κώδικες ταξινοµούνται σε δύο κατηγορίες, τους οµαλούς (regular) και τους ανώµαλους (irregular) κώδικες. Ένας οµαλός LDPC κώδικας χαρακτηρίζεται από την ύπαρξη ενός πίνακα ελέγχου ισοτιµίας, H, ο οποίος περιέχει ακριβώς w c µη µηδενικά στοιχεία σε κάθε του στήλη αλλά και w r = w c (n/m) µη µηδενικά στοιχεία σε κάθε γραµµή του. ηλαδή, ο αριθµός των µονάδων των στηλών και των γραµµών του πίνακα H είναι σταθεροί και συγκεκριµένα ονοµάζονται βαθµός στήλης (column degree) και βαθµός γραµµής (row degree) αντίστοιχα. Στο παράδειγµα που περιγράφεται από τα προηγούµενα σχήµατα, ο LDPC κώδικας είναι οµαλός, µε βαθµό στήλης w c = 2 και βαθµό γραµµής w r =2 (8/4)=4. 38