Συμπίεση Δεδομένων

Transcript

1 Συμπίεση Δεδομένων

2 Στοιχεία Επεξεργασίας Σήματος Δρ. Ν. Π. Σγούρος 2

3 Εργοδικές Διαδικασίες Η μέση τιμή διαφόρων στιγμιότυπων της διαδικασίας (στατιστική μέση τιμή) ταυτίζεται με τη χρονική μέση τιμή της διαδικασίας και είναι ανεξάρτητη του στιγμιότυπου και του χρόνου. Κατά την εύρεση μέσων τιμών μπορούμε να αξιοποιούμε τα δεδομένα από τη χρονική μέση τιμή Δρ. Ν. Π. Σγούρος 3

4 Αυτοσυσχέτιση Θεωρείστε την εργοδική ακολουθία τυχαίων αριθμών {x(n)}, n=1,2,... με μέση τιμή μηδέν και διακύμανση Ε{x 2 (n)}=σ x2. Ορίζεται η ακολουθία αυτοσυσχέτισης για k=0,±1, ±2,... ώς: R x (k)=e{x(n)x(n-k)} Ισχύει ότι :R x (0)=σ x 2 και R x (k)=r x (-k) Δρ. Ν. Π. Σγούρος 4

5 Αυτοσυσχέτιση Λόγω της εργοδικότητας μπορεί να υπολογιστεί η αυτοσυσχέτιση και μέσω της σχέσης: N /2 1 Rx k lim xn xn k, k 0, 1,... N N nn 2 Αντί για τη συνάρτηση αυτοσυσχέτισης συνήθως χρησιμοποιείται ο συντελεστής αυτοσυσχέτισης που δίνεται από τη σχέση ρ x (k)=r x (k)/σ x 2 Δρ. Ν. Π. Σγούρος 5

6 Διαφορική Παλμοκωδική διαμόρφωση (DPCM) Βελτιώνει την απόδοση του PCM εκμεταλλευόμενο το συσχετισμό γειτονικών δειγμάτων σε «πραγματικά» σήματα Κβαντίζονται διαφορές μεταξύ δειγμάτων του σήματος αντί για τα δείγματα του σήματος Πριν τον υπολογισμό της διαφοράς τα δείγματα κβαντίζονται για την αποφυγή σφαλμάτων διάδοσης και άρα θορύβου Δρ. Ν. Π. Σγούρος 6

7 Διαφορική Παλμοκωδική διαμόρφωση (DPCM) Δρ. Ν. Π. Σγούρος 7

8 Διαφορική Παλμοκωδική διαμόρφωση (DPCM) Πομπός Δρ. Ν. Π. Σγούρος 8

9 Διαφορική Παλμοκωδική διαμόρφωση (DPCM) Δέκτης Δρ. Ν. Π. Σγούρος 9

10 Διαφορική Παλμοκωδική διαμόρφωση (DPCM) Γενικευμένη μορφή X ~ n X ~ n Y n Ŷ n X n Xˆ n X ~ n : Η πρόγνωση του X n Δρ. Ν. Π. Σγούρος 10

11 Διαφορική Παλμοκωδική διαμόρφωση (DPCM) Γενικευμένη μορφή X n Πομπός Δέκτης Δρ. Ν. Π. Σγούρος 11

12 Παράδειγμα 6.1 Η ακολουθία δειγμάτων {x n } ενός πραγματικού σήματος παρουσιάζει μέση τιμή μηδέν, διακύμανση σ x2, και η συνάρτηση αυτοσυσχέτισης R x (1)=0.95σ x 2, R x (2)=(0.95) 2 σ x2. Για τη δημιουργία ενός Συστήματος Διαβίβασης Αναλογικού Σήματος DPCM ορίζεται η ακολουθία {y n } y n =x n -α 1 x n-1 -α 2 x n-2 και αντί να κβαντίσουμε απευθείας την {x n } κβαντίζουμε την {y n }. Να προσδιοριστούν οι σταθεροί συντελεστές α 1 και α 2 έτσι ώστε σ y 2 να είναι ελάχιστο και στη συνέχεια για τις τιμές αυτές να υπολογίστεί η βελτίωση του QSNR αν χρησιμοποιήσετε τον ίδιο αριθμό Ν σταθμών κβάντισης. Δρ. Ν. Π. Σγούρος 12

13 Παράδειγμα 6.1 Δρ. Ν. Π. Σγούρος 13

14 Παράδειγμα 6.2 Για ένα σήμα x(n) n=1,2,, το οποίο μπορεί να θεωρηθεί ότι περιγράφεται από τον τύπο x(n)=ρx(n-1)+e(n) με e(n) Gaussian με ασυσχέτιστα δείγματα, μέσης τιμής μ e =0 και σ e2 =β 2, Ποια η σχέση που δίνει στο DPCM το σ y 2 Δρ. Ν. Π. Σγούρος 14

15 Παράδειγμα 6.2 Κβαντιστής 2 2 y ˆ ˆ n yn xn xn 2 2 [ ] [ ] D f R q y Δρ. Ν. Π. Σγούρος 15

16 Παράδειγμα 6.2 Θεωρώντας πρόγνωση : ˆ x( n) x n 1 Το σφάλμα πρόγνωσης θα υπολογίζεται από τη σχέση: ( ) ˆ 1 y n x n x n x n x n Δρ. Ν. Π. Σγούρος 16

17 Παράδειγμα 6.2 Για τη διακύμανση του θορύβου μπορούμε να γράψουμε xn 2 xn xn 1 xn 1 e( n) e( n) 2 x n x n 1 e( n) x n x n x n x n 1 x n e( n) x x Άρα προκύπτει ότι x Δρ. Ν. Π. Σγούρος 17

18 Παράδειγμα 6.2 Για την παραμόρφωση χρησιμοποιώντας το ίδιο μοντέλο πρόγνωσης θα έχουμε όπως και προηγούμενα ότι : ( ) ˆ 1 1 ( ) ˆ 1 1 ˆ 1 ( ) y n x n x n x n x n x n e n x n y n x n x n e n Όμως ˆ ˆ 2 2 Dx E x n x n E y n y n Dy D Δρ. Ν. Π. Σγούρος 18

19 Παράδειγμα 6.2 Με χρήση των παραπάνω προκύπτει ότι : 1 D f R y y x Άρα 2 2 y x f R Δρ. Ν. Π. Σγούρος 19

20 Σύγκριση PCM-DPCM Για ίδιο ρυθμό SNR PCM 2 2 x x 1 2 D x x f R f R SNR DPCM x x x x D x D y y f R y f R 2 x 10log DPCM PCM x y DPCM.dB PCM.dB 10 db 2 y 2 2 SNR SNR SNR SNR Δρ. Ν. Π. Σγούρος 20

21 Σύγκριση PCM-DPCM Για ίδιο SQNR Θεωρώντας ότι: SNR SNR DPCM 1 1 PCM 2 x 2 y f RDPCM f RPCM br f R a2 R log 2 f R log 2 a b Προκύπτει x b RPCM R DPCM x 2 2 brdpcm brpcm 2 y a2 a2 y b=2 R 2 1 PCM DPCM log x R 2 2 bits/sample 2 y Δρ. Ν. Π. Σγούρος 21

22 Σύγκριση PCM-DPCM Για ίδιο SQNR R 2 1 PCM DPCM log x R 2 2 bits/sample 2 y Για ίδιο ρυθμό 2 x 10 log DPCM.dB PCM.dB 10 db 2 y SNR SNR Δρ. Ν. Π. Σγούρος 22

23 Διαφορές Ηχητικών σημάτων Κύριοι Τύποι Κωδικοποίηση ομιλίας Κωδικοποίηση Ήχου (Ομιλία + μουσική) Χρησιμοποιούμενο εύρος ζώνης Ήχος khz (Σύνολο ακουστικού φάσματος) Ομιλία - Τηλεφωνία khz (Στενή ζώνη) Ομιλία - Τηλεφωνία khz (Φωνή - Ευρεία ζώνη) Εφαρμογές Διαδικτύου khz (Επαυξημένη ευρεία ζώνη) Δρ. Ν. Π. Σγούρος 23

24 Μοντελοποίηση Απαιτούνται μοντέλα: Φωνητικής οδού (χορδές, γλώσσα, χείλη) Πηγή Ακουστικής οδού (έσω μέσο - έξω αυτί) - Δέκτης Δρ. Ν. Π. Σγούρος 24

25 Μοντέλο ομιλίας Για ένα τμήμα ομιλίας μπορεί να χρησιμοποιηθεί ένα μοντέλο ARMA (Auto regressive moving average) p x n ai x n i Ge( n). i1 a i : σταθεροί συντελεστές G: συντελεστής ενίσχυσης e(n): μοντέλο θoρύβου (π.χ. Gaussian) Για το θόρυβο ισχύει R e (m)=0 όταν m διάφορο το μηδενός και R e (0)=σ e2 =1 Δρ. Ν. Π. Σγούρος 25

26 Μοντέλο ομιλίας {e(n)} G + {x(n)} p i1 i a x n i Δρ. Ν. Π. Σγούρος 26

27 Μοντέλο ομιλίας p i1 i a x n i Δρ. Ν. Π. Σγούρος 27

28 Αναλογικές-Ψηφιακές εικόνες Μια συνεχής συνάρτηση : f ( x, y), x[ x, x ], y[ y, y ], f [ f, f ] Δειγματοληψία : min max min max min max x, y x, y, i 1,..., N, j 1,... M Κβάντιση : f ( x, y) fˆ ( x, y) i j Τελικά : f ( x, y) fˆ( x, y ) fˆ( i, j) Δρ. Ν. Π. Σγούρος 28 i j

29 Δειγματοληψία 75x100 pixels 600x800 pixels Δρ. Ν. Π. Σγούρος 29

30 Κβάντιση 16=2 4 επίπεδα για κάθε χρώμα 256=2 8 επίπεδα για κάθε χρώμα Δρ. Ν. Π. Σγούρος 30

31 Συσχέτιση δειγμάτων y x Οι τιμές φωτεινότητας για ζεύγη γειτονικών εικονοστοιχείων. Κάθε σημείο αναπαριστά ένα εικονοστοιχείο. Η συντεταγμένη x δίνει τη φωτεινότητα του εικονοστοιχείου, ενώ η συντεταγμένη y τη φωτεινότητα του δεξιού του γείτονα. Η τιμές της διαγωνίου x=y δείχνουν την ισχυρή συσχέτιση μεταξύ γειτονικών εικονοστοιχείων. Δρ. Ν. Π. Σγούρος 31

32 Μετασχηματισμοί Παρατηρήσεις Όλες οι εικόνες εμπεριέχουν πλεονασμό λόγω υψηλής συσχέτισης γειτονικών δειγμάτων. Η διασπορά για κάθε δείγμα είναι σταθερή. Στόχοι Ένας μετασχηματισμός αποτελεί έναν μηχανισμό αποσύζευξης, δημιουργώντας μία νέα μορφή του σήματος ισοδύναμη με την αρχική η οποία μπορεί να κωδικοποιηθεί αποτελεσματικότερα. Αναζητούμε αντιστρέψιμους μετασχηματισμούς. Δρ. Ν. Π. Σγούρος 32

33 Μετασχηματισμοί Βασικό Παράδειγμα Θεωρήστε το διάνυσμα x = x 1, x 2 T με: μ = Ε x και R xx = C xx = Ε x μ x μ Τ Ο πίνακας αυτοσυσχέτισης θα μπορεί να γραφεί με βάση τον πίνακα συνδιασποράς ως R xx = σ 2 1 ρ ρ 1 Δρ. Ν. Π. Σγούρος 33

34 Μετασχηματισμοί Βασικό Παράδειγμα Αν μετασχηματιστεί το διάνυσμα x με χρήση του πίνακα Α: v = A x, A = Προκύπτει ότι ο πίνακας αυτοσυσχέτισης μπορεί να γραφεί ως R vv = A R xx A T = σ ρ ρ Σημείωση : Μοναδιακοί πίνακες : Α 1 = Α, όπου Α = Α Τ Α C nxm Ορθογώνιοι πίνακες: Α 1 = Α Τ Α R nxm Δρ. Ν. Π. Σγούρος 34

35 Ορθογώνιοι Μετασχηματισμοί Ευθύς μετασχηματισμός y Ax NxN συντελεστές σε μορφή διανύσματος Αντίστροφος Μετασχηματισμός Πίνακας μετασχηματισμού διάστασης Ν 2 χν 2 Σήμα μεγέθους NxN σε μορφή διανύσματος Το χ αναπαριστάνεται σαν ένας γραμμικός συνδυασμός κάποιων διανυσμάτων βάσης 1 T x A y A y Για τον υπολογισμό των συντελεστών απαιτείται ο πολλαπλασιασμός ενός διανύσματος διάστασης Ν 2 χ1 με ένα πίνακα Ν 2 χν 2 συνολικής πολυπλοκότητας Ο(Ν 4 ) Δρ. Ν. Π. Σγούρος 35

36 Διαχωρίσιμοι Ορθογώνιοι Μετασχηματισμοί Ένας ορθογώνιος μετασχηματισμός ενός σήματος ΝχΝ είναι διαχωρίσιμος αν μπορεί να γραφεί στη μορφή: y Ax A T ΝχΝ συντελεστές Ορθογώνιος πίνακας μετασχηματισμού διάστασης ΝχΝ Σήμα μεγέθους ΝχΝ Αντίστροφος Μετασχηματισμός T x A y A Για τον υπολογισμό των συντελεστών απαιτούνται δύο πολλαπλασιασμοί πινάκων διάστασης ΝχΝ συνολικής πολυπλοκότητας Ο(Ν 3 ) Δρ. Ν. Π. Σγούρος 36

37 Κριτήρια Επιλογής Μετασχηματισμού Υψηλή αποσυσχέτιση δεδομένων Χαμηλή υπολογιστική πολυπλοκότητα Δρ. Ν. Π. Σγούρος 37

38 Μετασχηματισμός KLT Πλεονεκτήματα Επιτυγχάνει υψηλή αποσυσχέτιση Οι συναρτήσεις βάσης του KLT είναι τα ιδιοδιανύσματα του πίνακα αυτοσυσχέτισης του αρχικού σήματος. Μειονεκτήματα Εξαρτάται από τη στατιστική του σήματος Δεν είναι πάντα διαχωρίσιμος Ο(Ν 4 ) Δρ. Ν. Π. Σγούρος 38

39 Διακριτός Μετασχηματισμός Fourier Ο DFT ενός μονοδιάστατου σήματος {x(n)} μήκους Ν δίνεται από τη σχέση: j2 N 1 W e N με N kn X ( k) x( n) WN, k 0,..., N 1 n0 Ο πίνακας του μετασχηματισμού περιέχει τις συναρτήσεις βάσης F 1 N W W W W W W W W W ( N 1) N N N ( N 1) N N N ( N 1)0 ( N 1)1 ( N 1)( N 1) N N N Είναι διαχωρίσιμος και μπορεί να υπολογιστεί με χρήση του FFT με πολυπλοκότητα Ο(Ν 2 log 2 Ν) [Cooley,Tuckey] Περιέχει μιγαδικούς αριθμούς Δεν παρέχει το ίδιο υψηλούς βαθμούς αποσυσχέτισης όπως άλλοι μετασχηματισμοί Δρ. Ν. Π. Σγούρος 39

40 Διακριτός μετασχηματισμός Ημιτόνου Χαρακτηριστικά Για σήματα με χαμηλή συσχέτιση αποδίδει λίγο χειρότερα από τον KLT Ο υπολογισμός του γίνεται με χρήση του FFT. Δρ. Ν. Π. Σγούρος 40

41 Διακριτός μετασχηματισμός Συνημιτόνου Χαρακτηριστικά Έχει απόδοση κοντά στον KLT ειδικά για σήματα με υψηλό βαθμό συσχέτισης. Ο υπολογισμός του γίνεται με χρήση του FFT. Είναι από τους επικρατέστερους μετασχηματισμούς που χρησιμοποιούνται στην κωδικοποίηση ακίνητης και κινούμενης εικόνας Δρ. Ν. Π. Σγούρος 41

42 Άλλοι μετασχηματισμοί Hadamard-Walsh Έχει πολύ απλό πίνακα μετασχηματισμού (αποτελούμενο από -1,1) Επιτυγχάνει γενικά μικρότερη αποσύζευξη απο τους KLT,DST,DCT Haar Πρόδρομος του μετασχηματισμού με χρήση Wavelets Επιτυγχάνει γενικά μικρή συγκέντρωση ενέργειας Δρ. Ν. Π. Σγούρος 42

43 Παράθυρο Μετασχηματισμού Κριτήρια Μείωση συσχέτισης μεταξύ γειτονικών παραθύρων Το μέγεθος του παραθύρου να είναι δύναμη του 2 για απλοποίηση υπολογισμών Παρατήρηση Ο βαθμός συμπίεσης αλλά και η υπολογιστική πολυπλοκότητα αυξάνουν με αύξηση του μεγέθους του παραθύρου του μετασχηματισμού Δρ. Ν. Π. Σγούρος 43

44 Μέσο τετραγωνικό σφάλμα (RMSE) Root Mean Square Error (RMSE) Παράθυρο Μετασχηματισμού Οι μετασχηματισμοί Walsh-Hadamard και DCT συγκλίνουν γρήγορα στις τελικές τιμές τους για μεγέθη παραθύρου μεγαλύτερα από 8x8. Η καμπύλη του μετασχηματισμού Fourier συγκλίνει τελικά για μεγαλύτερες τιμές παραθύρου στην τιμή που δίνει ο DCT Root Mean Square Error (RMSE) Fourier Walsh-Hadamard 1.4 2x2 4x4 8x8 16x16 32x32 ÌÝãåèïò Ìðëïê Μέγεθος παραθύρου Μετασχηματισμού DCT Δρ. Ν. Π. Σγούρος 44

45 Μέθοδοι Κατανομής Ρυθμού Κατανομή ζώνης Κατανομή με βάση τη στατιστική των συντελεστών Κατανομή με βάση κάποιο κατώφλι Κατανομή με βάση ψυχο-οπτικά πειράματα (JPEG) Δρ. Ν. Π. Σγούρος 45

46 Μέθοδοι Κατανομής Ρυθμού Κατανομή ζώνης Επιλογή Ν t συντελεστών σε κάθε μπλοκ που παρουσιάζουν τη μεγαλύτερη διασπορά με χρήση μιας μάσκας ζώνης. Αυτοί κβαντίζονται και μοιράζονται ανομοιογενώς ένα συγκεκριμένο πλήθος bits Παράδειγμα μάσκας ζώνης Παράδειγμα κατανομής bits με χρήση ζώνης Δρ. Ν. Π. Σγούρος 46

47 Μέθοδοι Κατανομής Ρυθμού Κατανομή με βάση τη στατιστική των συντελεστών Υπολογισμός της διασποράς σε κάθε θέση συντελεστή για όλα τα μπλόκ μετασχηματισμού της εικόνας. Κβάντιση και κατανομή των bits με βάση τη διασπορά του κάθε συντελεστή Lena Δρ. Ν. Π. Σγούρος 47

48 Μέθοδοι Κατανομής Ρυθμού Κατανομή με βάση κάποιο κατώφλι Επιλογή Ν t συντελεστών σε κάθε μπλοκ οι οποίοι βρίσκονται πάνω από ένα κατώφλι με χρήση μιας μάσκας κατωφλίου. Κβάντιση και κατανομή των bits με βάση κάποια στρατηγική (π.χ. ορίζοντας ζώνες) Μάσκα κατωφλίου Κατανομή με βάση τη μάσκα (Με κωδικοποίηση κατά ζώνη για την ανάθεση bits) Δρ. Ν. Π. Σγούρος 48

49 Κωδικοποίηση συντελεστών Οι κβαντισμένοι συντελεστές τελικά αναδιατάσσονται σε μία 1-Δ ακολουθία ώστε να συγκεντρώνονται όσο το δυνατό περισσότεροι μη μηδενικοί όροι στην αρχή της ακολουθίας. Χρησιμοποιείται η τεχνική RLE για την περαιτέρω μείωση του πλεονασμού της ακολουθίας Στην περίπτωση που από ένα σημείο και έπειτα η ακολουθία έχει μόνο μηδενικά υπάρχουν ειδικά σύμβολα τερματισμού της Παράδειγμα αναδιάταξης συντελεστών Δρ. Ν. Π. Σγούρος 49

50 Κωδικοποιητής JPEG Αρχική Εικόνα Βαθμίδα μετασχηματισμού Κβαντιστής Πίνακες Κβάντισης Δρ. Ν. Π. Σγούρος 50

51 Ανάλυση κωδικοποιητή JPEG Κατάτμηση εικόνας σε μπλόκ (8x8) 2D-DCT Κβάντιση Zig-Zag σάρωση συντελεστών Η επιλογή παραθύρου 8x8 για το πρότυπο JPEG βασίζεται σε ένα συμβιβασμό μεταξύ της υπολογιστικής πολυπλοκότητας και του βαθμού συμπίεσης. Δρ. Ν. Π. Σγούρος 51

52 Μετασχηματισμός σε μπλοκ 8χ8 Δρ. Ν. Π. Σγούρος 52

53 Συντελεστές Μετασχηματισμού DC συνιστώσα Κωδικοποιείται ξεχωριστά μετά την κβάντιση με χρήση DPCM ΑC συνιστώσες Υλοποιείται κωδικοποίηση κατωφλίου με χρήση 1. Κοινού κατωφλίου για όλα τα μετασχηματισμένα μπλοκ της εικόνας ή 2. Διαφορετικού κατωφλίου για κάθε κωδικοποιημένο μπλοκ ή 3. Μεταβλητού κατωφλίου εξαρτώμενου από τη θέση του συντελεστή μέσα στο μπλοκ. Στο JPEG επιλέχθηκε η χρήση της τρίτης τεχνικής που συνδυάζει σε μια απλή λύση την κατωφλίωση και την κβάντιση των συντελεστών. Δρ. Ν. Π. Σγούρος 53

54 Κβάντιση AC Συντελεστών Έστω Τ ένα μπλοκ 8χ8 των συντελεστών του DCT τότε: T( u, v) Tˆ( u, v ), u, v 1,..8 Q( u, v) Παρατηρήσεις Q( u, v) 2 T( u, v) T( u, v) 0 1. Αν ˆ ˆ(, ) T u v 3 2. Αν ο πίνακας Q έχει σταθερή τιμή : Q(u,v)=c τότε Όταν c c kc T( u, v) kc 2 2-3c - 2c - c c 2c 3c T( u, v) Προκύπτει ότι : T ˆ( u, v) k Δρ. Ν. Π. Σγούρος 54

55 Πίνακαςπίνακας Κβάντισης Πίνακας κβάντισης συντελεστών για το JPEG με μεταβλητά βάρη ανα συντελεστή Οι τιμές του πίνακα διαμορφώνονται με βάση ψυχο-οπτικά κριτήρια! Q Δρ. Ν. Π. Σγούρος 55

56 Αναδιάταξη συντελεστών (Zig-Zag) DC AC 01 AC 07 AC 70 AC 77 Δρ. Ν. Π. Σγούρος 56

57 Κωδικοποιητής-Αποκωδικοποιητής JPEG Κωδικοποιητής DC Αρχικό Μπλοκ εικονας 2D DCT Κβαντιστής DPCM AC ZigZag Huffman encoding Πίνακες DC & AC Κβάντισης Πίνακες Huffman DC Τελικό Μπλοκ Εικόνας 2D ΙDCT Αντίστροφος Κβαντιστής DPCM AC DeZigZag Huffman Decoding Αποκωδικοποιητής Δρ. Ν. Π. Σγούρος 57