Τεχνικές Συµπίεσης Βίντεο. Δρ. Μαρία Κοζύρη Τµήµα Πληροφορικής Πανεπιστήµιο Θεσσαλίας

Transcript

1 Τεχνικές Συµπίεσης Βίντεο Δρ. Μαρία Κοζύρη Τµήµα Πληροφορικής Πανεπιστήµιο Θεσσαλίας

2 Ενότητα 3: Entropy Coding Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 2

3 Θεωρία Πληροφορίας Κωδικοποίηση Θεµελιώθηκε απο τον Claude Shannon (AT&T-Bell Labs, 1948 A Mathematical Theory of Communication ) Βαθεια µαθηµατικη θεωρία η οποία όµως εξηγει πολυ σηµαντικα προβλήµατα ηλεκτρολόγων/τηλεπικοινωνιακών µηχανικών Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 3

4 Θεωρία Πληροφορίας Κωδικοποίηση Η πληροφορία που µεταδίδει ένα σύµβολο είναι αντιστρόφως ανάλογη της πιθανότητας του: I p = log ( p (bits) Η εντροπία µιας πηγής είναι η µέση τιµή της πληροφορίας των συµβόλων της: H p =,-. +/0 p + log ( p + (bits) Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 4

5 Ένα καλό παράδειγµα: Κωδικοποίηση Huffman peg/mpegfaq/huffman_tutorial.html Ένα άλλο παράδειγµα: Είσ οδο ς Αλφάβητο α β γ δ ε ζ η θ ι «Κόστος» Έξο δος Κωδικός Ζυγισµένο µήκος κωδικού 10*3 15*3 5*4 15*3 20*3 5*5 15*3 30*2 5*5 =355 Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 5

6 Ιδιότητες Κωδικοποίηση Huffman Εύκολος αλγόριθµος σχεδίασης βιβλίου κωδικών(codebook) recursive greedy algorithm Γίνεται να υλοποιηθει «στατικα», όπου η φάση της σχεδίασης του βιβλίου κωδικών γίνεται πριν απο τη µετάδοση του µηνύµατος πληροφορίας και το βιβλίο παραµένει σταθερο καθ όλη τη διάρκεια µετάδοσης. Γίνεται να υλοποιηθει «δυναµικα», δηλαδη για κάθε µήνυµα προηγείται η διαδικασία σχεδίασης του βιβλίου κωδικών, µετα η µετάδοση του βιβλίου και στο τέλος του κωδικοποιηµένου µηνύµατος. Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 6

7 Ιδιότητες Κωδικοποίηση Huffman Γίνεται επίσης να ξεκινήσουµε µε κάποιο βιβλίο κωδικών και να το µεταβάλουµε, προσαρµόζοντάς το για κάθε µήνυµα ( adaptive codebook ). Επιτυγχνάνει µέση τιµη κωδικοποιηµένης πληροφορίας πολυ κοντα στην εντροπία της πηγής L P = p + l +,-. +/0 < H P + 1 (bits) Πολυ εύκολη υλοποίηση κωδικοποίησης (look-up table) και σχετικα εύκολη υλοποίηση αποκωδικοποίησης (binary trees/lookup tables) Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 7

8 Διαδικασία Κωδικοποίησης Huffman ιαδικασία κωδικοποίησης Είσοδος Αλφάβητο α β γ δ ε «Κόστος» Έξοδος Κωδικός Ζυγισµένο µήκος κωδικού 50*1 10*3 5*3 10*3 10*3 =155 Μήνυµα «αβγα» x91 (1 byte) Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 8

9 Διαδικασία Αποκωδικοποίησης Huffman ιαδικασία αποκωδικοποίησης (Α): root 0 1 α γ β δ ε p = root; while(!p->symbol) { i = getbits(1); p = p->child[i]; } Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 9

10 Διαδικασία Αποκωδικοποίησης Huffman ιαδικασία αποκωδικοποίησης (Β): table_0[2] = {0, α}; table_1[4] = {γ, γ β, δ, ε}; Πανεπιστήµιο Θεσσαλίας i = getbits(1); if(!(s=table_0[i])) { i = getbits(2); s = table_1[i]; } Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 10

11 Διαδικασία Αποκωδικοποίησης Huffman ιαδικασία αποκωδικοποίησης (Γ): table[8] = {γ, β, δ, ε, α, α, α, α}; bits[8] = { 3, 3, 3, 3, 1, 1, 1, 1}; i = showbits(3); s = table[i]; advancebits(bits[i]); Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 11

12 Διαδικασία Αποκωδικοποίησης int getbits(int n) : αποµακρύνει n bits από τον εσωτερικό (state) buffer του συστήµατος και επιστρέφει την αριθµητική τιµή των n bits. Π.χ. buffer = 0x91 ( ); internal_bits = 8; getbits(1) επιστρέφει 1, internal_bits = 7; getbits(3) επιστρέφει 1 (001), internal_bits=4; getbits(3) επιστρέφει 0 (000), internal_bits=1; getbits(1) επιστρέφει 1, internal_bits = 0; Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 12

13 Διαδικασία Αποκωδικοποίησης int showbits(int n) : επιστρέφει την αριθµητική τιµή n bits από τον εσωτερικό (state) buffer του συστήµατος χωρίς να αποµακρύνει bits Π.χ. buffer = 0x91 ( ). internal_bits=8 καθόλη τη διάρκεια των παρακάτω. showbits(1) επιστρέφει 1 showbits(4) επιστρέφει 9 (1001) showbits(7) επιστρέφει 72 ( ) showbits(8) επιστρέφει 145 (0x91) Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 13

14 Διαδικασία Αποκωδικοποίησης void advancebits(int n) : αποµακρύνει n bits από τον εσωτερικό (state) buffer του συστήµατος. ηλαδή, i = getbits(n); {i= showbits(n); advancebits(n);} Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 14

15 Μειονεκτήµατα Κωδικοποίησης Huffman εν έχει καλη απόδοση για πηγές που έχουν σύµβολα µε πολυ µεγάλη πιθανότητα (p 1) Λύση: κωδικοποίηση πολλών συµβόλων ταυτόχρονα Run Length Coding Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 15

16 Μειονεκτήµατα Κωδικοποίησης Huffman Π.χ. p(0) = 0.8, p(1) = 0.1, p(2) = 0.1 I(0) = bits, I(1) = I(2) = bits H = bits Κωδικοποίηση Huffman: 0 (1), 1 (00), 2 (01), L = 1.2 bits («µόνο» bits παραπάνω, αλλα 30%!!!) Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 16

17 Θεωρία Πληροφορίας Κωδικοποίηση Αν κωδικοποιήσουµε 2 σύµβολα ταυτόχρονα, τότε: p(0,0) = 0.8*0.8=0.64 I0 = bits p(0,1) = p(1,0) = p(0,2) = p(2,0) = 0.8*0.1 = 0.08 I1 = bits p(1,1) = p(1,2) = p(2,1) = p(2,2) = 0.1*0.1 = 0.01 I2 = bits H=1.844bits(/2σύµβολα=0.922bits/σύµβολο) Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 17

18 Θεωρία Πληροφορίας Κωδικοποίηση Κωδικοποίηση Huffman: (0,0) 1 (0,1) 010 (0,2) 0111 (1,0) 0110 (2,0) 001 (1,1) (1,2) (2,1) (2,2) L = 1.96 bits ( bits παραπάνω, αλλά 6.3%) Πανεπιστήµιο Θεσσαλίας Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 18

19 Κωδικοποίηση Run Length Κωδικοποίηση Run-Length: 0,0,,0,L (N,L) (N: # of 0s, L 0) N Π.χ. 0,0,0,1,0,0,2,1,0 (3,1),(2,2),(0,1),EOB EOB ( End of Block ) σηµατοδοτεί το τέλος του µηνύµατος και κωδικοποιεί τα υπολοιπόµενα µηδενικά, καθότι ο συνολικός αριθµός συµβόλων είναι γνωστός (εικόνα-8x8 DCT: 64 σύµβολα) Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 19

20 Zig-Zag Scan Γραµµικοποίηση διδιάστατου πίνακα 8x8 µετά την κβαντοποίηση των συντελεστών µετασχηµατισµού :zig-zag scan Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 20

21 Arithmetic Coding Arithmetic coding is a form of entropy encoding used in lossless data compression. Normally, a string of characters such as the words "hello there" is represented using a fixed number of bits per character, as in the ASCII code. When a string is converted to arithmetic encoding, frequently used characters will be stored with fewer bits and not-so-frequently occurring characters will be stored with more bits, resulting in fewer bits used in total. Arithmetic coding differs from other forms of entropy encoding, such as Huffman coding, in that rather than separating the input into component symbols and replacing each with a code, arithmetic coding encodes the entire message into a single number, an arbitrary-precision fraction n where [0.0 n < 1.0). Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 21

22 Παράδειγµα Arithmetic Coding Μετάδοση µηνύµατος: eaii! After seeing Nothing e a i i! TABLE I. Example Fixed Model for Alphabet (a, e, i, o, u,!) Symbol Probability Range.2 LO, 0.2).3 [0.2, 0.5).l [0.5, 0.6).2 [0.6,0.8).l [0.8, 0.9).l [0.9, 1.0) 1 0 i! u 0 i e a i a i! u 0 / i e a \! U 0 / i e a \ Δρ. Μαρία Κοζύρη Τεχνικές Συµπίεσης Βίντεο Ενότητα 3 22