Lineárne kódy Ján Karabáš KM FPV UMB Kódovanie ZS 13/14 J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 1 / 19
Algebraické štruktúry Grupy Grupa je algebraická štruktúra G = (G;, 1, e), spolu s binárnou operáciou taká, že (G1) a, b G, a b G (je uzavretá vzhľadom na operáciu ), (G2) a, b, c G, a (b c) = (a b) c (operácia je asociatívna na G), (G3)!e G, a G, e a = a e = a (existuje jedinečný neutrálny prvok e), (G4) a G,!b G, a b = b a = e (každý prvok a má jedinečný inverzný prvok b). Za operáciu berieme zvyčajne (bežné aritmetické) operácie +, (násobenie); neutrálnymi prvkami sú (zvyčajne) 0 (resp. 1); inverzným prvkom je a (resp. a 1 ). Pre násobenie používame notačnú skratku a b ab. Zápis (G;, 1, e) skracujeme zvyčajne na (G; ), prípadne G, ak je operácia pochopiteľná z kontextu. Príklady množina symetrií štvorca, množina symetrií číselnej osi, (Z; +), (Z k ; +), (Z p \ {0};.), ({0, 1} k, +), (R, +),(R \ {0},.), (C, +),... Komutatívna grupa je grupa, pre ktorú platí dodatočná identita (G5) a, b G, a b = b a (operácia je komutatívna na G). Príklady (Z; +), (Z k ; +), (Z p \ {0};.), (R, +),(R \ {0},.), (C, +) sú komutatívne grupy. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 2 / 19
Algebraické štruktúry Polia Pole je algebraická štruktúra F = (F; +,,, 1, 0, 1) taká, že (F; +,, 0) je komutatívna grupa, (F \ {0};, 1, 1) je komutatívna grupa, a, b, c F, a(b + c) = ab + ac (platí distributívny zákon pre + a ) Príklady (Z p; +,.), ({0, 1} k, +,.), (R, +,.),(R n, +,.), (C, +) sú polia. Nech F je pole. Potom (F1) a, b F, a + b F a ab F; (F2) a, b, c F, (a + b) + c = a + (b + c) a (ab)c = a(bc); (F3) a, b F a + b = b + a a ab = ba; (F4) a, b, c F a(b + c) = ab + ac; (F5) existujú jedinečné prvky 0 a 1 také, že a + 0 = 0 + a = a a 1.a = a.1 = a; (F6) a F!b F a + b = b + a = 0 (b = a); (F7) a F \ {0}!c F ac = ca = 1 (c = a 1 ); J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 3 / 19
Algebraické štruktúry Konečné polia Z p a Z p k Pre každé prvočíslo p definujeme na množine {0, 1,..., p 1} dve binárne operácie { a + b ak a + b p 1, a b = a + b p inak, a a b = ab kp, kde k Z zvolené tak, aby 0 ab kp p 1. Číslo k je definované jednoznačne. Veta 1 Algebraická štruktúra (Z p) je pre každé prvočíslo p (konečné) pole. Algebraická štruktúra (Z p k ) je (konečné) pole pre každé prvočíslo p a ľubovoľné celé číslo k 1. Pre overenie prvej časti stačí overiť (F6) a (F7). Druhá časť je komplikovanejšia... Je algebraická štruktúra Z n pole pre ľubovoľné n Z? Zoberme n = 6. Potom 2 3 = 6 6 = 0 a ak exituje inverzný prvok x k 2, potom z 2 x = 1 vyplýva 3 (2 x) = 3 1, t.j. 3 = (3 2) x = 0 x = 0. Algebraická štruktúra (Z 6,, ) je príkladom okruhu. Faktorový okruh (pole) Z(modp). Prvky sú triedy ekvivalencie [x] = {x + pq, q Z} a operácie sú [a] [b] = [a + b] = (a + b) mod p a [a] [b] = [a.b] = (ab) mod p. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 4 / 19
Algebraické štruktúry Vektorové priestory Nech F je vybrané pole. Potom vektorový priestor V(F) = (F; +,.) je algebraická štruktúra s vlastnosťami štruktúra (V, +) je komutatívna grupa, x V a t F, tx V. Prvky množiny V voláme vektory a prvky poľa F voláme skaláry. Pre výber ľubovoľnej dvojice vektorov x, y V a ľubovoľnej dvojice skalárov s, t F platí (V1) t(x + y) = tx + ty = xt + yt = (x + y)t, (V2) (st)x = s(tx), (V3) (s + t)x = sx + tx, (V4) 1.x = x, ak 1 je neutrálny prvok multiplikatívnej grupy poľa F. Vektor je usporiadaná k-tica prvkov poľa F, označujeme x = (x 1, x 2,..., x k ). Operácia sčítania je definovaná po zložkách, tj. x, y F k V(F), x + y = k (xi + yi) a i=1 skalárny násobok je definovaný x F k, a c F, cx = (cx 1, cx 2,..., cx k ). Príklady {0, 1} = Z 2, Z p, Z p n, Z k 2, Z k p, Z k p n, R, Rk,... J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 5 / 19
Algebraické štruktúry Báza, dimenzia a podpriestor vektorového priestoru Majme ľubovoľný výber {x 1, x 2,..., x m} V = V(F). Funkciu (funktor) l : V m V definovanú l : {x 1, x 2,..., x m} c 1x 1 + c 2x 2 +... + c mx m, c 1, c 2,..., c m F Hovoríme, že {x 1, x 2,..., x m} je lineárne nezávislá, ak pre lineárnu kombináciu platí c 1x 1 + c 2x 2 +... + c mx m = 0 c 1 = c 2 =... = c m = 0. Každá lineárne nezávislá podmnožina V tvorí bázu B(V) vektorového priestoru. Príklad Ak V = R 2, potom báza je {(0, 1), (1, 0)}, ale napr. aj {(1, 1), ( 1, 0)}... Nech K a V sú vektorové priestory. K je podpriestor vektorového priestoru V ak B(V), B(K) B(V). Dimenzia vektorového priestoru je mohutnosť najmenšej množiny lineárne nezávislých vektorov v V. Príklad Ak V = R 2, potom dimenzia V = 2. Z lineárnej algebry vieme, že všetky riešenia homogénnej sústavy lineárnych rovníc nad n neznámymi tvoria vektorový (lineárny) priestor K, ktorý je podpriestorom priestoru V = F n. Súčet a + b = (a 1 + b 1, a 2 + b 2,..., a n + b n) patrí do K a skalárny násobok ta = (ta 1, ta 2,..., ta n) patrí do K. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 6 / 19
Metrika Hammingova vzdialenosť Binárna funkcia δ : M 2 R je metrika ak 1 δ(x, y) 0 pre všetky x, y M ; špeciálne δ(x, x) = 0; 2 δ(x, y) = δ(y, x); 3 x, y, z M : δ(x, z) δ(x, y) + δ(y, z). Hammingova vzdialenosť slov w, v K, dimenzie k, definovaná ako δ(w, v) = {i : w i v i, i 1, 2,..., k}. Hammingova vzdialenosť je metrika na vektorovom priestore K. Minimálna Hammingova vzdialenosť d(k) vektorového priestoru K je definovaná ako d(k) = min{δ(v, w): v w; v, w K}. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 7 / 19
Metrika Hammingova vzdialenosť Kód ( 5 2) má minimálnu Hammingovu vzdialenosť d( ( 5 2) ) = 2. Paritný kód P má minimálnu Hammingovu vzdialenosť d(p) = 2. Koktavý kód K má minimálnu Hammingovu vzdialenosť d(k) = 2. k-repetičný kód R má minimálnu Hammingovu vzdialenosť d(r) = k. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 8 / 19
Metrika Detekcia a oprava chýb prenosu Pozorovanie 2 Blokový kód K s minimálnou Hammingovou vzdialenosťou d = d(k) deteguje t-násobné chyby pre všetky t < d, ale nie je schopný detegovať všetky d-násobné chyby. Kód K opravuje t-násobné chyby, ak pri vyslaní ľubovoľného kódovaného slova w má prijaté kódové slovo v, pri t-násobnej chybe Hammingovu vzdialenosť h(v, w) < d(k). w K, v B k : h(v, w) < h(x, w); x K, x w. Pozorovanie 3 Blokový kód K s minimálnou vzdialenosťou d = d(k) opravuje t-násobné chyby pre všetky t < d 2. ( ) t < d, h(w, v) = t < d a x K : h(w, x) d. Potom 2 2 h(w, x) h(w, v) + h(v, x), tj. h(x, v) h(x, w) h(w, v) d h(w, v) d. 2 ( ) Majme slová w, w K, h(w, w ) = d. Skonštruujme slovo v = v 1v 2... v k, kde v i = w i, ak i je párne, inak v i = w i. Ak v = 2l, potom h(w, v) = d d 1, inak h(w, v) =. 2 2 J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 9 / 19
Lineárne kódy Lineárny kód Blokový kód K, dĺžky n je lineárny, ak K je k-dimenzionálny vektorový podpriestor vektorového priestoru A n. Pre vektorový priestor K je definovaná minimálna Hammingova vzdialenosť vektorov (slov), d = d(k). Hovoríme o (n, k, d)-lineárnom kóde. Generujúca matica G(K) je matica G(K) = (g i,j) n,k = x 1 x 2. x k, kde { x1, x2,..., x k} je báza K. Paritný 5-bitový kód má generujúcu maticu 1 0 0 0 1 0 1 0 0 1 G = 0 0 1 0 1 0 0 0 1 1 Ternárny kód dĺžky 6 s kontrolnými znakmi a 3 = a 1 + a 2 a a 6 = a 4 + a 5 má generujúcu maticu G = 1 0 2 0 0 0 0 1 2 0 0 0 0 0 0 1 0 2 0 0 0 0 1 2 J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 10 / 19
Lineárne kódy Kódovanie informačných znakov Každý (n, k, d)-kód nesie k informačných a (n k) kontrolných znakov. Pre zvolenú generujúcu maticu G(K) je každé kódové slovo určené lineárnym zobrazením s predpisom alebo v maticovej forme ϕ : w = (w 1, w 2,..., w k ) ϕ : A k K k w ix i, w i A, x i B(K); i=1 ϕ : w w.g, w A k. Vektorový priestor A k voláme informačný priestor, vektorový priestor K voláme kódový priestor. Zobrazenie ϕ voláme kódovanie alebo kód. Majme ternárny kód dĺžky 6 s kontrolnými znakmi a 3 = a 1 + a 2 a a 6 = a 4 + a 5. Potom 1 0 2 0 0 0 0 1 2 0 0 0 ϕ((w 1, w 2, w 3, w 4)) = (w 1, w 2, w 3, w 4) 0 0 0 1 0 2 = (w 1, w 2, a, w 3, w 4, b), 0 0 0 0 1 2 kde a = 2w 1 + 2w 2 a b = 2w 3 + 2w 4. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 11 / 19
Systematický kód Informačné a kontrolné znaky Nech K B n je blokový kód dĺžky n. Ak existuje prosté zobrazenie ε : B k K, k < n, hovoríme, že K má k informačných a n k kontrolných znakov. Zobrazenie ε sa nazýva kódovanie informačných znakov. Počet informačných znakov určuje kapacitu kódu. Blokový kód K B n sa nazýva systematický, pokiaľ exituje k < n také, že ϕ : a 1a 2... a k a 1a 2... a k c k+1... c n je dobre definované prosté zobrazenie. Kódovanie ϕ : B k K sa nazýva systematické kódovanie. Pozorovanie 4 Minimálna Hammingova vzdialenosť d systematického kódu nemôže prekročiť počet n k kontrolných znakov viac ako o jeden, tj. d n k + 1. Nech K B n. Zvoľme ľubovoľný prefix w = a 1a 2... a k 1 B k a označme K 0 = {w : w K; w = w x}. Potom minimálna vzdialenosť d 0 dvoch kódov z K 0 je d 0 n (k 1), pretože ľubovoľné slová majú aspoň k 1 spoločných znakov. Keďže K 0 K d d 0. Dve protichodné požiadavky pre kódy dĺžky n: maximalizovať d, (aby sme dokázali opraviť čo najviac chýb) a zároveň maximalizovať k, (aby sme dokázali kódovať čo najviac znakov). Informačný pomer kódu je R(K) = k ; pre optimálny kód sa pohybuje R(K) blízko 1. n J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 12 / 19
Systematický kód Informačné a kontrolné znaky Kód ( 5 2) nemá oddelené informačné a kontrolné znaky; nie je systematický. p-repetičný kód má 1 informačný znak a p 1 kontrolných znakov; je systematický (k = 1). Paritný kód má k 1 informačných znakov a 1 kontrolný znak; je systematický (k = n 1) 2D-paritný kód má l.k informačných znakov a l + k + 1 kontrolných znakov; nie je systematický. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 13 / 19
Systematický kód Systematický lineárny kód Lineárny (n, k)-kód je systematický, ak má generujúca matica tvar G(K) = (E B), kde E je jednotková matica rádu k. Potom dostávame 1 0... 0 b 1,1... b 1,n k 0 1... 0 b 1,2... b 2,n k (w 1, w 2,..., w k )................. 0 0... 1 b 1,k... b k,n k kde v = wb. Veta 5 = (w1,... w k, v k+1,..., v n), Každý lineárny kód je ekvivalentný so systematickým lineárnym kódom. Generujúca matica systematického lineárneho kódu je tzv. štandardná generujúca matica. Z lineárnej algebry vieme, že každá matica hodnosti k má k lineárne nezávislých stĺpcov. Nájdeme permutáciu stĺpcov π takú, že prvých k stĺpcov matice G = π(g(k) bude lineárne nezávislých. Ekvivalentnými úpravami prevedieme G na tvar G = (E B). J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 14 / 19
Systematický kód Príklady Majme ternárny kód s generujúcou maticou 1 0 2 0 0 0 G = 0 1 2 0 0 0. 0 0 0 1 0 2 0 0 0 0 1 2 Generujúca matica systematického kódu vzniká permutáciou π = (3, 5, 4), tj. 1 0 0 0 2 0 G = 0 1 0 0 2 0. 0 0 1 0 0 2 0 0 0 1 0 2 Majme nad Z 5 ( 1 4 1 1 1 ) G = 2 4 0 0 1 0 2 1 1 0 ( 1 4 1 1 1 0 1 3 3 4 0 2 1 1 0 ) ( 1 4 1 1 1 0 1 3 3 4 0 0 0 0 1 Permutácia stĺpcov π = (3, 5) a ďalšími ekvivalentnými úpravami dostaneme ( ) ( ) ( 1 4 1 1 1 1 4 0 1 1 1 0 0 4 4 G = 0 1 4 3 3 0 1 0 3 3 0 1 0 3 3 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 Kód daný touto maticou pozostáva zo slov w = (w 1, w 2, w 3, v, v), kde v = 4w 1 + 3w 2. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 15 / 19 ) )
Detekcia chýb Kontrolná matica Kontrolná matica lineárneho kódu K je matica H prvkov abecedy (poľa) A, pre ktorú platí: w = (w 1, w 2,..., w n) je kódové slovo vtedy a len vtedy, keď tj. w K H w T = 0 T. H w 1 w 2. w n = 0 0. 0, Paritný kód je popísaný jedinou rovnicou c 1 + c 2 +... + c n = 0, kontrolná matica. H = (1, 1,..., 1) n-repetičný kód je popísaný (homogénnou) sústavou (lineárnych) rovníc c 1 + c 2 = 0 c 1 + c 3 = 0. c 1 + c n = 0 Kontrolná matica? J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 16 / 19
Detekcia chýb Konštrukcia kontrolnej matice V abecede Z 3 majme generujúcu maticu ( 1 1 1 1 ) 1 G = 0 1 1 1 1 1 1 0 0 0 Ak w K, potom pre každý (j-ty) riadok matice H platí h 1,jw 1 + h 2,jw 2 + h 3,jw 3 + h 4,jw 4 + h 5,jw 5 = 0, tj. máme sústavu h 1 + h 2 + h 3 + h 4 + h 5 = 0 h 2 + h 3 + h 4 + h 5 = 0 h 1 + h 2 = 0 Jej riešeniami sú slová w = (0, 0, h 3, h 4, h 5), kde h = h 4 h 5. Dimenzia riešenia je 2 (máme dva voľné parametre) a ak zvolíme v prvom prípade h 4 = 1, h 5 = 0 a v druhom prípade h 4 = 0, h 5 = 1, dostávame kontrolnú maticu ( ) 0 0 2 1 0 H = 0 0 2 0 1 J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 17 / 19
Detekcia chýb Kontrolná matica systematického kódu Veta 6 Lineárny kód s generujúcou maticou G = (E B) má kontrolnú maticu H = ( B T E ). Treba ukázať, že lineárny priestor kódu K je zhodný s lineárnym priestorom riešení L systému rovníc H w T = 0 T. Platí ( ) E HG T = ( B T E ) = B T E + E B T = B T + B T = 0, B T teda vektorový priestor L obsahuje bázu vektorového priestoru K. Na druhej strane, má jednotková matica E hodnosť n k a teda hodnosť matice H je n k. Potom, ale dimenzia L je n h(h) = k, a teda L = K. J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 18 / 19
Detekcia chýb Príklad Ternárny kód daný maticou G = ( 1 1 1 1 1 0 1 1 1 1 1 1 0 0 0 ) je systematický, lebo G dokážeme transformovať na ( 1 0 0 0 ) 0 G = 0 1 0 0 0 0 0 1 1 1 Kontrolnú maticu vypočítame ako ( ) 0 0 1 1 0 H = = 0 0 1 0 1 ( 0 0 2 1 0 0 0 2 0 1 ). J. Karabáš (FPV UMB) Lineárne kódy Kodo ZS 13/14 19 / 19