Dalyko sando kodas

 INFT3124

Dalyko sando pavadinimas

INFORMACIJOS TEORIJA 

Dėstytojo (-jų) pedagoginis vardas, mokslo laipsnis, vardas ir pavardė

Doc. dr. Algirdas Mačiulis

Katedra, centras

Matematinės informatikos

Fakultetas, padalinys

Matematikos ir informatikos fakultetas

Dalyko sando lygis

pirmosios pakopos

Semestras

rudens (5) 

ECTS kreditai

4,5

VU kreditai

3

Auditorinės valandos

viso dalyko  64

paskaitų  32

seminarų 

pratybų   32

laboratorinių darbų,

konsultacijų

koliokviumų skaičius - 1

laboratorinio  darbo gynimas - 1

Reikalavimai

Pakanka žinių, gaunamų išklausius bendruosius algebros, matematinės analizės ir tikimybių teorijos kursus

Dėstomoji kalba

Lietuvių

Dalyko sando tikslai ir numatomi gebėjimai

Studentai įgyja pagrindinių žinių apie informacijos ir jos kiekio sąvokas, išmoksta konstruoti įvairius informacijos suspaudimo kodus

Dalyko sando turinys

Elementariosios tikimybių teorijos apžvalga
Kodai, informacijos šaltiniai, entropija.

Kodai. Vienareikšmiškai dekoduojami ir p–kodai. Kodai ir grafai. Krafto–Makmilano teorema apie vienareikšmiškai dekoduojamo kodo egzistavimą. Informacijos šaltinis. Entropija, jos vienetai ir pagrindinės savybės.

Kodavimas kanalui be trikdymų.

Teoremos apie Bernulio šaltinio kodavimą. Šenono-Fano kodas. Optimalaus kodo sąvoka. Hafmano algoritmas optimaliam kodui sudaryti.

Kodavimas kanalui su trikdymais.

Diskretaus be atminties kanalo sąvoka. Tikimybinės diskretaus be atminties kanalo charakteristikos: tikimybės, sąlyginės entropijos, kanalo talpa.

Dekodavimo taisyklės: idealaus stebėtojo, didžiausio tikėtinumo, minimalaus atstumo. Kanalo patikimumas. Šenono teorema kanalui su iškraipymais.

Pagrindinės literatūros sąrašas

1.        D. Hankerson,  G. Harris, P. Johnson, Introduction to Information Theory and Data Compression. CRC Press, 1998.

2.        S. Roman, Coding and Information Theory.  Springer, 1992

3.        J. Kubilius, Tikimybių teorija ir matematinė statistika, Vilnius: Mokslas , 1980. Antrasis patais. ir papild. leid. Vilnius: VU, 1996.

4.        V. Stakėnas,. Informacijos kodavimas, Vilnius: Vilniaus universitetas , 1996.

Papildomos literatūros sąrašas

J. L. Massey, Applied Digital Information Theory, I. Lecture Notes, ETH, Zurich, 1998

Mokymo metodai

Skaitomos paskaitos, pratybų metu sprendžiami uždaviniai, konstruojami įvairių charakteristikų kodai. Atliekami individualūs  kodų realizavimo darbai mažose (3-4 studentų) grupėse.

Lankomumo reikalavimai

70 %

Atsiskaitymo reikalavimai

Egzaminas. Reikia gauti teigiamą koliokviumo įvertinimą  ir parašyti (kartu su keletu kolegų) nedidelę programą, realizuojančią pasirinktą kodavimo algoritmą. Negavus teigiamo  koliokviumo įvertinimo, tai galima padaryti egzamino metu. Abiem atvejais  - testas raštu.

Vertinimo būdas

(koliokviumo pažymys + pažymys už programą)/2

Aprobuota katedros

2004 10 04

Patvirtinta Studijų programos komiteto

2004 11 09