Universitatea "Babes-Bolyai" Cluj-Napoca
Facultatea de Matematica si Informatica
FISA DISCIPLINEI

Teoria informaţiei
Cod
Semes-
trul
Ore: C+S+L
Credite
Tipul
Sectia
MC013
8
2+2+0
7
optionala
Matematica Economica
MC013
8
2+2+0
7
optionala
Matematici Aplicate
Cadre didactice indrumatoare
Prof. Dr. MIHOC Ion, imihoc@math.ubbcluj.ro
Obiective
A prezenta studentilor informaticieni principalele notiuni legate de teoria informatiei precum si importantele aplicatii ale acestora.
Continut
1. Informatia- concept secundar in raport cu probabilitatea. Informatia lui Hartley. Informatia (entropia) lui Shannon: definitie, interpretari. Definitia axiomatica a masurii H(X). Proprietati ale lui H(X). caracterizari informationale ale principalelor distributii de probabilitate. Entropia ponderata a lui Guiasu: definitia axiomatica, proprietati. Principiul informatiei maxime.
2. Informatia - concept primar in raport cu probabilitatea. Axiomatica lui J. Kampe de Feriet - Bruno Forte. Informatia de tipul M. Operatii universale. Axiomatica lui Guiasu.
3. Energia si corelatia informationala a lui Onicescu. Formulele lui Octav Onicescu. Proprietatile energiei informationale. Corelatia informationala. Coeficientul de corelatie informationala. Aplicatii.
4. Teoria informatiei si statistica informatica. Informatia lui Kullback. Divergenta: definitii si proprietati. Informatia lui Fisher. Proprietati. Informatia si suficienta.
Bibliografie
1. Ash, R., Information Theory, John Wiley and Sons, New York. London . Sydney, 1965
2. Guiasu, S., Theodorescu, R., Teoria matematica a informatiei, Ed. Academiei RSR, Bucuresti, 1966.
3. Kullback, S., Information Theory and Statistics, John Wiley and Sons, London, 1959
4. Renyi, A., Probability Theory, Akademiai Kiado, Budapest, 1970.
Evaluare
Examen.