Teoria Transmiterii Si Codificarii Informatiei 2011

of 83

  • date post

    02-Mar-2016
  • Category

    Documents

  • view

    178
  • download

    0

Embed Size (px)

description

ttci

Transcript of Teoria Transmiterii Si Codificarii Informatiei 2011

  • Teoria transmiterii i codificrii informaiei

    Page 1 of 83

    UNIVERSITATEA TITU MAIORESCU

    Facultatea de INFORMATIC

    Profesor univ. dr. ing. Lector univ. dr.ing.

    RCUCIU CIPRIAN GRECU DAN

    Curs pentru nvmntul la distan

    BUCURETI 2011

  • Teoria transmiterii i codificrii informaiei

    Page 2 of 83

    UNIVERSITATEA Titu MAIORESCU BUCURETI Facultatea de Informatic nvmnt la Distan

    TEORIA TRANSMITERII I CODIFICRII INFORMAIEI

    Cursul Teoria transmiterii i codificrii informaiei este o disciplin care ngobleaz ntr-o form unitar concepte din teoria codurilor, teoria semnalelor aleatoare i teoria deciziilor statistice i reprezint una din disciplinele de pregtire care, pentru profilul INFORMATIC, fiind necesar pentru pregtirea studenilor i pentru obinerea creditelor transferabile prin procedurile de evaluare. Modul de prezentare a acestui material are n vedere particularitile nvmntului la distan, la care studiul individual este determinant. Pentru orice nelmuriri fa de acest material v rugm s contactai tutorele de disciplin care are datoria s v ajute oferindu-v toate explicaiile necesare.

    Disciplina Teoria transmiterii i codificrii informaiei i propune urmtoarele obiective specifice:

    1. nsuirea noiunilor fundamentale din teoria informaiei i din teoria codurilor redundante care stau la baza prelucrrii informaiei, n vederea protejrii acesteia mpotriva perturbaiilor de diferite tipuri.

    Dobndirea deprinderilor practice privind realizarea schemelor secveniale liniare de codare i decodare pentru diferite clase de coduri cum sunt: codurile liniare i codurile ciclice.

    ntocmirea algoritmilor de codare i decodare i folosirea calculatorului electronic de ctre studeni pentru modelarea canalelor de transmisiuni i a funcionrii dispozitivelor de codare i decodare.

    Competenele specifice disciplinei Teoria transmiterii i codificrii informaiei se pot clasifica dup cum urmeaz:

    1. Cunoatere i nelegere

    Intelegerea noiunilor fundamentale cu care se opereaz n teoria transmiterii i codificrii informaiei:

    Cunoasterea si inelegerea algoritmilor de codare i decodare a surselor informaionale care au aplicabilitate n domeniul informaticii;

    Cunoasterea si inelegerea algoritmilor de codare i decodare a informaiilor care sunt transmise prin canalul de comunicaie.

    2. Explicare i interpretare

    Explicarea si interpretarea conceptelor referitoare la entropia informaional, cantitate de informaie etc;

    Explicarea modalitatilor de functionare a algoritmilor specifici disciplinei.

    3. Instrumental aplicative

    Implementarea ntr-un limbaj de programare a algoritmilor specifici disciplinei;

  • Teoria transmiterii i codificrii informaiei

    Page 3 of 83

    Proiectarea aplicaiilor pentru rezolvarea unor probleme utiliznd instrumente specifice de structurare a datelor;

    Corelarea cunotinelor teoretice cu abilitatea de a le aplica n practic;

    Elaborarea unui proiect care sa scoat in eviden importana algoritmilor specifici disciplinei.

    4. Atitudinale

    Manifestarea unor atitudini favorabile fa de tiin i de cunoatere n general;

    Formarea obinuinelor de a recurge la concepte i metode informatice de tip algoritmic specifice n abordarea unei varieti de probleme;

    Exprimarea unui mod de gndire creativ n structurarea i rezolvarea problemelor.

    Structura cursului este urmtoarea: Modulul 1

    1. UNITATEA DE NVARE 1 - ELEMENTE DE TEORIA TRANSMITERII INFORMAIEI

    2. UNITATEA DE NVARE 2 - MSURI INFORMAIONALE. Modulul 2

    1. UNITATEA DE NVARE 3 - CODAREA SURSELOR INFORMAIONALE; 2. UNITATEA DE NVARE 4 - CANALE DE TRANSMITERE A INFORMAIEI Modulul 3

    1. UNITATEA DE NVARE 5 - CODURI DETECTOARE I CORECTOARE DE ERORI;

    2. UNITATEA DE NVARE 6 CODURI LINIARE

    Este foarte important ca parcurgerea materialului sa se faca in ordinea unitilor de nvare incluse. Fiecare UI (unitate de nvare) conine, pe langa prezentarea notiunilor teoretice, exerciii rezolvate, activiti de lucru individual la care sunt prezentate i indicaii de rezolvare, exemple, i teste de autoevaluare. n plus, la sfritul fiecrei UI sunt incluse probleme propuse care testeaza cunoasterea notiunilor teoretice de catre student.

    Materialul a fost elaborat astfel incat algoritmii prezentati s poat fi implementati n orice limbaj de programare. Pentru a face o alegere, limbajul de programare folosit in aplicaii va fi limbajul C/C++.

    Pachet software recomandat:

    Orice IDE (Integrated Development Environment) pentru limbajul C/C++ poate fi folosit, dar

    pentru a face o alegere, mai puin costisitoare, de altfel gratuit, v sugerm IDE-ul numit Dev-Cpp care se poate descrca de pe site-ul http://www.bloodshed.net/dev/devcpp.html.

    Bibliografia recomandat se regsete la sfritul fiecrui modul informaional.

  • Teoria transmiterii i codificrii informaiei

    Page 4 of 83

    La stabilirea notei finale se iau n

    considerare

    Ponderea n notare, exprimat n % {Total = 100%}

    rspunsurile la examen (evaluarea final)

    rspunsurile finale la lucrrile practice de laborator

    testarea periodic prin teme pentru acasa

    testarea continu pe parcursul semestrului

    activitile gen proiecte

    50%

    20%

    10%

    10%

    10%

    Modalitatea de evaluare final: lucrare scris descriptiv i/sau probleme

    Cerine minime pentru nota 5 Cerine minime pentru nota 10

    nsuirea cunotinelor de baz

    Obinerea unui procent de cel putin 45% din procentul maxim alocat

    fiecarei activitati care se considera in

    stabilirea notei finale.

    Activitate n timpul semestrului

    Rezolvarea corect i complet a subiectelor de examen

    Efectuarea corecta si completa a temelor pentru acasa

    Participarea activ la curs si laborator

    Elaborarea unui proiect corect, complet si bine documentat

    V precizm de asemenea c, din punct de vedere al verificrilor i al notrii, cu adevrat important este capacitatea pe care trebuie s o dobndii i s o probai de a rezolva toat tipologia de probleme aplicative aferente materialului teoretic prezentat n continuare. De aceea v recomandm s parcurgei cu atenie toate aplicaiile rezolvate, s rezolvai aplicaiile propuse prin testele de autoevaluare i temele de control; fii convini c examenul final apeleaz la tipurile de aplicaii prezente n seciunile menionate anterior.

  • Teoria transmiterii i codificrii informaiei

    Page 5 of 83

    MODULUL 1

    MSURA CANTITATIV A INFORMAIEI

    n acest modul sunt prezentate principalele noiuni cu care opereaz teoria informaiei. Notiunea de informatie a aparut mult mai tarziu decat notiunea de energie, iar legile dupa care

    informatia apare, se transforma, se pastreaza, se prelucreaza si se foloseste sunt inca insuficient

    studiate; abia in zilele noastre se stabilesc bazele intelegerii lor, se elucideaza metodele de studiu si

    investigare.

    Stabilirea notiunii generalizate de informatie pentru caracterizarea proceselor de conducere

    dintr-un punct de vedere unitar,a fost un moment important in stiinta. Intocmai cum introducerea

    notiunii de energie a permis sa se analizeze toate fenomenele naturii dintr-un punct de vedere unic,

    independent de substratul lor fizic, tot asa,introducerea notiunii de informafie a permis studierea

    dintr-un punct de vedere comun a celor mai diferite procese de comanda din natura.

    Se numeste informatie orice stire care poarta in sine urma unui fapt, eveniment sau proces

    oarecare.

    Informatia este comunicarea (mesajul) ce aduce stiri despre fapte, evenimente, obiecte,

    procese.In intelesul mai larg, in nofiunea de informatie se pot cuprinde toate stirile despre mediul

    care ne inconjoara sau, mai bine zis, care se obtin, in interactiunea omului cu mediul inconjurator. A

    obtine o informatie inseamna a afla lucruri ce nu se cunosteau mai inainte sau a obtine noi

    cunostinte asupra unui lucru, fapt etc., despre care s-a stiut mai putin inainte.

    Acest modul conine dou uniti de nvare i anume: 3. UNITATEA DE NVARE 1 - ELEMENTE DE TEORIA TRANSMITERII

    INFORMAIEI 4. UNITATEA DE NVARE 2 - MSURI INFORMAIONALE.

    Obiective urmrite: La sfritul parcurgerii acestor uniti de nvare, studenii: vor nelege noiunile fundamentale cu care opereaz Teoria informaiei i care se refer la:

    semnal, perturbaie, mesaj, informaie, canale de transmisiuni, codificare, decodificare, probabilitatea erorii de transmisie, complexitatea dispozitivelor de prelucrare a informaiei etc.

    vor ti s interpreteze i s opereze cu instrumente matematice care se refer la: modelul probabilistic al surselor discrete de informaie, definiia i proprietile cantitii de informaie: I(x;y), I(X;Y), I(x), I(x/y), I(x;y/z), informaia reciproc dintre un numr arbitrar de evenimente, Entropia i proprietile ei, etc.

    vor ti s implementeze ntr-un limbaj de programare sau simulare principalele mrimi studiate.

    Timpul mediu necesar nsuirii noiunilor teoretice, formrii deprinderilor de calcul i utilizrii metodelor de rezolvare a problemelor specifice teoriei informaiei este estimat la aproximativ 4-5 ore pentru fiecare unitate de nvare, ntr-un ritm de 2-3 ore pe zi.

  • Teoria transmiterii i codificrii informaiei

    Page 6 of 83

    MODULUL 1 UNITATEA DE NVARE 1

    ELEMENTE DE TEORIA TRANSMITERII INFORMAIEI

    1.1. Informatia generaliti.

    n procesele de comanda, procesele energetice care insotesc transmiterea informatiei joaca

    un rol secundar. Cantitatea de informatie si cu atat mai mult efectu