NADAJNIK: ODBIORNIK:
mózg •elementy wykonawcze
receptory •mózg
gruczoły wydz. wew. •receptory
receptory - mózg
mózg – mięśnie
gruczoły wydzielania wewnętrznego – narządy
MIARA INF
Według teorii Shannona, każdemu znakowi odp ciąg znaków dwójkowych tzw. bitów. Ciąg bitów jest nazyw kodem danego znaku lub słowem kodowym określonej wiadomości./ Słowa kodowe różnych komunikatów wytwarzanych przez dane źródło mogą być różnej długości i występować z różnymi prawdopodobieństwami /
bit b – skrót od binary digit, najmniejsza jednostka informacji; przyjmuje jedną z dwóch wartości, które zwykle określa się jako 0 (zero) i 1 (jeden), choć można przyjąć dowolną inną parę wartości, np. prawda i fałsz, tak lub nie czy -1 i +1. W pierwszym przypadku bit jest tożsamy z cyfrą w systemie dwójkowym. /Bit to ilość informacji koniecznej do dokonania wyboru między dwoma jednakowo prawdopodobnymi, ale wzajemnie wykluczającymi się zdarzeniami ILOŚĆ INF
Kod (alfabet) źródła jest zbiorem wszystkich słów kodowych dla znaków (komunikatów) jakie dane źródło może wytworzyć.
W teorii Shannona przyjmuje się, że słowo kodowe (element zbioru sygnałów) występujące z prawdopodobieństwem pi zawiera 𝐼=−𝑙𝑜𝑔2𝑝𝑖 JEDNOSTEK INFORMACJI [BITÓW]
INFOR. FUNKCJA ENTROPII
średnia ilość informacji, przypadająca na pojedynczą wiadomość ze źródła informacji $\ H = \sum_{i = 1}^{n}{\text{pi}\log_{2}\text{pi}}$
pi – prawdopodobieństwo zaistnienia zjawiska i
n – liczba wszystkich możliwych zjawisk
gdy pi takie same dla wszystkich n zdarzeń: H= log2(n)= Hmax
WŁASNOŚĆ ENTROPI INF
nieujemna
•maksymalna, gdy prawdopodob zajść zdarzeń są takie same
•równa 0, gdy stany systemu przyjmują wartości 0 albo 1 (system nie jest obarczony wtedy żadną niepewnością, a otrzymana wiadomość nie jest dla informowanego żadnym zaskoczeniem - nie niesie niczego nowego).
•posiada własność superpozycji - gdy dwa systemy są niezależne to entropia sumy systemów równa się sumie entropii
Entropia nie jest wyrazem zawartości informacyjnej pojedynczego elementu zbioru ani całości zbioru. Entropia wyraża przeciętną informatywność elementów zbioru określoną a priori przez rozkład prawdopodobieństwa w zbiorze możliwości.
Entropia może być zinterpretowana jako wartość określająca przeciętną niepewność w danym zbiorze możliwych sygnałów.
ZADANIA Z TEGO MAT.
1.Moneta, która wyrzuca z takim samym prawdopodobieństwem orły i reszki
pO=pr=0,5 H= -polog21/2- prlog21/2 = -1/2log21/2-1/2log21/2= 1/2+1/2 = 1
H=log22=1
2.Wiadomość x jest wysyłana ze źródła z prawdopodo. p(x) = 0,25. Oblicz, ile bitów inf otrzyma odbiorca po odebraniu wiadomości x. I=-log2 ¼ =2 * Im mniejsze prawdopodobieństwo tym większa ilość info
3.Dane jest źródło o alfabecie X = {a,b,c,d} oraz prawdopodobieństwami p(a) = 0,5; p(b) = 0,25; p(c) = 0,125; p(d) = 0,125. Oblicz entropię tego źródła.
H= -1/2log21/2-1/4log21/4-1/8log21/8-1/8log21/8=1/2+1/2+2*3/8=1,75
Przepustowość informacji to stosunek przekazywanych ilości informacji do czasu: $L = \frac{I}{t}$ =$\ \frac{\log_{2}\frac{1}{\text{pi}}}{t}$ [ $\frac{\text{bit}}{s} = bod$]
Pojemność informacyjna to maksymalna ilość informacji (mierzonej w bitach), jaka może być przesyłana przez dany kanał telekomunikacyjny lub łącze w jednostce czasu (mierzonej w sekundach) C=$\frac{\text{Imax}}{t}\ \lbrack\frac{\text{bit}}{s}\rbrack$
LEJEK INFORMACYJNY – ograniczenie przepustowości informacji; obserwowane dla wszystkich zmysłów
DŁUGOŚĆ (fizyczna) — to miara fizyczna odległości pomiędzy dwoma punktami, liczona zgodnie z metryką euklidesową: w linii prostej albo po krzywej (np. długość drogi przebytej przez ciało). MASA – wielkość fizyczna określająca bezwładność (masa bezwładna) i oddziaływanie grawitacyjne (masa grawitacyjna) obiektów fizycznych. Jest wielkością skalarną. Potocznie rozumiana jako miara ilości materii obiektu fizycznego.
CZAS – skalarna wielkość fizyczna określająca kolejność zdarzeń oraz odstępy między zdarzeniami zachodzącymi w tym samym miejscu.
TEMPERATURA – jedna z podstawowych wielkości fizycznych i parametrów stanu w termodynamice, będąca miarą stopnia nagrzania ciał. LICZNOŚĆ MATERII – wielkość fizyczna określająca ilość materii poprzez podanie stosunku liczby dowolnych cząstek tworzących dany obiekt fizyczny do liczby atomów zawartych w 12 g czystego izotopu węgla C12
NATĘŻENIE PRĄDU ELEKTRYCZNEGO – wielkość fizyczna charakteryzująca przepływ prądu elektrycznego zdefiniowaną jako stosunek wartości ładunku elektrycznego przepływającego przez wyznaczoną powierzchnię do czasu przepływu ładunku. ŚWIATŁOŚĆ – wielkość charakteryzująca wizualną jasność źródła światła. KĄT PŁASKI – każda z dwóch części płaszczyzny zawartych między dwiema półprostymi, nazwanymi ramionami, o wspólnym początku, zwanym wierzchołkiem (część wspólna dwóch półpłaszczyzn wyznaczonych przez dwie nierównoległe proste, wraz z ich brzegami nazywanymi ramionami; ich punkt przecięcia to wierzchołek). KĄT BRYŁOWY – część przestrzeni trójwymiarowej ograniczona przez powierzchnię stożkową, czyli wszystkie półproste wychodzące z pewnego ustalonego punktu, zwanego wierzchołkiem, przechodzące przez pewną ustaloną krzywą zamkniętą. METR – długość drogi przebytej w próżni przez światło w czasie 1/299792458 s. KILOGRAM – masa międzynarodowego wzorca przechowywanego w Międzynarodowym Biurze Miar w Severs.SEKUNDA – czas równy 9 192 631 770 okresom promieniowania odpowiadającego przejściu pomiędzy dwoma nadsubtelnymi poziomami stanu podstawowego 133Cs. KELWIN – 1/273,16 część temperatury termodynamicznej punktu potrójnego wody. MOL – liczność materii występująca, gdy liczba cząstek jest równa liczbie atomów zawartych w masie 0,012 kg węgla 12C. AMPER - taki prąd, który płynąc w dwóch równoległych, prostoliniowych, nieskończenie długich przewodach o znikomo małym przekroju kołowym, umieszczonych w próżni w odległości 1 m od siebie, spowodowałby wzajemne oddziaływanie przewodów na siebie z siłą równą 2·10-7 N na każdy metr długości przewodu. KANDELA - światłość z jaką świeci w określonym kierunku źródło emitujące promieniowanie monochromatyczne o częstotliwości 5,4·1014 Hz i wydajności energetycznej w tym kierunku równej 1/683 W/sr. RADIAN – jednostka miary łukowej kata płaskiego, równa stosunkowi łuku do promienia.
STERADIAN - kąt bryłowy o wierzchołku w środku kuli, wycinający z powierzchni tej kuli pole równe kwadratowi jej promienia