Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
2.Ogólnepojęciacybernetyczneiinformatyczne
Wprzypadkuzdarzeniaocharakterzebinarnymtypu„tak”lub„nie”,0lub1(np.rzut
monetą)p(A)=
1
2
.Podstawiająctęwartośćdowzoru(2.1),otrzymujemyilośćinformacji
równąpodstawowejjednostceinformacji–jednemubitowi:
I=log
2
1
1
=1[bit].
2
(2.2)
GdyzdarzenieAmacharakterniedwu-,leczwielowariantowy(np.pojawieniesię
następnejliterywtekście)odpowiedniozróżnymiprawdopodobieństwami
p
1
,p
2
,...,p
n
0
i
?
=1
N
p
i
=1
1
,
wówczasilośćinformacjizwiązanaztakimzdarzeniemmapostać
I=−
i
?
=1
N
p
i
log
2
p
i
.
(2.3)
Wzór(2.1)jestszczególnymprzypadkiemwzoru(2.3)podanegoprzezShannonaw1948
roku[5].Shannondefiniujeilośćinformacjiwsposóbmatematycznyiodnosijądo
reprezentacjicyfrowej–ciąguzerijedynek.Definicjatadotyczyaspektusyntaktycznego
(składniowego).InnegorodzajudefinicjęprzedstawiłLouisMarcellBrillouin(1854–1948):
informacjajestfunkcjąrelacjimiędzymożliwymiodpowiedziamiprzedipojejprzyjęciu
[5].Definicjataodnosisiędofaktu,żeinformacjamożezmniejszyćniepewność.Dotyczy
zatemaspektusemantycznego(znaczeniowego).
NorbertWiener(1894–1964),ojcieccybernetyki,podajeinnądefinicję:informacjąnazywa
sięzawartośćtego,cojestwymienianezeświatemzewnętrznym,gdydostosowujemysiędo
niegoiczynimynaszedostosowanieodczuwalnymdlaniego[5].Wienerpatrzynainformację
zpunktuwidzeniateoriisterowaniaiukładówzesprzężeniemzwrotnym.Jegodefinicjadotyczy
aspektupragmatycznegoinformacji.
Pojęcieinformacjijestzwiązanezpojęciementropii.Takjakentropiaukładujest
miarąchaosu,toznaczywyrażastopieńnieuporządkowaniaukładu,takinformacjajest
ilościowąmiarązorganizowaniaukładu.
Ostatnimztrzechrozważanychpojęćjestwiedzadefiniowanajakozbiórfaktów,
relacjimiędzytymifaktami,założeńimodeli.Wspomnianefaktyirelacjesąpotrzebnedo
rozwiązywaniaproblemów.Wiedzajestgromadzonawbaziewiedzy.Możnawyróżnić
następującerodzajebazwiedzy:
-bazatekstów,
-bazamodeli(stochastycznychideterministycznych),
-bazawiedzyzdroworozsądkowej(heurystyka).
Wiedzamożeposiadaćwkomputerzereprezentację[6]:
-proceduralną(zbiórprocedurreprezentującychwiedzęzdanejdziedziny),
-deklaratywną(wnioski,fakty,stwierdzenia,reguły).
9
