Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
1.3.Rzeczywistyiaktualnypoziombłędu,klasyfikatorbayesowski
27
Różnorodnymmetodomszacowaniategoprawdopodobieństwajestpo-
święconypodrozdz.1.10.
Chcemyznaleźćtakiklasyfikatorˆ
d,dlaktóregoe(ˆ
d)jestbliskiee(dB).
Jednakżee(ˆ
d)jestzmiennąlosową,ponieważzależyodlosowejpróbyuczą-
cejLn.
Klasyfikatorˆ
dbędziemynazywaćzgodnym,jeżelie(ˆ
d)zbiegawgpraw-
dopodobieństwadoe(dB),tzn.jeślidlakażdegos>0
n→∞
lim
P(|e(ˆ
d)−e(dB)|≥s)=0
orazmocnozgodnym,jeżeli
P(lim
n→∞
e(ˆ
d)=e(dB))=1.
Znanesątrzygłównepodejściadokonstrukcjiklasyfikatorazpróby
uczącej.
1.WybieramypewnąklasęDklasyfikatorówˆ
d:X→Ywyznaczonych
przyużyciupróbyuczącejLnorazustalamymiaręmierzącąryzyko
związanezużyciemklasyfikatoraˆ
d.OznaczmyjąprzezR(ˆ
d).
WybieramytenzklasyfikatorówzrodzinyD,któryminimalizujeryzyko
R(ˆ
d),tzn.
do=argmin
ˆ
d∈D
ˆ
R(ˆ
d).
2.Znajdujemyocenęˆ
rfunkcjiregresjiridefiniujemy
d(x)=
ˆ
(
{
L
1,jeżeliˆ
0,pozatym.
r(x)>
1
2
,
3.Estymujemyf1ztychXi,dlaktórychYi=1,estymujemyfoztych
Xi,dlaktórychYi=0.Niechˆ
π1=
n
1
Σ
i=1
n
Yi.Definiujemy
r(x)=ˆ
ˆ
P(Y=1|X=x)=
ˆ
π1ˆ
f1(x)+(1−ˆ
π1ˆ
ˆ
f1(x)
π1)ˆ
fo(x)
i
d(x)=
ˆ
(
{
L
1,jeżeliˆ
0,pozatym.
r(x)>
1
2
,