Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
1.2.Dyskryminacjairegresja
7
Jeżelizkoleizostanieużytakwadratowafunkcjastraty(1.17),tobłądpredykcji
dlaobserwacji[Xi3yi]mapostać
e(Xi)=E(yi−f(Xi))
23
ajegominimumistniejewprzypadkufunkcjiregresji
f(X)=E(Y|X13...3XL).
Najczęściejzakładasię,żemodel(1.25)mapostaćliniową
f(X)=I0+
Σ
l=1
L
IlXl.
(1.24)
(1.25)
(1.26)
Wtedyocenyparametrówmodelu(1.26)możnawyznaczyć,stosującmetodęnajmniej-
szychkwadratów:
α=(XT
ˆ
DX
D)−1XT
DY
D3
(1.27)
gdzieˆ
αjestwektoremocenparametrówmodelu,XDjestmacierząrealizacjizmiennych
objaśniającychowymiarachN×(L+1),wktórejpierwszakolumnazawierajedynki,
YDzaśtowektorkolumnowyzawierającyrealizacjezmiennejzależnej.
Modelregresji(1.26)zakłada,żezależnośćmiędzyzmiennązależnąapredyktorami
jestliniowa.Jesttouproszczenieusprawiedliwioneniecotym,żefunkcjeliniowesą
dosyćwygodnedoestymacjiorazłatwewinterpretacji.Jednakrzeczywistezwiązki
międzyelementamizjawiskrzadkopodlegajątakprostemuopisowi.Wnajbardziej
ogólnymprzypadkumiędzyzmiennymimogąwystępowaćinterakcje,awtedymodel
(1.26)przybierapostać
f(X)=I0+Σ
gl(Xl)+Σ
gkl(Xk3Xl)+000
l
k<l
(1.28)
Jeżelijednakuwzględnisięjedynieefektygłówne,topowstajeuogólnionymodelad-
dytywny(generalizedadditivemodel):
f(X)=I0+
Σ
l=1
L
gl(Xl)3
(1.29)
gdziegltopewnafunkcjajednejzmiennej,najczęściejocharakterzenieparametrycz-
nym.
Szczególnymprzypadkiemmodelu(1.29)możebyćmodelregresjilogistycznej
log(
1−µ)=I0+
µ
Σ
l=1
L
gl(Xl)3
(1.30)
gdzieµ=E(Y|X).Wpewnychzastosowaniach,np.wmedycynie,najczęściejwykorzy-
stywanajestjegoodmiana,gdyzmiennaYjestzmiennązero-jedynkową,
log(
p(1|X)
p(0|X))=I0+
Σ
l=1
L
gl(Xl).
(1.31)
