Mitteparameetriline regressioon II

Teema esitlus: "Mitteparameetriline regressioon II"— Esitluse väljavõte:

1 Mitteparameetriline regressioon II

2 Algandmed

3 Local regression

4 Lokaalse regressioonisirge väärtuse määramine kohas x=0,7

5 Akna laiuse (h) valik

6 Akna laiuse (h) valik II

7 Algandmed

8 Tegelik seos

9 Lokaalne regr. + ristvalideerimine

10 Lokaalne regr. + ristvalideerimine

11 h valik x<20 pealt

12 h valik x>20 pealt

13 LOESS – 6 naabrit

14 Loess-regressioon R’is
Mudel = loess(y~x, span= 0.03, degree=1, control=loess.control(surface = c("direct"), statistics = c("exact") )) yprog=predict(Mudel, data.frame(x=xxx)) plot(x,y) lines(xxx,yprog, col="red")

15 Kasutusnäide: lineaarse mudeli eelduste kontroll

16 Näide 2

17 Loess

18 “Supersmoother” – muutuv h

19 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

20 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

21 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

22 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

23 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

24 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

25 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

26 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

27 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil)

28 Automaatse modelleerimise piirid I

29 Polünoom: ohtlik piirkondades, kus vaatluseid vähe või pole...

30 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

31 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

32 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

33 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

34 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

35 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

36 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

37 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

38 Mittelineaarse seose modelleerimisest (lineaarse mudeli abil, b-spline kasutades)

39 Mittelineaarse seose modelleerimisest (2-järku b-splaini tuletis)

40 Automaatse modelleerimise piirid

41 Usaldusintervallid ja testid

42 Meeldetuletuseks – tavaline regressioon
Vabadusastmete arvu erinevus ~ parameetrite arvu erinevus Keerukama mudeli jääkide ruutude summa Lihtsama mudeli jääkide ruutude summa Vaatluste arv Eeldused: - sama hajuvus, sõltumatud vaatlused - keerukam mudel (mudel 2) on õige - lihtsam mudel erijuht keerukamast - (normaaljaotus, või suur valim...)

43 Meeldetuletuseks – tavaline regressioon

44 Meeldetuletuseks – tavaline regressioon

45 Meeldetuletuseks – tavaline regressioon

46 Tavaline regressioon vs polünoom
Mudel 1 EY = β0 + β1 x df1=2 Mudel 2: EY = β0 + β1 x βk xk df2=k+1 Näitejoonisel df2 = 5

47 Tavaline regressioon vs splain
Mudel 1 EY = β0 + β1 x df = 2 Mudel 2 (1-järku splain): EY = β0 + β1 x + β2 (x-p1)Ix>p df = murdepunkte + 2 Näitejoonisel: df=6 Eeldused: - sama hajuvus, sõltumatud vaatlused - keerukam mudel (mudel 2) on õige - lihtsam mudel erijuht keerukamast - (normaaljaotus, või suur valim...)

48 Tavaline regressioon vs lokaalne regressioon
Y = H Y df = rank(H) = rank( X(XTX)-XT ) = trace(H) = trace(H∙HT) = trace(2H - H∙HT) = ... Lokaalne regressioon: Y = S Y df1 = trace(S) df2 = trace(S∙ST) df3 = trace(2S - S∙ST)

49 Lokaalne regressioonmudel vs lineaarne regressioon

50 Ka usaldusintervall...

51 Stopp! Tegelik seos ja vaatlused

52 Stopp! Lisame hinnatud regressioonisirge ja usalduspiirid

53 Stopp! + parim võimalik regressioonisirge...

54 Usaldusintervall... ... Ei kirjelda (enamasti) seda, kui hästi me teame tegelikku seost... ... vaid kirjeldab, kui täpselt oleme hinnanud mudelis esinevad parameetrid... ehk kirjeldab hinnangu varieeruvust, aga (mudeli kehvast valikust tingitud) hinnangu nihet ta ei kirjelda.

55 Mida teha? Ignoreeri nihet (mitteparameetrilise regressiooni korral nagunii suhteliselt väike, väiksem ikka kui lineaarse regressiooni korral...) Eksisteerib (keerulisi ja mittetäielikke) meetodeid nihke hindamiseks ja selle arvelt usaldusintervalli laiemaks venitamiseks Kasuta optimaalsest väiksemat akent (silu vähem – siis on nihe väiksem probleem kui hinnangu hajuvus...)