Sunu5_parametric_regression_IPADx2.38 MB
Transkript
Sunu5_parametric_regression_IPADx2.38 MB
MEH535 Örüntü Tanıma 5. Parametrik Bağlanım Doç.Dr. M. Kemal GÜLLÜ Elektronik ve Haberleşme Mühendisliği Bölümü web: http://akademikpersonel.kocaeli.edu.tr/kemalg/ E-posta: kemalg@kocaeli.edu.tr Bağlanım (Regression) ,rY park )~N(g( { , - determinists .k fonksiyon t.fr/)+Efjinilti - gutted :b " - Nco ,8 ) Hot rd x x ⇐x×f¥vµ =Wxt=DK x a .no ' ' 2 Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1) Bağlanım • iid örnek kümesi için log olabilirlik: ( Dyle birgc aarpiml L . ) bulahmhi maksi |X mum her dsun ) , N log p xt , r t t 1 N log obablirlikleinin model isrnekisin Q N p r t |x t p xt log t 1 t 1 , hestm , a . cider bajmht tlabilir . 3 Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1) Bağlanım • Log olabilirlikten hataya geçiş: L atlab |X N log t 1 1 2 r exp t t g x| 2 2 .µ€: bm E N 1 N log 2 2 2 rt 2 2 g xt | t 1 • Bu eşitliği en büyüklemek, aşağıdaki eşitliği en küçüklemek anlamındadır: bilv otfhlek folk ] 12£ ( = r±g( xt lot ) 2 + . 4 Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1) Doğrusal Bağlanım • Doğrusal model: gall -0 ) - glxtlw , ,w° ) wnktwo - wop EHIX )=tz§wlr±w,xt - went - §w 2 . ) O - E=o ±(§r±[ { i=Ewnnt+§w= ¥-0 jwo own dwo N N a N =§rt ,§nt+Nw . l¥±¥IEitt¥¥t¥er¥mt¥no §rtnt=§w(ntP+§wont . An r=y ¥xeE#y { rtxet =w , .SE#ltw.Ent Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1) 5 " GokboyuHa= rt = i ' Iwo ( g = wot Efflk wise ) s±÷=o §rt § :& = , , + . i , wart , Ego Nw nirtaw . wd , . I § ( rtw = . w , § " x . . t , - . + wie - , , wznz E , ~N ( 0,64 want ) - ii. - " twdsexta '" kitttenimtt § rnttwn , , . , + { ntxsttwienzustt :iHnt¥ Eating t.IE#s.u E + wdkd nitwhmtt we ,{ rdtrttwosndttw , E + iseweo " , . ) wirnatsnst .tw#lD2 ' ' Yj¥ " XTXW w* - * - " r = ( xTx5 X r of ( ntl Ot went = two ' HI÷;¥:¥¥÷÷t > 3 W ft ff ] Fifth xtxw . X ' in to si = sire inverse ) ( pseudo X of = = xtr two , 5 we 6 W @em T X two we two overdetermined ' w*= ( xTx5 xtr - z = two , 1 = = = 4 5 Polinomal Bağlanım • Polinomal model: GCXTIO . )=w*( ntlhtwq ,( utlhtti twzlntttwerttwo . : :& 's :¥IH¥:t Hindi . w=(DtD5'§ × × 'Hx×xx×x× se××¥E 's x × 's x ×× × x 6 Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1) Polinomal Bağlanım • Hata ölçütleri: – Karesel Hata (Square Error) – Bağıl Karesel Hata (Relative Square Error) – Mutlak Hata (Absolute Error) – ε-Hassas Hata (ε-Sensitive Error) . 7 Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)