ÇÙØÐ Ò Ó Ø ÓÙÖ ½½º ÇÚ Ö ØØ Ò Å Ý µ ½¾º Ê ÙÐ Ö Þ Ø ÓÒ Å Ý ½¼ µ ½º Ì Ä ÖÒ Ò ÈÖÓ Ð Ñ ÔÖ Ð µ ½ º Î Ð Ø ÓÒ Å Ý ½ µ ¾º Á Ä ÖÒ Ò Ð ÔÖ Ð µ º Ì Ä Ò Ö ÅÓ Ð Á ÔÖ Ð ½¼ µ º ÖÖÓÖ Ò ÆÓ ÔÖ Ð ½¾ µ º ÌÖ Ò Ò Ú Ö Ù Ì Ø Ò ÔÖ Ð ½ µ º Ì ÓÖÝ Ó Ò Ö Ð Þ Ø ÓÒ ÔÖ Ð ½ µ º Ì Î Ñ Ò ÓÒ ÔÖ Ð ¾ µ º ¹Î Ö Ò ÌÖ Ó ÔÖ Ð ¾ µ º Ì Ä Ò Ö ÅÓ Ð ÁÁ Å Ý ½ µ ½ º ËÙÔÔÓÖØ Î ØÓÖ Å Ò Å Ý ½ µ ½ º à ÖÒ Ð Å Ø Ó Å Ý ¾¾ µ ½ º Ê Ð ÙÒØ ÓÒ Å Ý ¾ µ ½ º Ì Ö Ä ÖÒ Ò ÈÖ Ò ÔÐ Å Ý ¾ µ ½ º Ô ÐÓ Ù Å Ý ½ µ Ø ÓÖÝ Ñ Ø Ñ Ø Ð Ø Ò ÕÙ ÔÖ Ø Ð Ò ÐÝ ÓÒ ÔØÙ Ð ½¼º Æ ÙÖ Ð Æ ØÛÓÖ Å Ý µ
Ä ÖÒ Ò ÖÓÑ Ø Ö Ëº Ù¹ÅÓ Ø Ð ÓÖÒ ÁÒ Ø ØÙØ Ó Ì ÒÓÐÓ Ý Ä ØÙÖ ½ Ì Ä ÖÒ Ò ÈÖÓ Ð Ñ ËÔÓÒ ÓÖ Ý ÐØ ³ ÈÖÓÚÓ Ø Ç ² Ë Ú ÓÒ Ò ÁËÌ ÌÙ Ý ÔÖ Ð ¾¼½¾
Ì Ð ÖÒ Ò ÔÖÓ Ð Ñ ¹ ÇÙØÐ Ò Ü ÑÔÐ Ó Ñ Ò Ð ÖÒ Ò ÓÑÔÓÒ ÒØ Ó Ä ÖÒ Ò ÑÔÐ ÑÓ Ð ÌÝÔ Ó Ð ÖÒ Ò ÈÙÞÞÐ ¾»½
Ü ÑÔÐ ÈÖ Ø Ò ÓÛ Ú Û Ö Û ÐÐ Ö Ø ÑÓÚ ½¼± ÑÔÖÓÚ Ñ ÒØ ½ Ñ ÐÐ ÓÒ ÓÐÐ Ö ÔÖ Þ Ì Ò Ó Ñ Ò Ð ÖÒ Ò Ô ØØ ÖÒ Ü Ø º Ï ÒÒÓØ Ô Ò Ø ÓÛÒ Ñ Ø Ñ Ø ÐÐݺ Ï Ú Ø ÓÒ Øº»½
ÅÓÚ Ö Ø Ò ¹ ÓÐÙØ ÓÒ Ð ÓÑ Ý Ð Ø ÓÒ ÔÖ Ö ÐÓ Ù Ø Ö Ð ÌÓÑ ÖÙ Ú Û Ö Å Ø ÑÓÚ Ò Ú Û Ö ØÓÖ ÓÒØÖ ÙØ ÓÒ ÖÓÑ ØÓÖ ÔÖ Ø Ö Ø Ò ÑÓÚ ÐÓ Ù Ø Ö Ø ÓÒ ÓÒØ ÒØ ÓÑ Ý ÓÒØ ÒØ ÌÓÑ ÖÙ Ò Ø»½
Ì Ð ÖÒ Ò ÔÔÖÓ top v i e w e r m o v i e LEARNING rating bottom»½
Å Ø Ô ÓÖ Ö Ø ÔÔÖÓÚ Ð ÓÑÔÓÒ ÒØ Ó Ð ÖÒ Ò ÔÔÐ ÒØ Ò ÓÖÑ Ø ÓÒ ¾ Ý Ö Ò Ö Ñ Ð ÒÒÙ Ð Ð ÖÝ ¼ ¼¼¼ Ý Ö Ò Ö Ò ½ Ý Ö Ý Ö Ò Ó ½ Ý Ö ÙÖÖ ÒØ Ø ½ ¼¼¼ ÔÔÖÓÚ Ö Ø»½
ÓÑÔÓÒ ÒØ Ó Ð ÖÒ Ò ÓÖÑ Ð Þ Ø ÓÒ ÁÒÔÙØ x Ù ØÓÑ Ö ÔÔÐ Ø ÓÒµ ÇÙØÔÙØ y ÓÓ» Ù ØÓÑ Ö µ Ì Ö Ø ÙÒØ ÓÒ f : X Y Ð Ö Ø ÔÔÖÓÚ Ð ÓÖÑÙÐ µ Ø (x 1, y 1 ), (x 2,y 2 ),,(x N,y N ) ØÓÖ Ð Ö ÓÖ µ ÀÝÔÓØ g : X Y ÓÖÑÙÐ ØÓ Ù µ»½
UNKNOWN TARGET FUNCTION f: X Y (ideal credit approval function) TRAINING EXAMPLES ( x, y ),..., ( x, 1 1 N y ) N (historical records of credit customers) LEARNING ALGORITHM A FINAL HYPOTHESIS g ~ f ~ (final credit approval formula) HYPOTHESIS SET H (set of candidate formulas)»½
ËÓÐÙØ ÓÒ ÓÑÔÓÒ ÒØ Ì ¾ ÓÐÙØ ÓÒ ÓÑÔÓÒ ÒØ Ó Ø Ð ÖÒ Ò ÔÖÓ Ð Ñ UNKNOWN TARGET FUNCTION f: X Y (ideal credit approval function) Ì ÀÝÔÓØ Ë Ø H = {h} g H Ì Ä ÖÒ Ò Ð ÓÖ Ø Ñ ÌÓ Ø Ö Ø Ý Ö Ö ÖÖ ØÓ Ø Ð ÖÒ Ò ÑÓ Ðº TRAINING EXAMPLES ( x, y ),..., ( x, y ) 1 1 N N (historical records of credit customers) LEARNING ALGORITHM A HYPOTHESIS SET H (set of candidate formulas) FINAL HYPOTHESIS g ~ f ~ (final credit approval formula)»½
ÑÔÐ ÝÔÓØ Ø ¹ Ø Ô Ö ÔØÖÓÒ³ ÓÖ ÒÔÙØ x = (x 1,,x d ) ØØÖ ÙØ Ó Ù ØÓÑ Ö³ ÔÔÖÓÚ Ö Ø ÒÝ Ö Ø d w i x i > Ø Ö ÓÐ, d w i x i < Ø Ö ÓÐ. i=1 i=1 Ì Ð Ò Ö ÓÖÑÙÐ h H Ò ÛÖ ØØ Ò (( d ) h(x) = Ò i=1 w i x i ) Ø Ö ÓÐ ½¼»½
h(x) = Ò (( d i=1 w i x i ) w 0 ) ÁÒØÖÓ Ù Ò ÖØ Ð ÓÓÖ Ò Ø x 0 = 1 ( d ) h(x) = Ò w i x i i=0 ÁÒ Ú ØÓÖ ÓÖÑ Ø Ô Ö ÔØÖÓÒ ÑÔÐ Ñ ÒØ Ð Ò ÖÐÝ Ô Ö Ð ³ Ø h(x) = Ò(w Ì x) ½½»½
ÑÔÐ Ð ÖÒ Ò Ð ÓÖ Ø Ñ ¹ ÈÄ Ì Ô Ö ÔØÖÓÒ ÑÔÐ Ñ ÒØ h(x) = Ò(w Ì x) y= 1 w y x Ú Ò Ø ØÖ Ò Ò Ø (x 1,y 1 ),(x 2, y 2 ),,(x N,y N ) w x Ô Ñ Ð ÔÓ ÒØ Ò(w Ì x n ) y n y= 1 w Ò ÙÔ Ø Ø Û Ø Ú ØÓÖ w w y n x n w y x x ½¾»½
ÁØ Ö Ø ÓÒ Ó ÈÄ ÇÒ Ø Ö Ø ÓÒ Ó Ø ÈÄ w w yx Û Ö (x, y) Ñ Ð ØÖ Ò Ò ÔÓ Òغ Ø Ø Ö Ø ÓÒ t = 1,2,3, Ô Ñ Ð ÔÓ ÒØ ÖÓÑ Ò ÖÙÒ ÈÄ Ø Ö Ø ÓÒ ÓÒ Øº (x 1,y 1 ),(x 2,y 2 ),,(x N,y N ) Ì Ø³ Ø ½»½
Ì Ð ÖÒ Ò ÔÖÓ Ð Ñ ¹ ÇÙØÐ Ò Ü ÑÔÐ Ó Ñ Ò Ð ÖÒ Ò ÓÑÔÓÒ ÒØ Ó Ð ÖÒ Ò ÑÔÐ ÑÓ Ð ÌÝÔ Ó Ð ÖÒ Ò ÈÙÞÞÐ ½»½
ÔÖ Ñ Ó Ð ÖÒ Ò Ù Ò Ø Ó Ó ÖÚ Ø ÓÒ ØÓ ÙÒÓÚ Ö Ò ÙÒ ÖÐÝ Ò ÔÖÓ ÖÓ ÔÖ Ñ = Ñ ÒÝ Ú Ö Ø ÓÒ ËÙÔ ÖÚ Ä ÖÒ Ò ÍÒ ÙÔ ÖÚ Ä ÖÒ Ò Ê Ò ÓÖ Ñ ÒØ Ä ÖÒ Ò ½»½
ËÙÔ ÖÚ Ð ÖÒ Ò Ü ÑÔÐ ÖÓÑ Ú Ò Ò Ñ Ò Ó Ò Ö Ó Ò Ø ÓÒ Mass 25 Mass 25 5 5 1 1 10 10 Size Size ½»½
ÍÒ ÙÔ ÖÚ Ð ÖÒ Ò ÁÒ Ø Ó ÒÔÙØ ÓÖÖ Ø ÓÙØÔÙص Û Ø ÒÔÙØ µ Mass Size ½»½
ÁÒ Ø Ó ÒÔÙØ ÓÖÖ Ø ÓÙØÔÙص Ê Ò ÓÖ Ñ ÒØ Ð ÖÒ Ò Û Ø ÒÔÙØ ÓÑ ÓÙØÔÙØ Ö ÓÖ Ø ÓÙØÔÙص Ì ÛÓÖÐ ÑÔ ÓÒ Û Ò ÙÖ Ð Ò ØÛÓÖ ½»½
Ä ÖÒ Ò ÔÙÞÞÐ f = 1 f = 1 f =? ½»½