Jochen Einbeck Department of Mathematical Sciences, Durham University

Ø Ú Ù Ð Þ Ø ÓÒ Ò ÝÓÒ µ Û Ø ÐÓ Ð ÙÖÚ Ò Ñ Ò ÓÐ ÔÖ Ò Ô Ð Jochen Einbeck Department of Mathematical Sciences, Durham University jochen.einbeck@durham.ac.uk joint work with Ludger Evers (University of Glasgow), Leicester, 22 August 2014 p. 1

ÅÓØ Ú Ø ÓÒ Ó ÒÓ Ö Ô Ø Ö ÓÖ Ý Ø ÖÑ Ò Ú Ð ÓÒ Ö Ò Å Ý ¾¼¼¼ ÓÙØ Û Ø Ó ÁÖ Ð Ò º Ù N = 643 Å ÙÖ Ñ ÒØ ÓÒ Û Ø Ö Ø ÑÔ Ö ØÙÖ Ö ÔÓÒ µ Ð Ò ØÝ Û Ø Ö ÔØ ÓÜÝ Ò ÓÒØ Òغ 35.0 35.2 35.4 35.6 4.5 5.0 5.5 6.0 6.5 7.0 temp 4 6 8 10 12 14 35.0 35.2 35.4 35.6 sal depth 0 1000 3000 5000 4.5 5.0 5.5 6.0 6.5 7.0 oxy 4 6 8 10 12 14 0 1000 2000 3000 4000 5000 p. 2

ÅÓØ Ú Ø ÓÒ ÓÒغµ ¹Ú Ö Ø Ö Ö ÓÒ ÔÖÓ Ð Ñ Û Ø Ø ÔÖ ØÓÖ Ô Ì Ý Ð Ò ØÝ Û Ø Ö ÔØ Ò ÓÜÝ Ò Ú Ò oxy 4.0 4.5 5.0 5.5 6.0 6.5 7.0 0 1000 2000 3000 4000 5000 depth 34.8 35.0 35.2 35.4 35.6 35.8 sal p. 3

ÅÓØ Ú Ø ÓÒ ÓÒغµ ¹Ú Ö Ø Ö Ö ÓÒ ÔÖÓ Ð Ñ Û Ø Ø ÔÖ ØÓÖ Ô Ì Ý Ð Ò ØÝ Û Ø Ö ÔØ Ò ÓÜÝ Ò Ú Ò oxy 4.0 4.5 5.0 5.5 6.0 6.5 7.0 0 1000 2000 3000 4000 5000 depth 34.8 35.0 35.2 35.4 35.6 35.8 sal Ï Ö Û Ø Ö Ø ÑÔ Ö ØÙÖ Ö º Ò Û Ñ Ù Ó Ø ÓÒ ¹ µ Ñ Ò ÓÒ Ð ÒÒ Ö ØÖÙØÙÖ p. 3 Ì Ø ÓÖ ÔÖ Ò Ô Ð ÙÖÚ º

Ã Ð Ø Ðº ¾¼¼¾ ÈÓÐÝ ÓÒ Ð Ð Ò Ð ÓÖ Ø Ñ Ú Ð Ð Â Ú ÔÔРص ÈÖ Ò Ô Ð ÙÖÚ ÙÖÚ Ö ÑÓÓØ ÙÖÚ Ø ÖÓÙ Ø Ñ Ð Ó Ø ÐÓÙ ³º ÈÖ Ò Ô Ð ÔÖ Ò Ô Ð ÙÖÚ Ð ÓÖ Ø Ñ Ú ÖÝ Ò ÓÛ Ø Ñ Ð ³ Ó Ø Ø Ö ÒØ ÐÓÙ Ò» ÓÙÒ ÌÖ Ø ÓÒ Ð ÐÓ Ð ØÓÔ¹ ÓÛÒ³µ Ø Ò ÕÙ º ² ËØÙ ØÞÐ ½ ÀË ÔÖ Ò Ô Ð ÙÖÚ Ê Ô pcurve Ò À Ø princurveµ ½ ¾ ÈÖÓ Ð Ø ÔÖ Ò Ô Ð ÙÖÚ ÒÓ ÔÙ Ð Ì Ö Ò ÑÔÐ Ñ ÒØ Ø ÓÒµ ÐØ ÖÒ Ø Ú ÄÓ Ð ÓØØÓÑ ÙÔ³µ Ñ Ø Ó º ¾¼¼½ ÈÖ Ò Ô Ð ÙÖÚ Ó ÓÖ ÒØ ÔÓ ÒØ Ð Ó ÔÖÓ Ö ÑÑ µ Ø Ðº ¾¼¼ ÄÓ Ð ÔÖ Ò Ô Ð ÙÖÚ Ê Ô LPCMµ Ò ² Ö Ó ÑÙ ¾¼½½ ÄÓ ÐÐÝ Ò ÔÖ Ò Ô Ð ÙÖÚ ³ ÇÞ ÖØ Ñ ÒÓ ÔÙ Ð ÑÔÐ Ñ ÒØ Ø ÓÒ µ p. 4

ÄÓ Ð ÔÖ Ò Ô Ð ÙÖÚ ÄÈ µ ÐØ ÖÒ Ø ÐÝ ÐÓ Ð Ñ Ò Ò Ö Ø ÐÓ Ð ÔÖ Ò Ô Ð ÐÙÐ Ø Û Ø Ò ÖØ Ò Ò Û Ø º ÓÑÔÓÒ ÒØ 0.0 0.2 0.4 0.6 0.8 1.0 h starting point Local mean Local PCA 1.0 0.5 0.0 p. 5

ÄÓ Ð ÔÖ Ò Ô Ð ÙÖÚ ÄÈ µ ÐØ ÖÒ Ø ÐÝ ÐÓ Ð Ñ Ò Ò Ö Ø ÐÓ Ð ÔÖ Ò Ô Ð ÐÙÐ Ø Û Ø Ò ÖØ Ò Ò Û Ø º ÓÑÔÓÒ ÒØ 0.0 0.2 0.4 0.6 0.8 1.0 h starting point Local mean Local PCA 1.0 0.5 0.0 p. 5 Ì ÄÈ Ø Ö Ó ÐÓ Ð Ñ Ò º

ØØ Ò Ø ÄÈ Ø ÖÓÙ Ó ÒÓ Ö Ô Ø Ø Û Ø ÐÓ Ð ÒØ Ö Ó Ñ ÄÈ > require(lpcm) > ocean.lpc <- lpc(ocean, h=0.12) > plot(ocean.lpc, type=c("curve", "mass")) oxygen 4.0 4.5 5.0 5.5 6.0 6.5 7.0 0 1000 2000 3000 4000 5000 depth 34.8 35.0 35.2 35.4 35.6 35.8 salinity p. 6

È Ö Ñ ØÖ Þ Ò Ø ÄÈ Ô Ö Ñ ØÖ Þ Ø ÄÈ Ø ÖÓÙ Ø Ö Ð Ò Ø Ó Ù ÔÐ Ò Ï Ø ÐÓ Ð ÒØ Ö Ó Ñ Ò Ú Ö ² À Ò Ð ¾¼½¼µº Ø ÖÓÙ > ocean.spline <- lpc.spline(ocean.lpc) > plot(ocean.spline, type=c("curve", "mass", "spline")) oxygen 4.0 4.5 5.0 5.5 6.0 6.5 7.0 0 1000 2000 3000 4000 5000 depth 34.8 35.0 35.2 35.4 35.6 35.8 salinity p. 7

ÈÖÓ Ø Ò ÓÒØÓ Ø ÄÈ ÔÖÓ Ø Ø ÔÓ ÒØ x Ï i R d Ø Ò Ö Ø ÔÓ ÒØ ÓÒ Ø ÓÒØÓ Ý Ð Ò ÓÒ ¹ Ñ Ò ÓÒ Ð ÔÖÓ Ø ÓÒ Ò Ü p ÙÖÚ i R > plot(ocean.spline, type=c("spline", "project")) oxygen 4.0 4.5 5.0 5.5 6.0 6.5 7.0 0 1000 2000 3000 4000 5000 depth 34.8 35.0 35.2 35.4 35.6 35.8 salinity p. 8

Ò Û Ø Ð Ø ÓÒ ÈÖÓÔÓÖØ ÓÒ Ó Ø ÔÓ ÒØ Û Ø Ò ØÙ ÖÓÙÒ Ø Ë Ð ¹ÓÚ Ö Ó Ø Ñ Ö Ù Ø Ò Û Ø Ù ØÓ ØØ Ø ÙÖÚ ÙÖÚ Ò ¾¼½½µº > ocean.self<- lpc.self.coverage(ocean) S(h) 0.0 0.2 0.4 0.6 0.8 1.0 0.1 0.2 0.3 0.4 0.5 h p. 9 Ú h = 0.12

Ê Ö ÓÒ ÓÒ Ø ÄÈ ØÓ Ò Ø Ð ÔÖÓ Ð Ñ Ï Ø y = Ø ÑÔ Ö ØÙÖ Ö ÔÓÒ Ø ÙÒ Ú Ö Ø ÒÓÒÔ Ö Ñ ØÖ Ö Ö ÓÒ ÔÖÓ Ð Ñ Ö Ñ Ò y i = g(p i )+ε i º > pi <- lpc.spline(ocean.lpc, project=true) > plot(pi, temperature,...) temperature 4 6 8 10 12 14 0.0 0.5 1.0 1.5 2.0 2.5 ocean.project$closest.pi p. 10

Ê Ö ÓÒ ÓÒ Ø ÄÈ ÓÒغµ Ò ØØ Ý ÒÝ ÒÓÒÔ Ö Ñ ØÖ ÑÓÓØ Ö ÓÖ Ò Ø Ò Ì Ð Ò Ö ÑÓÓØ Öº ÐÓ Ð ÓÒ Ö Ò Ð ¹ Ò Ü ÑÓ Ð Û Ø ÒÓÒÔ Ö Ñ ØÖ ÐÐÝ ÓÙÐ Ò Üº ÓÒ ØÖÙØ > require(kernsmooth) > fit<- locpoly(pi[order(pi), temperature[order(pi)],...)) > lines(fit) p. 11

ÓÖ ÐÓ Ð ÔÖ Ò Ô Ð ÙÖ Á Ñ Ó ÐÓ ÐÐÝ Ø ØØ Ò ØÖ Ò Ð º Ù Ð ÐÓÛ Ò ØÝ Ø Ö ÓÐ ÐÐ ØÓÓ ÐÓ ØÓ Ò Ü Ø Ò ÓÒ º ÈÖ Ò Ô Ð ÙÖ ÄÓ Ð È ÓÒÐݵ Ù ØÓ Ò Ø Ò Ø Ð ØÖ Ò Ð º ËØ ÖØ Ò ÖÓÑ Ø Ò Ø Ð ØÖ Ò Ð Ø Ö Ø Ú ÐÝ º º º ½µ ÐÙ ÙÖØ Ö ØÖ Ò Ð Ø Ó Ø º Ù Ø Ö Ú ÖØ Ü Ú ÓÒ ØÖ Ò Ñ Ò ¾µ Ñ Ò Û ØÖ Ò Ð Ø Ò Û Ú ÖØ Ü Øº º º º ÙÒØ Ð ÐÐ ØÖ Ò Ð Ú Ò ÓÒ Ö º Ò Ú Ö ² ÈÓÛ ÐÐ ¾¼½¼µ p. 12

ÈÖ Ò Ô Ð ÙÖ ÓÒغµ ÄÓ Ð ÔÖ Ò Ô Ð ÙÖ ØØ ØÓ Ó ÒÓ Ö Ô Ø > library(lpmforge) # by L. Evers, under construction > ocean.lpm <- lpm(ocean, h=120) > plot3d(ocean.lpm) p. 13

ÈÖ Ò Ô Ð ÙÖ ÓÒغµ ÈÓ ØÔÖÓ Ò Ú Ð Ø Ò Ø ÓÖ Ò Ò ÒÓÚÝ Ú ¾¼¼ µ > ocean2.lpm<- postprocess.lpm(ocean.lpm) > plot3d(ocean2.lpm) p. 14

Ê Ö ÓÒ ÓÒ ÔÖ Ò Ô Ð ÙÖ principal surface from 2D data Ü ÑÔÐ ÔÖ Ò Ô Ð ÙÖ ÌÓÝ Ú Ö Ø Ø º ÓÖ 6 4 2 0 2 4 6 4 2 0 2 4 6 p. 15

Ê Ö ÓÒ ÓÒ ÔÖ Ò Ô Ð ÙÖ principal surface with projections Ü ÑÔÐ ÔÖ Ò Ô Ð ÙÖ ÌÓÝ Ú Ö Ø Ø º ÓÖ Ø ÔÓ ÒØx ÁÒ Ø ÐÐÝ i ÔÖÓ¹ ÓÒØÓ Ø ÐÓ Ø ØÖ Ò Ð Ø 6 4 2 0 2 4 6 4 2 0 2 4 6 ÓÖ ÑÔРܵ Ý t i º p. 15

Ê Ö ÓÒ ÓÒ ÔÖ Ò Ô Ð ÙÖ Ü ÑÔÐ ÔÖ Ò Ô Ð ÙÖ ÌÓÝ Ú Ö Ø Ø º ÓÖ Ø ÔÓ ÒØx ÁÒ Ø ÐÐÝ i ÔÖÓ¹ ÓÒØÓ Ø ÐÓ Ø ØÖ Ò Ð Ø ÓÖ ÑÔРܵ Ý t i º Æ ÜØ ÓÒ Ö Ö ÔÓÒ y i º Ï Ò Ø Ô Ö Ø Ö Ö ÓÒ ÑÓ Ð ÓÖ ØÖ Ò Ð j y i = c (j) (x i ) β (j) +ǫ i for alliwith closest trianglet i = j, c (j) (x Û Ö i Ö Ø ÓÓÖ Ò Ø Ó Ø ÔÖÓ Ø ÔÓ ÒØ Ù Ò Ø ) Ó Ø j Ø ØÖ Ò Ð ÙÒØ ÓÒ º p. 15

È Ò Ð Þ Ö Ö ÓÒ ØÓØ ÐÐÝ ÙÒÖ Ð Ø Ö Ö ¹ ØØ Ò Û Ø Ò ØÖ Ò Ð ÓÒ Ð ÖÐÝ ÙÒ Ø ØÓÖݺ p. 16

È Ò Ð Þ Ö Ö ÓÒ ØÓØ ÐÐÝ ÙÒÖ Ð Ø Ö Ö ¹ ØØ Ò Û Ø Ò ØÖ Ò Ð ÓÒ Ð ÖÐÝ ÙÒ Ø ØÓÖݺ Û ÔÔÐÝ Ò ÓÒØ ÒÙ¹ Ì Ö ÓÖ Ô Ò ÐØÝ Û Û Ô Ò Ð¹ ØÝ Ö Ò ØÛ Ò ÔÖ ¹ Þ Ó Ò ÓÖ Ò ØÖ Ò Ð Ø Ø ÓÒ Ö Ú ÖØ º p. 16

È Ò Ð Þ Ö Ö ÓÒ ØÓØ ÐÐÝ ÙÒÖ Ð Ø Ö Ö ¹ ØØ Ò Û Ø Ò ØÖ Ò Ð ÓÒ Ð ÖÐÝ ÙÒ Ø ØÓÖݺ Û ÔÔÐÝ Ò ÓÒØ ÒÙ¹ Ì Ö ÓÖ Ô Ò ÐØÝ Û Û Ô Ò Ð¹ ØÝ Ö Ò ØÛ Ò ÔÖ ¹ Þ Ó Ò ÓÖ Ò ØÖ Ò Ð Ø Ø ÓÒ Ö Ú ÖØ º Û ÔÔÐÝ ÑÓÓØ ¹ Ø ÓÒ ÐÐÝ Ô Ò ÐØÝ Û Ô Ò Ð Þ ¹ Ò Ò Ö Ö ÓÒ Ø ÒØ Ö Ò ØÖ Ò Ð º p. 16

È Ò Ð Þ Ö Ö ÓÒ ÓÒس µ Ò Ø Ô Ö Ñ Ø Ö Ú ØÓÖ β = (β (1),β (2),... ) Ò Ñ ØÖ Ü Z Û ÓÜ ÔÖÓ ÙØ Ó (c (ti) (x Ø i )) 1 i n Ò ÒÝ Ñ ØÖ Üµ Ò ÔÔÖÓÔÖ Ø Ô Ò ÐØÝ Ñ ØÖ D Ò Eº Ø ÒØ Ö Ñ Ò Ñ Þ Ø ÓÒ ÔÖÓ Ð Ñ Ò ÛÖ ØØ Ò Ì Ò Zβ y 2 +λ Dβ 2 +µ Eβ 2. (1) ÓÐÙØ ÓÒ Ú Ò Ý Ì ˆβ = (Z Z+λD D+µE E ) 1 Z y. Ò Á Ú Ö ² È Ö ÒØ ¾¼½¾µ p. 17

ØÓ Ó ÒÓ Ö Ô Ø Ö Ö ÓÒ Ó Û Ø Ö Ø ÑÔ Ö ØÙÖ ÓÒ ÔÖ Ò Ô Ð ÙÖ È Ò Ð Þ > ocean.reg <- regression.lpm(ocean2.lpm, temperature, penalty.continuity=1, penalty.smoothness=1) > plot(ocean.reg) p. 18

Ð Ø ÓÒ Ò Û Ø ÓÓ Ò Ó Ø Å ÙÖ Ò ÙØÓÑ Ø ÑÓÓØ Ò Ô Ö Ñ Ø Ö Ð Ø ÓÒ Ý Øº ÆÓ Ø Ö Ø³ Ñ Ò ÓÒ Ó Ø Ñ Ò ÓÐ ÒÓØ Ö Ù ººº Ò Ò ÓÒÐÙ ÓÒ ÙÖÚ Ò ÙÖ Ò Ù Ù Ð Ò ÐÓ ÓÖ ÈÖ Ò Ô Ð Ø Ø Ø Ð ÔÖÓ ÙÖ Ù ÒÓÒÔ Ö Ñ ØÖ Ö Ö ÓÒµº ÙÖØ Ö Ö ÓÒÐÝ Ù Ø Ð ÓÖ Ø Û Ø Ú ÖÝ ÒØ Ö Ú Ö Ð Ì Ò ÕÙ ÓÖÖ Ð Ø ÓÒ º Ê Ô LPCM ÓÒ Ê Æµ ÈÖ Ò Ô Ð ÙÖÚ ØØ Ò Òк Ô Ö Ñ ØÖ Þ Ø ÓÒ Ò ÔÖÓ Ø ÓÒµ Å Ò Ø ÐÙ Ø Ö Ò µ ØÓÓÐ Ê Ô lpmforge Ò Ú ÐÓÔÑ ÒØ Äº Ú Ö µ ØØ Ò ÔÖ Ò Ô Ð ÙÖ Ò Ñ Ò ÓÐ Ó Ö Ñ Ò ÓÒ ÙÒØ ÓÒ Ð Ø ÓÖ ÔÓ Ø¹ÔÖÓ Ò Ð Ø Ò Øµ ÁÒÐÙ Ò Ö Ö ÓÒº ÔÖÓ Ø ÓÒ p. 19

Kégl, Krzyzak, Linder,& ¾¼¼¼µ Ä ÖÒ Ò Ò Ò Ó ÈÖ Ò Ô Ð Zeger Á ÌÖ Ò Ø ÓÒ È Øغ Ò Ðº Å º ÁÒØ Ðк 24 º ÙÖÚ º Ê Ö Ò Delicado ¾¼¼½µ ÒÓØ Ö ÄÓÓ Ø ÈÖ Ò Ô Ð ÙÖÚ Ò ËÙÖ ÂÓÙÖÒ Ð Ó ÅÙÐØ Ú Ö Ø Ò ÐÝ 77 ½½ º Gorban & Zinovyev ¾¼¼ µ Ð Ø ÔÖ Ò Ô Ð Ö Ô Ò Ñ Ò ÓÐ Ò Ø Ö ÔÖ Ø Ð ÔÔÐ Ø ÓÒº ÓÑÔÙØ Ò 75 º Hastie & Stuetzle ½ µ ÈÖ Ò Ô Ð ÙÖÚ º Â Ë 84 ¼¾ ½ º Ozertem & Erdogmus ¾¼½½µ ÄÓ ÐÐÝ Ò ÔÖ Ò Ô Ð ÙÖÚ ÂÓÙÖÒ Ð Ó Å Ò Ä ÖÒ Ò Ê Ö 12 ½¾ ½¾ º Tibshirani ½ ¾µ ÈÖ Ò Ô Ð ÙÖÚ Ê Ú Ø º ËØ Ø Ø Ò ÓÑÔÙØ Ò 2 ½ ½ ¼º p. 20

¾¼½½µº Ò Û Ø Ð Ø ÓÒ ÓÖ Ñ Ò¹ Ø ÙÒ ÙÔ ÖÚ Einbeck Ø Ò ÕÙ ¹ ÙÒ ÔÔÖÓ Ú Ð ¹ÓÚ Ö ÂÓÙÖÒ Ð Ð ÖÒ Ò Ê Ö Ò ÓÒغµ Einbeck, Tutz & Evers ¾¼¼ µ ÄÓ Ð ÔÖ Ò Ô Ð ÙÖÚ º ËØ Ø Ø Ò ÓÑÔÙØ Ò 15 ¼½ ½ º Einbeck, Evers & Hinchliff ¾¼½¼µ Ø ÓÑÔÖ ÓÒ Ò Ö Ö ÓÒ ÓÒ ÐÓ Ð ÔÖ Ò Ô Ð ÙÖÚ º ÁÒ Ò Ø Ðº µ Ú Ò Ò Ò ÐÝ Ø À Ò Ð Ò Ò Ù Ò ÁÒØ ÐÐ Ò Ø À Ð Ö ÔÔº ¼½ ½¾ ËÔÖ Ò Öº Einbeck, Evers & Powell ¾¼½¼µ Ø ÓÑÔÖ ÓÒ Ò Ö Ö ÓÒ ÐÓ Ð ÔÖ Ò Ô Ð ÙÖÚ Ò ÙÖ º ÁÒØ ÖÒ Ø ÓÒ Ð ÂÓÙÖÒ Ð Ó Ø ÖÓÙ ËÝ Ø Ñ 20 ½ ½ ¾º Æ ÙÖ Ð Ó È ØØ ÖÒ Ê Ó Ò Ø ÓÒ Ê Ö 6 ½ ½ ¾º Einbeck, Isaac, Evers & Parente ¾¼½¾µ È Ò Ð Þ Ö Ö ÓÒ ÓÒ ÔÖ Ò Ô Ð Û Ø ÔÔÐ Ø ÓÒ ØÓ ÓÑ Ù Ø ÓÒ ÑÓ ÐÐ Ò º ÈÖÓ³ Ó Ø Ñ Ò ÓÐ ÁÒØ ÖÒ Ø ÓÒ Ð ÏÓÖ ÓÔ ÓÒ ËØ Ø Ø Ð ÅÓ ÐÐ Ò ÍÒ Ú Ö ØÝ Ó ¾ Ø p. 21 ÓÒÓÑ ÈÖ Ù º