En estadística, la estimació de la densitat de Kernel (KDE) és l'aplicació del suavisat de kernel per a l'estimació de la densitat de provabilitat, és dir, un método no paramètric per a estimar la funció de densitat de provabilitat d'una variable aleatòria basada en kernels com a pesos. KDE respon a un problema fonamental de suavisat de senyes en el que es fan inferència sobre la població, basant-se en una mostra finita de senyes. En alguns camps, com el processament de senyals i l'econometria, també es denomina método de la finestra de Parzen-Rosenblatt, en honor a Emanuel Parzen i Murray Rosenblatt, a els qui se sol atribuir la seua creació independent en la seua forma actual.[1][2]Una de les aplicacions més conegudes de l'estimació de la densitat del núcleu és l'estimació de les densitat marginals condicionals de classe de les senyes quan s'utilisa un classificador Bayes ingenu,[3][4] que pot millorar la seua precisió de predicció.[3]

Estimació de la densitat del núcleu de 100 números aleatoris distribuïts normalment utilisant diferents amples de banda de suavisat.

Definició

Siguen (x1, x2, ..., xn) mostres independents i idénticamente distribuïdes extretes d'alguna distribució univariante en una densitat desconeguda ƒ en qualsevol punt donat x. Nos interessa estimar la forma d'esta funció ƒ. El seu estimador de densitat kernel és

f^h(x)=1n∑i=1nKh(x−xi)=1nh∑i=1nK(x−xih),

A on K és el núcleu (una funció no negativa) i h > 0 és un paràmetro de suavisat denominat ample de banda. Un kernel en el subíndex h es denomina kernel escalat i es definix com Kh(x) = 1/h K(x/h). Intuitivament, un vol elegir h tan chicotet com permeten les senyes; no obstant, sempre hi ha un compromís entre el biaix de l'estimador i la seua varianza. L'elecció de l'ample de banda s'analisa en més detall a continuació.


Se sol utilisar una série de funcions de kernel: uniforme, triangular, biponderada, triponderada, Epanechnikov, normal i unes atres. El kernel de Epanechnikov és òptim en el sentit del error quadràtic mig,[5] encara que la pèrdua d'eficiència és chicoteta per als kernels enumerats anteriorment.[6] Per les seues convenients propietats matemàtiques, a sovint s'utilisa el kernel normal, que significa K(x) = ϕ(x), a on ϕ és la funció de densitat normal estàndart.

La construcció d'una estimació de densitat de núcleu troba interpretacions en camps aliens a l'estimació de densitat.[7] Per eixemple, en termodinàmica, equival a la cantitat de calor generada quan es coloquen kernel de calor (la solució fonamental de l'equació de la calor) en cada ubicació de punt de senyes xi. S'utilisen métodos similars per a construir operadors discrets de Laplace en núvols de punts per al aprenentage de varietats (per eixemple, el mapa de difusió).

Eixemple

Les estimacions de densitat de kernel estan estretament relacionades en els histograma, pero poden dotar-se de propietats com la suavitat o la continuïtat per mig de l'us d'un kernel adequat. El següent diagrama basat en estos 6 punts de senyes ilustra esta relació:

Mostra 1 2 3 4 5 6
Valor -2.1 -1.3 -0.4 1.9 5.1 6.2

Per al histograma, primer es dividix l'eix horisontal en subintervalos o "bins" que cobrixen l'interval de les senyes: En este cas, sis intervals de 2. Cada volta que una senya cau dins d'este interval, es coloca en ell una caixa d'1/12 d'altura. Si hi ha més d'una senya dins del mateix interval, les caixes s'apilen unes damunt d'unes atres.

Per a l'estimació de la densitat del núcleu, es coloquen núcleus normals en una desviació estàndar d'1,5 (indicats per les llínees discontínues roges) en cada u dels punts de senyes xi. Els núcleus se sumen per a obtindre l'estimació de la densitat del núcleu (curva blava contínua). La suavitat de l'estimació de la densitat del kernel (en comparació a la discreció del histograma) ilustra cóm les estimacions de la densitat del kernel convergixen més ràpidament a la verdadera densitat subjacent per a variables aleatòries contínues.[8]

 
Comparació del histograma (esquerra) i l'estimació de la densitat del kernel (dreta) construïts en les mateixes senyes. Els sis núcleus individuals són les curves roges discontínues, i l'estimació de la densitat del núcleu, les curves blaves. Els punts de senyes són el rug plot (diagrama d'estora) en l'eix horisontal.


Referències

  1. ↑ Rosenblatt, Murray(1956-09).«Remarks on Some Nonparametric Estimates of a Density Function».The Annals of Mathematical Statistics.27(3): 832–837.ISSN 0003-4851.doi:10.1214/aoms/1177728190.Consultat el 2024-03-27.
  2. ↑ Parzen, Emanuel(1962-09).«On Estimation of a Probability Density Function and Mode».The Annals of Mathematical Statistics.33(3): 1065–1076.ISSN 0003-4851.doi:10.1214/aoms/1177704472.Consultat el 2024-03-27.
  3. ↑ 3,0 3,1 Piryonesi S. Madeh; El-Diraby Tamer E.(2020).«Role of Data Analytics in Infrastructure Asset Management: Overcoming Data Size and Quality Problems"».Journal of Transportation Engineering, Part B: Pavements..doi:10.1061/JPEODX.0000175.
  4. ↑ Hastie, Trevor; Tibshirani, Robert; Friedman, Jerome H.(2001).«The Elements of Statistical Learning : Data Mining, Inference, and Prediction : with 200 full-color illustrations.».New York: Springer.
  5. ↑ Epanechnikov, V.A.(1969).«"Senar-parametric estimation of a multivariate probability density"».Theory of Probability and Its Applications.doi:10.1137/1114019.
  6. ↑ Wand, M.P; Jones, M.C.(1995).«Kernel Smoothing».London: Chapman & Hall/CRC.
  7. ↑ «UQ eSpace». espace.library.uq.edu.au. Consultat el 2024-03-27.
  8. ↑ Scott, D.(1979).«On optimal and data-based histograms».Biometrika.doi:10.1093/biomet/66.3.605.