Noyau (statistiques)

Un noyau est une fonction de pondération utilisée dans les techniques d'estimation non-paramétrique. Les noyaux interviennent dans l'estimateur par noyau pour estimer la densité de probabilité d'une variable aléatoire, ou encore dans la régression paramétrique (à noyau) pour estimer des espérances conditionnelles. Pour les séries temporelles, le noyau permet d'estimer la densité spectrale.

Définition[modifier | modifier le code]

Un noyau est une fonction positive, intégrable et à valeurs réelles, notée $K$ , qui doit vérifier les deux conditions suivantes :

normalisation : $\int _{-\infty }^{+\infty }K(u)du=1\,;$
symétrie : $K(-u)=K(u)$ pour toutes les valeurs de $u$ .

La première condition assure que l'estimation à noyau soit bien une densité de probabilité, la seconde assure que l'espérance de l'estimateur est égale à celle de la fonction estimée.

Si $K$ est un noyau, alors il en ira de même pour $K * = 1 / λ K (u / λ)$ , où $λ > 0$ . Cette méthode permet de choisir une échelle adaptée aux données.

Les différents noyaux courants[modifier | modifier le code]

Plusieurs types de noyaux sont couramment utilisés : uniforme, triangle, d'Epanechnikov, quadratique, cubique, gaussien, et circulaire.

Ci-dessous, on note $1_{(p)}\,\!$ la fonction indicatrice qui vaut 1 lorsque p est vrai, 0 sinon.

Tous les noyaux évoqués représentés dans le système de coordonnées usuel.

Uniforme[modifier | modifier le code]

La forme du noyau est une fonction porte :

K(u)={\frac {1}{2}}\ 1_{(|u|\leq 1)}

La fonction estimée aura alors la forme d'un histogramme et n'aura d'intérêt que pour avoir une première estimation de la forme du modèle lisse.

Triangle[modifier | modifier le code]

La forme du noyau est une fonction triangulaire :

K(u)=(1-|u|)\ 1_{(|u|\leq 1)}

La fonction estimée sera alors linéaire par morceaux.

Epanechnikov[modifier | modifier le code]

On parle aussi de noyau « parabolique ». Il porte le nom de V.A. Epanechnikov, qui l'a utilisé et étudié pour la première fois en 1969^[1] :

K(u)={\frac {3}{4}}(1-u^{2})\ 1_{(|u|\leq 1)}

Ce noyau permet d'avoir l'estimateur le plus efficace pour la densité.

Quartique[modifier | modifier le code]

K(u)={\frac {15}{16}}(1-u^{2})^{2}\ 1_{(|u|\leq 1)}

Cubique[modifier | modifier le code]

K(u)={\frac {35}{32}}(1-u^{2})^{3}\ 1_{(|u|\leq 1)}

Gaussien[modifier | modifier le code]

K(u)={\frac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}}u^{2}}

Circulaire[modifier | modifier le code]

K(u)={\frac {\pi }{4}}\cos \left({\frac {\pi }{2}}u\right)1_{(|u|\leq 1)}

Voir aussi[modifier | modifier le code]

Estimateur par noyau

Références[modifier | modifier le code]

↑ (en) V. A. Epanechnikov, « Non-Parametric Estimation of a Multivariate Probability Density », Theory Probab. Appl., vol. 14, n^o 1,‎ 1969, p. 153–158 (DOI 10.1137/1114019)

Liens externes[modifier | modifier le code]

Kernel Basis function.

Portail des probabilités et de la statistique

[1] (en) V. A. Epanechnikov, « Non-Parametric Estimation of a Multivariate Probability Density », Theory Probab. Appl., vol. 14, n^o 1,‎ 1969, p. 153–158 (DOI 10.1137/1114019)

[1]