$ {\ell }^{1}$ sparsity and applications in estimation

Jean-Michel Loubes

doi:10.1016/j.crma.2007.01.027

Statistics/Probability Theory

ℓ^{1}

sparsity and applications in estimation
[Contrainte

ℓ^{1}

et applications en estimation non-paramétrique]

Présenté par : Paul Deheuvels

Jean-Michel Loubes ¹

¹ UMR CNRS 5149, Département de mathématiques et de modélisation, université Montpellier 2, 34095 Montpellier, France

Comptes Rendus. Mathématique, Volume 344 (2007) no. 6, pp. 399-402.

Résumé
Abstract

Nous étudions les propriétés asymptotiques d'une nouvelle classe de M-estimateurs pénalisés par une pénalité de type norme $ℓ^{1}$ . Nous montrons que nous pouvons ainsi construire des estimateurs adaptatifs, c'est-à-dire convergeant à la vitesse optimale sans connaître la régularité de la fonction à estimer. Nous montrons que ce procédé général s'applique dans le cadre du modèle de régression, des problèmes inverses et pour l'estimation de densités.

In this Note, we study the asymptotic behaviour of a new class of penalized M-estimators, built with an $ℓ^{1}$ type penalty. We prove that adding an $ℓ^{1}$ constraint enables to construct adaptive estimators, in the sense that the estimators converge at the optimal rate of convergence without prior knowledge of the regularity of the function to be reconstructed. Moreover, we show how the usual issues in nonparametric estimation, such as density estimation, estimation of a regression function and inverse problem estimation can be handled with this methodology.

Reçu le : 2006-05-22
Accepté le : 2007-01-25
Publié le : 2007-03-12

DOI : 10.1016/j.crma.2007.01.027

Affiliations des auteurs :

Jean-Michel Loubes ¹

¹ UMR CNRS 5149, Département de mathématiques et de modélisation, université Montpellier 2, 34095 Montpellier, France

@article{CRMATH_2007__344_6_399_0,
     author = {Jean-Michel Loubes},
     title = {$ {\ell }^{1}$ sparsity and applications in estimation},
     journal = {Comptes Rendus. Math\'ematique},
     pages = {399--402},
     publisher = {Elsevier},
     volume = {344},
     number = {6},
     year = {2007},
     doi = {10.1016/j.crma.2007.01.027},
     language = {en},
}

TY  - JOUR
AU  - Jean-Michel Loubes
TI  - $ {\ell }^{1}$ sparsity and applications in estimation
JO  - Comptes Rendus. Mathématique
PY  - 2007
SP  - 399
EP  - 402
VL  - 344
IS  - 6
PB  - Elsevier
DO  - 10.1016/j.crma.2007.01.027
LA  - en
ID  - CRMATH_2007__344_6_399_0
ER  -

%0 Journal Article
%A Jean-Michel Loubes
%T $ {\ell }^{1}$ sparsity and applications in estimation
%J Comptes Rendus. Mathématique
%D 2007
%P 399-402
%V 344
%N 6
%I Elsevier
%R 10.1016/j.crma.2007.01.027
%G en
%F CRMATH_2007__344_6_399_0

Jean-Michel Loubes. $ {\ell }^{1}$ sparsity and applications in estimation. Comptes Rendus. Mathématique, Volume 344 (2007) no. 6, pp. 399-402. doi : 10.1016/j.crma.2007.01.027. https://comptes-rendus.academie-sciences.fr/mathematique/articles/10.1016/j.crma.2007.01.027/

Bibliographie
Cité par

[1] A. Berlinet; G. Biau; L. Rouvière Optimal $L_{1}$ bandwidth selection for variable kernel density estimates, Statist. Probab. Lett., Volume 74 (2005), pp. 116-128

[2] A. Cohen; M. Hoffmann; M. Reiß Adaptive wavelet Galerkin methods for linear inverse problems, SIAM J. Numer. Anal., Volume 42 (2004) no. 4, pp. 1479-1501

[3] B. Efron; T. Hastie; I. Johnstone; R. Tibschirani LARS, Ann. Statist., Volume 32 (2004) no. 2, pp. 407-499

[4] S. Loubes; J.-M. van de Geer Statist. Neerlandica, 56 (2002) no. 4, pp. 454-479

[5] B. Silverman On the estimation of a probability density function by the maximum penalized likelihood method, Ann. Statist., Volume 10 (1982), pp. 795-810

[6] S. van de Geer Applications of Empirical Process Theory, Cambridge Univ. Press, Cambridge, 2000

Cité par Sources :

Commentaires - Politique