Estimation Sans Biais

Les estimations peuvent varier avec chaque nouvel ensemble d'échantillons, les rendant des variables aléatoires avec leurs propres distributions. Pour déterminer la qualité d'une estimation, nous avons besoin de critères pour évaluer quelles estimations sont meilleures ou pires, et dans quelle mesure elles correspondent à nos attentes.

En pratique, les estimations sont souvent évaluées en fonction de trois propriétés clés : l'absence de biais, la cohérence et l'efficacité.

Estimation sans biais

L'estimation sans biais en statistique garantit que la valeur attendue de l'estimateur est égale à la vraie valeur du paramètre estimé. Cela signifie que l'estimation n'est pas systématiquement trop élevée ou trop basse en moyenne.

Mathématiquement, cela s'exprime comme suit :

Pour mieux comprendre cette propriété, examinons l'estimation de la moyenne et de l'écart type pour des échantillons gaussiens en utilisant la méthode des moments.

Estimation de la moyenne

Ainsi, on peut conclure que l'estimation de la moyenne de la population gaussienne en calculant la moyenne de l'échantillon est non biaisée puisque la valeur espérée de la valeur obtenue est égale à la valeur réelle de la moyenne.

Estimation de la variance

Estimons maintenant la variance de la population en calculant la variance via des échantillons :

Nous avons obtenu une estimation biaisée où la valeur attendue de la variance de l'échantillon est inférieure à la vraie variance. Cependant, à mesure que le nombre d'échantillons augmente, la valeur attendue se rapproche de la vraie variance (car 1/m tend vers zéro).

Remarque

Une estimation qui reste biaisée mais dont ce biais diminue jusqu'à zéro à mesure que le nombre d'échantillons tend vers l'infini est appelée asymptotiquement non biaisée.

Pour créer une estimation simplement non biaisée de la variance de la population, nous pouvons utiliser la formule suivante :

L'estimation obtenue en utilisant la formule ci-dessus est appelée la variance d'échantillon ajustée.

Remarque

La variance d'échantillon est biaisée uniquement si nous utilisons la moyenne d'échantillon dans le calcul. Si nous connaissons exactement l'espérance mathématique et voulons estimer la variance, alors nous pouvons utiliser cette espérance au lieu de la moyenne d'échantillon, et une telle estimation sera non biaisée.

Il est également important de mentionner que les formules ci-dessus pour estimer la moyenne et la variance peuvent être utilisées pour la distribution gaussienne et toute autre distribution avec une espérance mathématique et une variance. De telles estimations seront également non biaisées.