Nous présentons un ensemble de lois, contenant la plupart des lois usuelles, qui satisfont à une propriété importante en Statistique. Nous rappelons que pour étudier la loi d’une v.a. \(X\), nous considérons, soit ses probabilités \(f(x\ ;\ \theta)=P(X=x\ ;\ \theta)\) (cas discret), soit sa densité \(f(x\ ;\ \theta)\) (cas continu). Nous utiliserons dans les énoncés la fonction de densité, mais le cas discret est tout à fait analogue.
Définition 1. Soit une v.a. \(X\) de loi \(P_{\theta},\ \theta\in \Theta \subset{\mathbb R}^s\). Cette loi fait partie d’une famille exponentielle si elle satisfait aux deux propriétés suivantes :
1) Le support \(S_{\theta}=\lbrace x\in{\mathbb R}^p,\ f(x,\ \theta)> 0\rbrace =S\) ne dépend pas de \(\theta\).
2) Il existe \(s+1\) fonctions \(a_1(\theta),\ \cdots,\ a_s(\theta),\ b(\theta)\) définies sur \(\Theta\), et \(s+1\) fonctions \(T_1(x),\ \cdots,\ T_s(x),\ h(x)\) définies sur \({\mathbb R}^p\), telles que la densité s’écrit :
\[ \ln(f(x\ ;\ \theta))=\left(\sum_{j=1}^s a_j(\theta)T_j(x)\right)+b(\theta)+h(x). \]Remarque 1. Nous pouvons encore écrire :
\[ f(x\ ;\ \theta)=\exp(b(\theta))\exp(h(x))\exp\left(\sum_{j=1}^s a_j(\theta)T_j(x)\right)= B(\theta)H(x)\exp\left(\sum_{j=1}^s a_j(\theta)T_j(x)\right). \]Propriété 1. Soit une v.a. \(X\) de loi \(P_{\theta},\ \theta\in \Theta \subset{\mathbb R}^s\) faisant partie d’une famille exponentielle. Sous des conditions de régularité évidentes, nous avons :
\[ \forall j_0\in\lbrace 1,\ \cdots,\ s\rbrace,\quad \sum_{j=1}^s{\mathbb E}\lbrack T_j(X)\rbrack\frac{\partial a_j(\theta)}{\partial \theta_{j_0}}= -\frac{\partial b(\theta)}{\partial \theta_{j_0}}. \]Exemple 1. Soit une v.a. \(X\) distribuée selon une loi Binomiale \({\cal L}(X)={\cal B}(n\ ;\ p)\). Pour \(x\in\lbrace 0,\ \cdots,\ n\rbrace\), nous avons :
\[ \ln(f(x\ ;\ p))=x\ln(\frac{p}{1-p}) + n\ln(1-p) + \ln(\frac{n!}{x!(n-x)!}). \]Nous constatons que cette loi fait partie d’une famille exponentielle avec \(\theta=p,\ s=1\), le support \(S_p=\lbrace 0,\ \cdots,\ n\rbrace =S\) qui ne dépend pas de \(p\), et :
\[ a_1(p)=\ln(\frac{p}{1-p}),\quad T_1(x)=x,\quad b(p)=n\ln(1-p),\quad h(x)=\ln(\frac{n!}{x!(n-x)!}). \]La propriété 1 nous donne ici
\[ {\mathbb E}\lbrack T(X)\rbrack\frac{1}{p(1-p)}=\frac{n}{1-p}. \]C’est-à-dire \({\mathbb E}\lbrack X\rbrack=np\), résultat bien connu. \(\quad\square\)
Exemple 2. Soit une v.a. \(X\) distribuée selon une loi Normale \({\cal L}(X)={\cal N}(\mu\ ;\ \sigma^2)\). Pour \(x\in{\mathbb R}\), nous avons :
\[ \begin{array}{rcl} \ln(f(x\ ;\ \mu, \ \sigma^2))& = &\displaystyle-\frac{1}{2}\ln(\frac{1}{2\pi\sigma^2})-\frac{1}{2\sigma^2}(x-\mu)^2,\\ &=& \displaystyle\frac{x\mu}{\sigma^2}-\frac{x^2}{2\sigma^2}-\frac{\mu^2}{2\sigma^2}-\frac{1}{2}\ln(\frac{1}{2\pi\sigma^2}). \end{array} \]Nous avons \(s=2,\ \theta=\ ^t(\mu,\ \sigma^2)\), le support \(S_{(\mu,\ \sigma^2)}={\mathbb R}\times{\mathbb R}_{\star}^+ =S\) qui ne dépend pas de \(\mu\) ni de \(\sigma^2\), et :
\[ \begin{array}{l} a_1(\mu,\ \sigma^2)=\displaystyle\frac{\mu}{\sigma^2},\quad a_2(\mu,\ \sigma^2)=-\displaystyle\frac{1}{2\sigma^2},\quad T_1(x)=x, \\ T_2(x)=x^2,\quad b(\mu,\ \sigma^2)=-\displaystyle\frac{\mu^2}{2\sigma^2}+\frac{1}{2}\ln(\frac{1}{2\pi\sigma^2}),\quad h(x)=0. \end{array} \]Une loi Normale univariée fait bien partie d’une famille exponentielle. Il en est de même pour les lois Normales multivariées. La propriété 1, lorsque nous dérivons par rapport à \(\mu\), nous donne ici :
\[ {\mathbb E}\lbrack T_1(X)\rbrack\frac{1}{\sigma^2}+0\ {\mathbb E}\lbrack T_2(X)\rbrack=\frac{\mu}{\sigma^2}. \]C’est-à-dire \({\mathbb E}\lbrack X\rbrack=\mu\). Lorsque nous dérivons par rapport à \(\sigma^2\), nous obtenons :
\[ -{\mathbb E}\lbrack T_1(X)\rbrack\displaystyle\frac{\mu}{\sigma^4}+{\mathbb E}\lbrack T_2(X)\rbrack\frac{1}{2\sigma^4}=-\frac{\mu^2}{2\sigma^4}+\frac{1}{2\sigma^2}. \]C’est-à-dire \({\mathbb E}\lbrack X^2\rbrack=\mu^2+\sigma^2\). \(\quad\square\)
Propriété 2. Soit \(X_{\bullet}\) un \(n-\)échantillon d’une v.a. \(X\) de loi \(P_{\theta},\ \theta\in \Theta \subset{\mathbb R}^s\) faisant partie d’une famille exponentielle. Alors \({\cal L}(X_{\bullet})\) fait partie d’une famille exponentielle. Son support est \(S^n\) et la vraisemblance s’écrit :
\[ \ln(L(x_{\bullet}\ ;\ \theta))=\left(\sum_{j=1}^s a_j(\theta)\left(\sum_{i=1}^nT_j(x_i)\right)\right)+nb(\theta)+\left(\sum_{i=1}^nh(x_i)\right). \]Il suffit de considérer les mêmes fonctions \(a_j(\theta),\ j=1,\ \cdots,\ s,\) que celles de \({\cal L}(X)\), \(nb(\theta)\) et de poser \(T_j(x_{\bullet})=\displaystyle\sum_{i=1}^n T_j(x_i),\ j=1,\ \cdots,\ s\) et \(h(x_{\bullet})=\displaystyle\sum_{i=1}^n h(x_i)\). \(\quad\square\)
Haut de la page.