Variables aléatoires discrètes

Un résultat vérifie \(X \in A\) exactement lorsque sa valeur appartient à \(A \cap X(\Omega)\), ce qui donne la décomposition encadrée. L'ensemble d'indices \(A \cap X(\Omega)\) est une partie de l'ensemble au plus dénombrable \(X(\Omega)\), donc au plus dénombrable, et chaque \(\{X = x\}\) est un événement ; une réunion d'au plus une infinité dénombrable d'événements est un événement. (À ce niveau, on ne soulève pas de difficulté sur le fait qu'un tel ensemble est un événement.)

Chaque \(\{X = x\}\) est un événement, et l'ensemble d'indices \(X(\Omega)\) est au plus dénombrable. Pour \(x \neq x'\), aucun résultat ne peut vérifier à la fois \(X = x\) et \(X = x'\), donc \(\{X = x\} \cap \{X = x'\} = \varnothing\) : les événements sont deux à deux incompatibles. Enfin tout résultat \(\omega\) a une valeur \(X(\omega) \in X(\Omega)\), donc il appartient à \(\{X = X(\omega)\}\) ; la réunion de la famille vaut donc \(\Omega\).

L'image \(f(X(\Omega))\) est l'image d'un ensemble au plus dénombrable, donc au plus dénombrable. Pour une valeur \(y\), \(\{f(X) = y\} = \{X \in f^{-1}(\{y\})\}\), qui est un événement par la Proposition précédente. Les deux conditions de la définition sont vérifiées, donc \(f(X)\) est une variable aléatoire discrète. On ne soulève aucune difficulté sur le fait que \(f(X)\) est une variable aléatoire.

Par la Proposition précédente, \(\{X \in A\}\) est la réunion disjointe \(\bigsqcup_{x \in A \cap X(\Omega)}\{X = x\}\) sur un ensemble d'indices au plus dénombrable, donc \(\mathbb{P}_X(A) = \mathbb{P}(X \in A) = \sum_{x \in A \cap X(\Omega)} \mathbb{P}(X = x)\). En particulier \(\mathbb{P}_X(A) = 0\) lorsque \(A \cap X(\Omega) = \varnothing\), et en prenant \(A = E\) on obtient \(\mathbb{P}_X(E) = \sum_{x \in X(\Omega)} \mathbb{P}(X = x) = \mathbb{P}(\Omega) = 1\). Les valeurs sont dans \([0, 1]\), la masse totale vaut \(1\), et une réunion disjointe de parties de \(E\) correspond à une réunion disjointe d'événements, sur laquelle \(\mathbb{P}\) s'ajoute : \(\mathbb{P}_X\) est une probabilité. Comme \(\mathbb{P}_X(A)\) est, par la formule encadrée, une somme des \(\mathbb{P}(X = x)\), la loi se lit sur la seule distribution.

On prend \(\Omega = E\) avec toutes ses parties pour événements. La famille \((p_x)\) définit une probabilité \(\mathbb{P}\) sur \(E\) par \(\mathbb{P}(A) = \sum_{x \in A} p_x\) (la correspondance entre une famille positive sommable de masse totale \(1\) et une probabilité, vue dans Espaces probabilisés et indépendance d'événements). Sur cet espace l'application identité \(X = \operatorname{id}_E\) est une variable aléatoire discrète avec \(\mathbb{P}(X = x) = \mathbb{P}(\{x\}) = p_x\) : sa distribution est exactement \((p_x)\).

L'image de \((X, Y)\) est contenue dans \(X(\Omega) \times Y(\Omega)\), produit de deux ensembles au plus dénombrables, donc au plus dénombrable. Pour une valeur \((x, y)\), \(\{(X, Y) = (x, y)\} = \{X = x\} \cap \{Y = y\}\) est une intersection de deux événements, donc un événement. Donc \((X, Y)\) est une variable aléatoire discrète ; les deux mêmes remarques s'appliquent à un \(n\)-uplet, et \(f(X_1, \dots, X_n)\) est alors discrète par la Proposition « image par une fonction ». On ne soulève aucune difficulté sur le fait que ce sont des variables aléatoires. Enfin les ensembles de niveau du couple forment un système complet d'événements par la Proposition « système complet ».

La famille \((\{Y = y\})_{y \in Y(\Omega)}\) est un système complet d'événements. La formule des probabilités totales d'Espaces probabilisés et indépendance d'événements, appliquée à \(\{X = x\}\) sur ce système, donne $$ \mathbb{P}(X = x) = \sum_{y \in Y(\Omega)} \mathbb{P}(\{X = x\} \cap \{Y = y\}) = \sum_{y \in Y(\Omega)} \mathbb{P}(X = x, Y = y). $$

Si \(X \perp Y\), prendre \(A = \{x\}\) et \(B = \{y\}\) dans la définition donne aussitôt l'égalité encadrée.
Réciproquement, supposons l'égalité pour toutes les valeurs, et fixons \(A \subset X(\Omega)\), \(B \subset Y(\Omega)\). En décomposant \(\{X \in A,\ Y \in B\}\) sur les valeurs et en sommant les événements (en nombre au plus dénombrable, deux à deux incompatibles), $$ \mathbb{P}(X \in A,\ Y \in B) = \sum_{(x,y) \in A \times B} \mathbb{P}(X = x,\ Y = y) = \sum_{(x,y) \in A \times B} \mathbb{P}(X = x)\,\mathbb{P}(Y = y). $$ Les termes sont positifs, donc la somme double se factorise en un produit de deux sommes : $$ \mathbb{P}(X \in A,\ Y \in B) = \Bigl(\sum_{x \in A} \mathbb{P}(X = x)\Bigr)\Bigl(\sum_{y \in B} \mathbb{P}(Y = y)\Bigr) = \mathbb{P}(X \in A)\,\mathbb{P}(Y \in B). $$ D'où \(X \perp Y\).

Soient \(A \subset f(X)(\Omega)\) et \(B \subset g(Y)(\Omega)\). Alors \(\{f(X) \in A\} = \{X \in f^{-1}(A)\}\) et \(\{g(Y) \in B\} = \{Y \in g^{-1}(B)\}\). Comme \(X \perp Y\), les événements \(\{X \in f^{-1}(A)\}\) et \(\{Y \in g^{-1}(B)\}\) sont indépendants, donc $$ \mathbb{P}(f(X) \in A,\ g(Y) \in B) = \mathbb{P}(X \in f^{-1}(A))\,\mathbb{P}(Y \in g^{-1}(B)) = \mathbb{P}(f(X) \in A)\,\mathbb{P}(g(Y) \in B). $$ D'où \(f(X) \perp g(Y)\).

L'indépendance mutuelle avec \(A_i = \{x_i\}\) donne l'égalité encadrée. Réciproquement, supposons cette égalité pour toutes les valeurs et fixons \(A_1, \dots, A_n\). En décomposant \(\{X_1 \in A_1, \dots, X_n \in A_n\}\) sur les valeurs et en sommant les événements deux à deux incompatibles, $$ \mathbb{P}(X_1 \in A_1, \dots, X_n \in A_n) = \sum_{x_1 \in A_1} \cdots \sum_{x_n \in A_n} \prod_{i=1}^n \mathbb{P}(X_i = x_i). $$ Les termes étant positifs, la somme multiple se factorise en \(\prod_{i=1}^n \bigl(\sum_{x_i \in A_i} \mathbb{P}(X_i = x_i)\bigr) = \prod_{i=1}^n \mathbb{P}(X_i \in A_i)\). Donc les variables sont mutuellement indépendantes.

Notons d'abord que toute sous-famille d'une famille mutuellement indépendante est encore mutuellement indépendante : en prenant \(A_i = X_i(\Omega)\) (donc \(\{X_i \in A_i\} = \Omega\)) pour les indices écartés de la sous-famille, les facteurs correspondants valent \(1\) et la formule produit se réduit à celle de la sous-famille. En particulier \(X_1, \dots, X_m\) sont mutuellement indépendantes, de même que \(X_{m+1}, \dots, X_n\). Notons \(U = (X_1, \dots, X_m)\) et \(V = (X_{m+1}, \dots, X_n)\). Pour une valeur \(u = (x_1, \dots, x_m)\) de \(U\) et \(v = (x_{m+1}, \dots, x_n)\) de \(V\), l'indépendance mutuelle de \(X_1, \dots, X_n\) sur les singletons \(\{x_i\}\) donne $$ \mathbb{P}(U = u,\ V = v) = \prod_{i=1}^n \mathbb{P}(X_i = x_i) = \Bigl(\prod_{i=1}^m \mathbb{P}(X_i = x_i)\Bigr)\Bigl(\prod_{i=m+1}^n \mathbb{P}(X_i = x_i)\Bigr) = \mathbb{P}(U = u)\,\mathbb{P}(V = v), $$ la dernière égalité appliquant la caractérisation sur les valeurs à l'intérieur de chaque groupe. Donc \(U \perp V\). Comme \(Y = f(U)\) et \(Z = g(V)\) sont des fonctions de \(U\) et \(V\), la Proposition « l'indépendance se conserve par fonctions » donne \(Y \perp Z\). Le même argument appliqué groupe par groupe donne l'énoncé général.

La somme \(S_n\) compte les succès parmi les \(n\) épreuves, elle est donc à valeurs dans \([\![0, n]\!]\). Pour \(k \in [\![0, n]\!]\), l'événement \(\{S_n = k\}\) est la réunion disjointe, sur les \(\binom{n}{k}\) choix des \(k\) épreuves qui réussissent, des événements « ces \(k\)-là sont des succès et les \(n - k\) autres des échecs ». Par l'indépendance mutuelle de \(X_1, \dots, X_n\), chacun de ces événements a pour probabilité \(p^k q^{n-k}\), donc $$ \mathbb{P}(S_n = k) = \binom{n}{k} p^k q^{n-k}, $$ soit \(S_n \sim \mathcal{B}(n, p)\). Pour la réciproque, le théorème d'existence d'une suite i.i.d. fournit, sur un espace probabilisé convenable, \(n\) variables de Bernoulli\((p)\) i.i.d. ; leur somme suit \(\mathcal{B}(n, p)\) par le sens direct, donc toute variable de loi \(\mathcal{B}(n, p)\) a la même loi qu'une somme de \(n\) variables de Bernoulli\((p)\) i.i.d.

Pour \(k \in \mathbb{N}^*\), l'événement \(\{T = k\}\) est « les \(k-1\) premières épreuves échouent et la \(k\)-ième réussit », soit \(\{X_1 = 0, \dots, X_{k-1} = 0, X_k = 1\}\). Par l'indépendance mutuelle de \(X_1, \dots, X_k\), $$ \mathbb{P}(T = k) = \mathbb{P}(X_1 = 0) \cdots \mathbb{P}(X_{k-1} = 0)\,\mathbb{P}(X_k = 1) = q^{k-1} p. $$ A priori \(T\) pourrait aussi ne pas être fini : \(\{T = +\infty\} = \bigcap_{n \geq 1}\{T > n\}\), où \(\{T > n\} = \{X_1 = 0, \dots, X_n = 0\}\) a pour probabilité \(q^n\). Les événements \(\{T > n\}\) décroissent, donc par continuité décroissante \(\mathbb{P}(T = +\infty) = \lim_n q^n = 0\) (car \(0 < q < 1\)). Ainsi \(T\) est fini avec probabilité \(1\), et sa distribution sur \(\mathbb{N}^*\) est \(\mathbb{P}(T = k) = q^{k-1}p\), soit \(T \sim \mathcal{G}(p)\). (La vérification \(\sum_{k \geq 1} q^{k-1}p = 1\) confirme qu'aucune masse n'est perdue en \(+\infty\).)

L'événement \(\{X > k\}\) est la réunion disjointe \(\bigsqcup_{n > k}\{X = n\}\), donc la \(\sigma\)-additivité et la série géométrique donnent $$ \mathbb{P}(X > k) = \sum_{n = k+1}^{+\infty} q^{n-1} p = q^k p \sum_{m = 0}^{+\infty} q^m = q^k p \cdot \frac{1}{1 - q} = q^k, $$ où l'on a utilisé le changement d'indice \(m = n - k - 1\).

• Si \(X \sim \mathcal{G}(p)\). Par la Proposition sur la queue, \(\mathbb{P}(X > m) = q^m\) pour tout \(m\). Comme \(\{X > n + k\} \subset \{X > n\}\), la probabilité conditionnelle vaut \(\mathbb{P}(X > n + k \mid X > n) = \mathbb{P}(X > n+k)/\mathbb{P}(X > n) = q^{n+k}/q^n = q^k = \mathbb{P}(X > k)\).
• Réciproquement. Posons \(q = \mathbb{P}(X > 1)\). Comme \(X\) est à valeurs dans \(\mathbb{N}^*\), \(\mathbb{P}(X > 0) = 1\). La relation d'absence de mémoire, écrite \(\mathbb{P}(X > n + k) = \mathbb{P}(X > n)\,\mathbb{P}(X > k)\), donne par récurrence sur \(n\) que \(\mathbb{P}(X > n) = q^n\). Les événements \(\{X > n\}\) décroissent, d'intersection vide — aucune valeur de \(X\), qui est à valeurs dans \(\mathbb{N}^*\), ne dépasse tout entier — donc par continuité décroissante \(q^n = \mathbb{P}(X > n) \to 0\), ce qui force \(q < 1\) ; et \(q = \mathbb{P}(X > 1) > 0\) par hypothèse. Alors pour \(k \in \mathbb{N}^*\), $$ \mathbb{P}(X = k) = \mathbb{P}(X > k - 1) - \mathbb{P}(X > k) = q^{k-1} - q^k = q^{k-1}(1 - q), $$ donc \(X \sim \mathcal{G}(1 - q)\).

Fixons \(k \in \mathbb{N}\). Comme \(n p_n \to \lambda\) est fini, \(p_n \to 0\) ; donc pour \(n\) grand, \(n \geq k\) et \(p_n < 1\). Pour de tels \(n\), $$ \mathbb{P}(X_n = k) = \binom{n}{k} p_n^k (1 - p_n)^{n-k} = \frac{n(n-1)\cdots(n-k+1)}{k!}\, p_n^k\, (1 - p_n)^{n-k}. $$ Quand \(n \to +\infty\), \(n(n-1)\cdots(n-k+1) \sim n^k\), donc \(n(n-1)\cdots(n-k+1)\,p_n^k \sim (n p_n)^k \to \lambda^k\). Et \((1 - p_n)^{n-k} = \exp\bigl((n-k)\ln(1 - p_n)\bigr)\) ; comme \(p_n \to 0\), \(\ln(1 - p_n) = -p_n + o(p_n)\), donc \((n-k)\ln(1 - p_n) = -(n-k)p_n + (n-k)\,o(p_n) = -n p_n + o(1) \to -\lambda\) (un développement au premier ordre, et non l'exponentiation d'un équivalent). Donc \((1 - p_n)^{n-k} \to e^{-\lambda}\) par continuité de \(\exp\). En multipliant les limites, \(\mathbb{P}(X_n = k) \to \lambda^k e^{-\lambda}/k!\).

Dans chaque cas \(X + Y\) se calcule en sommant la loi conjointe sur les valeurs de \(X\) à \(X + Y\) fixé ; par indépendance la loi conjointe se factorise, \(\mathbb{P}(X = j, Y = k) = \mathbb{P}(X = j)\,\mathbb{P}(Y = k)\).

• Binomiale. Posons \(q = 1 - p\). Alors \(X + Y\) est à valeurs dans \([\![0, n + m]\!]\), et pour \(s\) dans cet intervalle, $$ \mathbb{P}(X + Y = s) = \sum_{j=0}^{s} \binom{n}{j} p^j q^{n-j}\,\binom{m}{s-j} p^{s-j} q^{m-(s-j)} = p^s q^{n+m-s} \sum_{j=0}^{s} \binom{n}{j}\binom{m}{s-j} = \binom{n+m}{s} p^s q^{n+m-s}, $$ par l'identité de Vandermonde \(\sum_{j} \binom{n}{j}\binom{m}{s-j} = \binom{n+m}{s}\), avec la convention \(\binom{a}{b} = 0\) pour \(b > a\) de sorte que les termes avec \(j > n\) ou \(s - j > m\) s'annulent. Donc \(X + Y \sim \mathcal{B}(n + m, p)\).
• Poisson. \(X + Y\) est à valeurs dans \(\mathbb{N}\), et pour \(s \in \mathbb{N}\), $$ \mathbb{P}(X + Y = s) = \sum_{j=0}^{s} e^{-\lambda}\frac{\lambda^j}{j!}\,e^{-\mu}\frac{\mu^{s-j}}{(s-j)!} = \frac{e^{-(\lambda+\mu)}}{s!}\sum_{j=0}^{s} \binom{s}{j}\lambda^j \mu^{s-j} = e^{-(\lambda+\mu)}\frac{(\lambda+\mu)^s}{s!}, $$ par la formule du binôme. Donc \(X + Y \sim \mathcal{P}(\lambda + \mu)\).