Chapter 4Rappels sur les chaˆınes de Markov `aespace d’´etat finiSoit(Ω,F,P)unespace deprobabilit´e. Onappelle processus (en tempsdiscret)unecollection devariables al´eatoires (X ) d´efinies sur (Ω,F,P)et a` valeurs dans un mˆeme espace S, appel´en n∈Nespace d’´etat. On interpr`ete (X ) comme l’´evolution au cours du temps d’une certainen n∈Ngrandeur al´eatoire.B Exemple: (X ) v.a.i.id: ce cas n’est pas passionnant en tant que processus, puisqu’iln n∈Nn’y a aucune d´ependance entre ce qui se passe au temps n et ce qui se passe au temps n+1.BExemple: (X ) marche al´eatoire surunegrille: a`chaque pas, on choisit la direction dansn n∈Nlaquelle on avance de fac¸on ´equiprobable. Ici, X d´epend `a la fois de la position pr´ec´edenten+1X et d’un certain al´ea: c’est un cas typique de chaˆıne de Markov .n4.1 D´efinitionsSoit S un ensemble fini, de cardinal k≥ 2, dont les ´el´ements sont not´es s ,...,s .1 k4.1.1 Chaˆıne de Markov (homog`ene)On dit que la suite de variables al´eatoires (X ) est une chaˆıne de Markov a` valeurs dans Sn n∈Nsi et seulement si1. (X ) est un processus `a valeur dans S.n n∈N2. (Propri´et´e de Markov) La position X `a l’instant n+1 ne d´epend des positions pass´eesn+1X ,...,X que par la derni`ere position X . Autrement dit, pour tout n∈N, pour tout0 n nn+2(i ,...,i )∈S , on a0 n+1P(X =i |X =i ,X =i ,...,X =i ) =P(X =i |X =i ).n+1 n+1 0 0 1 1 n n n+1 n+1 n n3. (Homog´en´eit´e) Pour tout n∈N, pour tous i,j ∈S,P(X =j|X =i) =P(X =j|X =i) ...
Voir