6Chapter 5Propri´et´es asymptotiques deschaˆınes de Markov5.1 Probl´ematiques des chaˆınes de MarkovOn a distingu´e, dans notre ´etude, les classes transitoires et les classes ferm´ees. On a vu qu’onfinissait toujours par sortir d´efinitivement de l’union des classes transitoires, pour aller dansl’union des classes ferm´ees.Question Combien de temps met-on pour sortir des classes transitoires ? S’il y a plusieursclasses ferm´ees, dans quelle classe ferm´ee tombe-t-on ?Donc quand on ´etudie le comportement asymptotique d’une chaˆıne de Markov , on regarded´ej`a dans quelle classe ferm´ee on tombe, puis, cette classe ´etant stable pour la matrice detransition, on peut restreindre la matrice de transition et se ramener au cas d’une chaˆıne deMarkov irr´eductible.Question Quel comportement statistique a une chaˆıne de Markov irr´eductible ?5.2 Un exemple avec ´etats absorbantsOn consid`ere la marche al´eatoire de l’ivrogne, sur [0..N], de param`etre p∈]0,1[, de probabilit´esde transitionsi 1≤i≤N−1, alors p =p = 1−p ;i,i+1 i,i−1p = 0 =p , p =p = 1.0,1 N,N−1 0,0 N,NOn fait partir la chaine d’un ´etat k∈ [1..N−1], et on aimerait calculer la probabilit´e u que lakchaine s’arrˆete en 0.♣ Exercice 1:• Trouver une relation de r´ecurrence sur les u , et en d´eduire leur expression. On pourrak´etudier s´epar´ement les cas p = 1/2 et p = 1/2.44• En proc´edant de la mˆeme mani`ere, calculer l’esp´erance du nombre de pas, partant de k,que fait le marcheur avant ...
Voir