Markovin ketju
Markovin ketju (nimetty Andrei Andrejevitš Markovin mukaan) on stokastinen prosessi, jossa uusi tila riippuu vain edellisestä tilasta. Esimerkki Markovin ketjusta on satunnaiskulku. Jos on tilasiirtomatriisi ja on alkutilavektori, niin askeleen jälkeen eri tilojen todennäköisyydet saadaan vektorista .[1] Jotkin alkeelliset pupputeksti-generaattoritMalline:Selvennä perustuvat Markovin ketjuihin.