Lähdekoodi sivulle Todennäköisyydet generoiva funktio

'''Todennäköisyydet generoiva funktio''' (lyhennetään joskus ''tgf'') on [[todennäköisyyslaskenta|todennäköisyyslaskennassa]] ja [[tilastotiede|tilastotieteessä]] [[satunnaismuuttuja]]n [[todennäköisyysjakauma|todennäköisyysjakaumasta]] määritelty [[funktio]], jonka avulla voidaan laskea jakauman [[todennäköisyys|todennäköisyyksiä]] ja [[tekijämomentti|tekijämomentteja]].<ref name=liski91/>

Todennäköisyydet generoiva funktio voidaan määritellä sekä [[Diskreetti satunnaismuuttuja|diskreeteille]]- että [[jatkuva satunnaismuuttuja|jatkuville satunnaismuuttujille]]. Se on kuitenkin käytännöllisempi diskreeteille satunnaismuuttujille, jonka tuloksia esitellään tässä.

== Määritelmä ==
Todennäköisyydet generoiva funktio on [[odotusarvo]] 
:<math>G(t)=E(t^X).</math> <ref name=mi/>

=== Diskreetti satunnaismuuttuja ===
Diskreetille satunnaismuuttujalle generoiva funktio on [[potenssisarja]]
:<math>G(t)=\sum_{i=0}^\infty f(x_i)t^{x_i},</math>
jonka eri [[Aste (polynomi)|aste]]isten [[potenssi]]en kertoimet ovat [[pistetodennäköisyysfunktio]]n arvoja eri satunnaismuuttujan <math>X</math> arvoille <math>x_i</math>. Muuttuja <math>t</math> on usein [[reaaliluku]], mutta se voi olla myös [[kompleksiluku]], sillä kaikki tarvittavat matemaattiset ominaisuudet periytyvät myös sille. Laittamalla muuttujan <math>t</math> arvoksi nolla, voidaan funktion derivaatoista poimia esille todennäköisyydet ja arvolla yksi, laskea niistä erilaisia summia.

Potenssisarja suppenee yleisesti reaaliluvuilla vain, jos <math>-1< t < 1</math>. Siten arvo <math>t=0</math> on sallittu arvo. Sen sijaan arvo <math>t=1</math> ei välttämättä käy, sillä sarja ei silloin suppene yleisessä tapauksessa. Potenssisarjalla saattaa kuitenkin olla olemassa sarjan [[raja-arvo]], kun ykköstä lähestytään vasemmalta päin. Jos näin on, niin raja-arvoa voidaan ilmaista miinus-merkillä
:<math>\lim_{t \to 1-}G(t)=G(1-).</math>
Todennäköisyyslaskennassa alueen voi laajentaa <math>-1 \le t \le 1</math>, sillä summassa olevien todennäköisyyksien summa on aina yksi. Monissa teksteissä <math>G(1-)</math> merkitään siksi <math>G(1)</math>. Merkintää sovelletaan tässä myös derivaatoille.

=== Jatkuva satunnaismuuttuja ===
Jatkuvalle satunnaismuuttujalle generoiva funktio määritetään
:<math>G(t)=\int_{-\infty}^{+\infty}t^xf_X(x) \, dx .</math> <ref name=me/>

== Ominaisuuksia ==
=== Funktion arvo: G(0) ===
Yleisessä tapauksessa, missä <math>X = \{x_0,x_1,x_2,\dots\}</math>, saadaan
:<math>G(0)=\sum_{i=0}^\infty f(x_i)\cdot 0^{x_i}=0 .</math> <ref name=gg3_39/>

Erityistapauksessa, jossa <math>Y = \{i|i=0,1,2,3 \dots\}=\{0,1,2,3,\dots\}</math> ja niiden todennäköisyydet vastaavasti <math>f(x_i)=f_i=p_i=P(X=i)</math>, tulee generoivasta funktiosta
:<math>G(t)=\sum_{i=0}^\infty p_i\cdot t^{y_i}=p_0t^0+p_1t^1+p_2t^2+\dots,</math> <ref name=mi/>
josta saadaan
:<math>G(0)=\sum_{i=0}^\infty p_i\cdot 0^{y_i}=p_0 ,</math> <ref name=gg3_39/>
kunhan <math>\lim_{t \to 0}p_0\cdot t^{y_0}=\lim_{t \to 0}p_0\cdot t^{0}=p_0.</math> <ref name=gg3_39/>

=== Funktion arvo: G(1-) ===
Yleisessä tapauksessa, missä <math>X = \{x_0,x_1,x_2,\dots\}</math>, saadaan
:<math>G(1-)= \lim_{t \to 1-}G(t)= \lim_{t \to 1-} \left (\sum_{i=0}^\infty f(x_i)\cdot t^{x_i} \right )= \sum_{i=0}^\infty f(x_i)\cdot 1^{x_i} = \sum_{i=0}^\infty f(x_i)=1,</math>
sillä satunnaismuuttujan kaikkien arvojen todennäköisyyksien summa on aina yksi.<ref name=gg3_39/>

=== Riippumattomat satunnaismuuttujat ===
Jos muodostetaan uusi satunnaismuuttuja <math>Y</math> kahdesta riippumattomasta satunnaismuuttujasta <math>X_1</math> ja <math>X_2</math> merkitsemällä <math>Y=X_1+X_2</math>, voidaan uusi generoiva funktio muodostaa vanhojen avulla
:<math>G_Y(t)=G_{X_1}(t)G_{X_2}(t).</math> <ref name=mi/>

=== Momentit generoiva funktio ===
Satunnaismuuttujan [[momentit generoiva funktio]] on odotusarvo
:<math>M(t)=E[e^{tX}].</math> <ref name=mi/>
Momenttifunktio voidaan kirjoittaa todennäköisyydet generoivan funktion avulla
:<math>M(t)=G(e^{t}).</math> <ref name=mi/>

== Tekijämomentit ==
Sarjan [[Derivaatta|derivointi]] suoritetaan jokaiselle sarjan termille yksittäin seuraavasti: <ref name=gg3_39/>
:<math>G(t)=E(t^X)=\sum_{i=1}^\infty f(x_i)t^{x_i}</math>
:<math>G'(t)=D\left (\sum_{i=1}^\infty f(x_i)t^{x_i} \right )=x_1f(x_1)t^{x_1-1} + x_2f(x_2)t^{x_2-1} + x_3f(x_3)t^{x_3-1}+\dots</math>
:<math>G''(t)=D^2\left (\sum_{i=1}^\infty f(x_i)t^{x_i} \right )=x_1(x_1-1)f(x_1)t^{x_1-2} + x_2(x_2-1)f(x_2)t^{x_2-2} + x_3(x_3-1)f(x_3)t^{x_3-2} + \dots</math>

Ensimmäisen derivoinnin tulokset voidaan kirjoittaa
:<math>G'(t)=\sum_{i=1}^\infty x_if(x_i)t^{x_i-1}</math>
ja sen arvo ykkösessä antaa
:<math>G'(1-)=\lim_{t \to 1-}G(t)=\sum_{i=1}^\infty x_if(x_i)1^{x_i-1}=\sum_{i=1}^\infty x_if(x_i)=E[X]</math> <ref name=mi/>
eli tuloksena on satunnaismuuttujan [[odotusarvo]]. Toisen derivoinnin tulokset voidaan kirjoittaa
:<math>G''(t)=G^{(2)}(t)=\sum_{i=1}^\infty x_i(x_i-1)f(x_i)t^{x_i-2}</math>
ja sen arvo ykkösessä on
:<math>G''(1-)=\lim_{t \to 1-}G^{(2)}(t)=\lim_{t \to 1-}\left (\sum_{i=1}^\infty x_i(x_i-1)f(x_i)t^{x_i-2}\right )</math>
::::<math>=\sum_{i=1}^\infty x_i(x_i-1)f(x_i)1^{x_i-2}=\sum_{i=1}^\infty x_i(x_i-1)f(x_i)=E[X(X-1)]</math>
eli satunnaismuuttujan toinen [[tekijämomentti]]. Odotusarvo voidaan tulkita siten ensimmäiseksi tekijämomentiksi.
Yleisesti, kun on otettu r:s derivaatta, saadaan 
:<math>G^{(r)}(1)=E[X^{(r)}]=E[X(X-1)(X-2)\dots(X-r+1)]</math> <ref name=gg3_39/><ref name=mi/>
eli r:s tekijämomentti.

== Todennäköisyysarvot ==
Erityistapauksessa, jossa <math>Y = \{0,1,2,3,\dots\}</math> ja niiden todennäköisyydet vastaavasti <math>f(x_i)=p_i=P(Y=i)</math>, saadaan derivaatoista määritetty pistetodennäköisyydet <math>p_i</math>. Generoiva funktio on nyt
:<math>G(t)=\sum_{i=0}^\infty p_i\cdot t^{y_i}=p_0t^0+p_1t^1+p_2t^2+\dots</math> <ref name=mi/>
ja sen ensimmäinen derivaatta on
:<math>G'(t)=\sum_{i=1}^\infty y_ip_it^{y_i-1}=0\cdot p_0t^{-1}+ 1\cdot p_1t^0+ 2p_2t^1+3p_3t^2\dots=p_1t^0+2p_2t^1+3p_3t^2+\dots.</math>
Sijoittamalla siihen <math>t=0</math> saadaan
:<math>G'(0)=p_10^0+2p_20^1+3p_30^2+\dots=p_1,</math>
kun tilanteessa "<math>0^0</math>" huomataan <math>\lim_{t \to 0}t^0=1.</math> Toinen derivaatta antaa
:<math>G''(t)=\sum_{i=1}^\infty y_i({y_i-1})p_it^{y_i-2}= 1\cdot0\cdot p_1t^{-1}+ 2\cdot1 p_2t^0+3\cdot2 p_3t^1+4\cdot3 p_4t^3+\dots=2p_2t^0+6p_3t^1+12p_4t^2+\dots</math>
ja sijoittamalla taas <math>t=0</math> saadaan
:<math>G''(0)=2p_20^0+6p_30^1+12p_40^2+\dots=2p_2 .</math>
Pienellä päättelyllä saadaan todennäköisyydet laskettua
:<math>p_k=\frac{G^{(k)}(0)}{k!}.</math> <ref name=mi/>
Tästä lausekkeesta voidaan ymmärtää funktion nimi: ''todennäköisyydet generoiva funktio''.

== Esimerkki: noppa ==
Noppapeleissä käytetään arpakuutiota, jolla arvotaan kuusi lukua 1−6 ja jonka eri lukujen todennäköisyydet ovat yhtä todennäköisiä (eli noppa antaa luvun <math>i</math> todennäköisyydellä <math>P(X=i)=\tfrac{1}{6}</math>. Muodostetaan todennäköisyydet generoiva funktio
:<math>G(t)=\sum_{i=1}^\infty f(x_i)t^{x_i}=P(X=1)t^1+P(X=2)t^2+P(X=3)t^3+P(X=4)t^4+\dots ,</math>
jolla on ominaisuus
:<math>G(1)=\tfrac{1}{6}\cdot 1^1+\tfrac{1}{6}\cdot 1^2+\tfrac{1}{6}\cdot 1^3+\tfrac{1}{6}\cdot 1^4+ \dots=\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+0+0+\dots=1</math>
eli todennäköisyyksien summa on yksi.<ref name=uc6/>

Koska todennäköisyydet ovat samat ja muualla nolla, on sarja itse asiassa summa:
:<math>G(t)=\tfrac{1}{6}t^1+\tfrac{1}{6}t^2+\tfrac{1}{6}t^3+\tfrac{1}{6}t^4+\tfrac{1}{6}t^5+\tfrac{1}{6}t^6</math>
:::<math>=\tfrac{1}{6}\left ( t^1+t^2+t^3+t^4+t^5+t^6\right ).</math>

=== Tekijämomentit ja varianssi ===
Derivaatta kohdassa yksi on
:<math>G'(t)=1\cdot P(X=1)+2P(X=2)t^1+3P(X=3)t^2+4P(X=4)t^3+\dots</math> <ref name=uc6/>
ja
:<math>G'(1)=1\cdot P(X=1)+2P(X=2)+3P(X=3)+4P(X=4)+\dots</math>
:::<math>=1 \cdot\tfrac{1}{6}+2\cdot\tfrac{1}{6}+3\cdot\tfrac{1}{6}+4\cdot\tfrac{1}{6}+5\cdot\tfrac{1}{6}+6\cdot\tfrac{1}{6}+0+0+ \dots=\tfrac{7}{2}=E[X] .</math> <ref name=uc6/> (odotusarvo)

Toinen derivaatta kohdassa yksi on
:<math>G''(t)=2\cdot1P(X=2)t^0+3\cdot2P(X=3)t^1+4\cdot3P(X=4)t^2+\dots</math> <ref name=uc6/>
ja
:<math>G''(1)=2\cdot1\cdot\tfrac{1}{6}+3\cdot2\cdot\tfrac{1}{6}+4\cdot3\cdot\tfrac{1}{6}+\dots=\tfrac{35}{3}=E[X(X-1)] .</math> <ref name=uc6/> (ensimmäinen tekijämomentti)

Huomaa, miten saadaan [[varianssi]] näistä kahdesta tuloksesta
:<math>G''(1)+G'(1)-(G'(1))^2=\tfrac{35}{3}+\tfrac{7}{2}-\left (\tfrac{7}{2}\right )^2=\tfrac{35}{12}=Var(X).</math> <ref name=gg3_39/><ref name=uc6/>

== Lähteet ==
{{viitteet|viitteet=
* <ref name=liski91>Liski, Erkki: [http://www.sis.uta.fi/tilasto/liski-arkisto/mtt06/Luennot06/Luku3.pdf Luku 3 Satunnaismuuttujat, ehdollistaminen ja riippumattomuus], s.91−92, luennosta [http://www.sis.uta.fi/tilasto/liski-arkisto/mtt06/Luennot06/ Matemaattinen tilastotiede], Tampereen yliopisto, 2005</ref>
* <ref name=gg3_39>Gribakin, Gleb: [http://www.am.qub.ac.uk/users/g.gribakin/sor/Chap3.pdf Ch 3.: Probability Generating Functions], s.39−41, kurssin [http://www.am.qub.ac.uk/users/g.gribakin/Teach_SOR.html Probability and Distribution Theory] luentomoniste, 2002, Queen’s University, Belfast, Irlanti</ref>
* <ref name=uc6>King, Frank:[https://www.cl.cam.ac.uk/teaching/0708/Probabilty/prob06.pdf Ch 6: Probability Generating Functions], kurssin [https://www.cl.cam.ac.uk/teaching/0708/Probabilty/ Probability] luentomoniste, 2007-08, University of Cambridge, Englanti</ref>
* <ref name=me>Esquível, Manuel L.: [http://ferrari.dmat.fct.unl.pt/personal/mle/PUBL-rdf/GPGF04VII19.pdf Probability Generating Functions for Discrete Real Valued Random Variables], 2011, Universidade Nova de Lisboa, Portugali</ref>
* <ref name=mi>Matematika Intézet: [http://www.math.bme.hu/~nandori/Virtual_lab/stat/expect/Generating.pdf Ch4: Generating functions], Budapesti, Unkari</ref>
}}

== Aiheesta muualla ==
* Cut the Knot's: [http://www.cut-the-knot.org/Probability/PGF.shtml Probability generating functions]

[[Luokka:Todennäköisyyslaskenta]]