Varianssi

Varianssi on todennäköisyyslaskennassa ja tilastotieteessä satunnaismuuttujan hajonnan mitta. Varianssi kuvaa sitä, kuinka paljon satunnaismuuttujan arvot keskimäärin vaihtelevat odotusarvosta tai populaation keskiarvosta. Varianssissa yksittäisen mittauksen poikkeamat keskiarvosta tai odotusarvosta korotetaan toiseen potenssiin (neliöön). Varianssi saadaan ottamalla keskiarvo näistä neliöön korotetuista eroista. Kun arvot keskittyvät odotusarvon ympärille tiiviisti, on varianssin arvo pieni, ja kun arvot ovat hajallaan odotusarvon ympärillä, on sen arvo suuri. Reaaliarvoisen satunnaismuuttujan varianssi on sen toinen keskusmomentti. Varianssin yksikkö on satunnaismuuttujan yksikkö korotettuna toiseen potenssiin. Varianssin neliöjuurta sanotaan keskihajonnaksi, jonka yksikkö on sama kuin satunnaismuuttujalla.

Määritelmä ja merkinnät

Matemaattisesti varianssi ${\sigma }_X^2$ määritellään reaaliarvoisen satunnaismuuttujan $X$ odotusarvon $\mathrm{E}$ avulla

${\sigma }_X^2=\mathrm{E}((X-\mu {)}^2),$

missä $\mu =\mathrm{E}[X]$ on satunnaismuuttujan odotusarvo. Varianssin arvo on ääretön, ellei odotusarvo $\mathrm{E}[X^2]$ ole äärellisenä olemassa. Varianssi voidaan merkitä myös

${\sigma }_X^2={\sigma }^2(X)={\sigma }^2=Var(X)=D^2(X).$

Varianssin avulla voidaan esittää myös keskihajonta eli standardipoikkeama ${\sigma }_X=\sqrt{{\sigma }_X^2}.$

Diskreetti satunnaismuuttuja

Diskreetin satunnaismuuttujan varianssi lasketaan

${\sigma }_X^2=\sum _{x\in X}(x-{\mu }_X{)}^2{f}_X(x),$

missä $f_X(x)$ on jakauman pistetodennäköisyysfunktio.

Jatkuva satunnaismuuttuja

Jatkuvan satunnaismuuttujaparin varianssi on taas

${\sigma }_X^2=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}(x-{\mu }_X{)}^2{f}_X(x)dx,$

missä $f_X(x)$ on jakauman tiheysfunktio.

Ominaisuuksia

Rinnakkaiskaavan johtaminen

Varianssin lauseketta voidaan kehittää edelleen käyttämällä hyväksi odotusarvon ominaisuuksia:

$\begin{array}{cc}{\sigma }_X^2& =\mathrm{E}[(X-\mathrm{E}[X]{)}^2]\\ & =\mathrm{E}[X^2-2X\mathrm{E}[X]+(\mathrm{E}[X]{)}^2]\\ & =\mathrm{E}\left[X^2\right]-2\mathrm{E}[X]\mathrm{E}[X]+(\mathrm{E}[X]{)}^2\\ & =\mathrm{E}\left[X^2\right]-(\mathrm{E}[X]{)}^2\end{array}$

Ensimmäistä muotoa kutsutaan toiseksi keskusmomentiksi ja viimeisessä muodossa käytetään toista ja ensimmäistä origomomenttia.

Varianssin laskemiseksi on käytössä myös tekijämomentin sisältävä muoto:

${\sigma }^2=\mathrm{E}[X(X-1)]+\mathrm{E}[X]-(\mathrm{E}[X]{)}^2$

Ominaisuuksia

Varianssin arvo on aina epänegatiivinen. Kun varianssi on nolla, ei arvoissa esiinny vaihtelua ja satunnaismuuttuja antaa vain samoja arvoja. Siten

${\sigma }^2(X)\ge 0.$

Varianssi on kovarianssi kahden identtisen satunnaismuuttujan välillä

${\sigma }^2(X)=\sigma (X,X).$ (kovarianssi)

Päättelysääntöjä summista

Jokaisen satunnaismuuttujan arvoon lisätty vakio ei vaikuta varianssin arvoon eli

${\sigma }^2(X+a)={\sigma }^2(X),$

mutta arvojen kertominen vakiolla kasvattavat $(|a|>1)$ tai vähentävät $(|a|<1)$ varianssia

${\sigma }^2(aX)=a^2{\sigma }^2(X).$

Kahden satunnaismuuttujan lineaarikombinaatiossa varianssiin vaikuttaa myös satunnaismuuttujien kovarianssi

${\sigma }^2(aX\pm bY)=a^2{\sigma }^2(X)+b^2{\sigma }^2(Y)\pm 2ab\sigma (X,Y),$

mikä merkitään yleisemmässä tapauksessa

${\sigma }^2(a_1{X}_1+a_2{X}_2+\dots +a_n{X}_n)=\sum _{i=1}^n{a}_i^2{\sigma }^2(X_i)+2\sum _{1\le i<j\le n}{a}_i{a}_j\sigma (X_i,X_j).$

Nämä arvot voidaan käsitellä hallitummin kovarianssimatriisissa. Tämä ominaisuus vaikuttaa myös satunnaismuuttujien summan varianssiin

${\sigma }^2(X_1+X_2+\dots +X_n)=\sum _{i=1}^n\sum _{j=1}^n\sigma (X_i,X_j)=\sum _{i=1}^n{\sigma }^2(X_i)+\sum _{i\ne j}\sigma (X_i,X_j).$

Kovarianssia ei tarvitse huomioida, mikäli satunnaismuuttujat ovat korreloimattomia $\sigma (X_i,X_j)=0,\mathrm{\forall }(i\ne j),$ jolloin

${\sigma }^2(X_1+X_2+\dots +X_n)=\sum _{i=1}^n{\sigma }^2(X_i).$

Riippumattomat satunnaismuuttujat ovat aina korreloimattomia. Korreloimattomilla satunnaismuuttujilla välimerkki ei vaikuta varianssin arvoon

${\sigma }^2(X\pm Y)={\sigma }^2(X)+{\sigma }^2(Y).$

Päättelysääntöjä tuloista

Kahden satunnaismuuttujan tulon varianssi voidaan määrittää odotusarvon ominaisuuksien avulla

$\begin{array}{cc}\mathrm{Var}(XY)& =[E(X){]}^2\mathrm{Var}(Y)+[E(Y){]}^2\mathrm{Var}(X)+\mathrm{Var}(X)\mathrm{Var}(Y)\\ & =E(X^2)E(Y^2)-[E(X){]}^2[E(Y){]}^2.\end{array}$

Populaatio- ja otosvarianssi

Varianssi lasketaan äärelliselle populaatiolle $(y_1,\dots ,y_N)$ seuraavasti

${\sigma }_x^2=\frac{1}{N}\sum _{i=1}^N{(y_i-\bar{y})}^2,$

missä $\bar{y}$ on populaation keskiarvo. Tätä kutsutaan toisinaan otosvarianssiksi, mutta termin käyttö on vaihtelevaa. Kun $(y_1,\dots ,y_N)$ on otos laajemmasta populaatiosta, ${\sigma }^2$ on varianssin tarkentuva mutta harhainen estimaatti. Harhaton estimaatti on

$s_x^2=\frac{1}{N-1}\sum _{i=1}^N{(y_i-\bar{y})}^2,$

jota yleensä kutsutaan otosvarianssiksi. Suurten otosten tapauksessa ei ole käytännössä merkitystä kumpaa estimaattoria käytetään. Molempien keskihajonta saadaan ottamalla varianssista neliöjuuri.