這篇文章總結(jié)了概率統(tǒng)計(jì)中期望、方差、協(xié)方差和相關(guān)系數(shù)的定義、性質(zhì)和基本運(yùn)算規(guī)則。

期望

定義

設(shè)P(x)是一個(gè)離散概率分布函數(shù)，自變量的取值范圍為{x1,x2,?,xn}。其期望被定義為：

設(shè)p(x)是一個(gè)連續(xù)概率密度函數(shù)。其期望為：

性質(zhì)

1、線性運(yùn)算規(guī)則

期望服從線性性質(zhì)（可以很容易從期望的定義公式中導(dǎo)出）。因此線性運(yùn)算的期望等于期望的線性運(yùn)算：

這個(gè)性質(zhì)可以推廣到任意一般情況：

2、函數(shù)的期望

設(shè)f(x)為x的函數(shù)，則f(x)的期望為：

離散：

連續(xù)：

一定要注意，函數(shù)的期望不等于期望的函數(shù)，即E(f(x))≠f(E(x))！。

3、乘積的期望

一般來說，乘積的期望不等于期望的乘積，除非變量相互獨(dú)立。因此，如果x和y相互獨(dú)立，則E(xy)=E(x)E(y)。

期望的運(yùn)算構(gòu)成了統(tǒng)計(jì)量的運(yùn)算基礎(chǔ)，因?yàn)?strong>方差、協(xié)方差等統(tǒng)計(jì)量本質(zhì)上是一種特殊的期望。

方差

定義

方差是一種特殊的期望，被定義為：

性質(zhì)

1、展開表示

反復(fù)利用期望的線性性質(zhì)，可以算出方差的另一種表示形式：

2、常數(shù)的方差

常數(shù)的方差為0，由方差的展開表示很容易推得。

3、線性組合的方差

方差不滿足線性性質(zhì)，兩個(gè)變量的線性組合方差計(jì)算方法如下：

其中Cov(x,y)為x和y的協(xié)方差，下一節(jié)討論。

4、獨(dú)立變量的方差

如果兩個(gè)變量相互獨(dú)立，則：

作為推論，如果x和y相互獨(dú)立：Var(x+y)=Var(x)+Var(y)。

協(xié)方差

定義

兩個(gè)隨機(jī)變量的協(xié)方差被定義為：

因此方差是一種特殊的協(xié)方差。當(dāng)x=y時(shí)，Cov(x,y)=Var(x)=Var(y)。

性質(zhì)

1、獨(dú)立變量的協(xié)方差

獨(dú)立變量的協(xié)方差為0，可以由協(xié)方差公式推導(dǎo)出。

2、線性組合的協(xié)方差

協(xié)方差最重要的性質(zhì)如下：

很多協(xié)方差的計(jì)算都是反復(fù)利用這個(gè)性質(zhì)，而且可以導(dǎo)出一些列重要結(jié)論。

作為一種特殊情況：

另外當(dāng)x=y時(shí)，可以導(dǎo)出方差的一般線性組合求解公式：

相關(guān)系數(shù)

定義

相關(guān)系數(shù)通過方差和協(xié)方差定義。兩個(gè)隨機(jī)變量的相關(guān)系數(shù)被定義為：

性質(zhì)

1、有界性

相關(guān)系數(shù)的取值范圍為-1到1，其可以看成是無量綱的協(xié)方差。

2、統(tǒng)計(jì)意義

值越接近1，說明兩個(gè)變量正相關(guān)性（線性）越強(qiáng)，越接近-1，說明負(fù)相關(guān)性越強(qiáng)，當(dāng)為0時(shí)表示兩個(gè)變量沒有相關(guān)性。