1、伯努利大數定律：

伯努利大數定律，即在多次重復試驗中，頻率有越趨穩(wěn)定的趨勢。

在相同的條件下,進行了n次試驗,在這n次試驗中,事件A發(fā)生的次數nA稱為事件A發(fā)生的頻數.比值nA/n稱為事件A發(fā)生的頻率,并記為fn(A).

⒈當重復試驗的次數n逐漸增大時,頻率fn(A)呈現出穩(wěn)定性,逐漸穩(wěn)定于某個常數,這個常數就是事件A的概率.這種“頻率穩(wěn)定性”也就是通常所說的統(tǒng)計規(guī)律性.

⒉頻率不等同于概率.由伯努利大數定理,當n趨向于無窮大的時候,頻率fn(A)在一定意義下接近于概率P(A).

通俗地說，這個定理就是，在試驗不變的條件下，重復試驗多次，樣本數量越多，隨機事件的頻率越近似于它的概率，偶然中包含著某種必然。

2、中心極限定理：

大量相互獨立的隨機變量，其求和后的平均值以正態(tài)分布 （即鐘形曲線） 為極限。

數學定義：設從均值為μ、方差為σ^2（有限）的任意一個總體中抽取樣本量為n的樣本，當n充分大時，樣本均值的抽樣分布近似服從均值為μ、方差為（σ^2）/n 的正態(tài)分布。

關于正態(tài)分布的核心結論是：μ、σ為均值和標準差，那么μ±1σ、μ±2σ、μ±3σ的命中概率分別是68.3%、95.5%、99.73%！

中心極限定理最早由法國數學家棣莫弗在1718年左右發(fā)現。他為解決朋友提出的一個賭博問題而去認真研究二項分布 （每次試驗只有“是/非”兩種可能的結果，且兩種結果發(fā)生與否互相對立） 。他發(fā)現：當實驗次數增大時，二項分布 （成功概率p=0.5） 趨近于一個看起來呈鐘形的曲線。后來，著名法國數學家拉普拉斯對此作了更詳細的研究，并證明了p不等于0.5時二項分布的極限也是高斯分布。之后，人們將此稱為棣莫弗-拉普拉斯中心極限定理 。

是概率論中討論隨機變量序列部分和分布漸近于正態(tài)分布的一類定理。

比如，全國人口壽命、成年男女的身高分布、人在一天中情緒高低點對應的時間分布、金融市場中漲跌的時間周期及趨勢的壽命等等，無不遵循此定理。

對于大量獨立隨機變量來說，不論其中各個隨機變量的分布函數是什么形狀，也不論它們是已知還是未知，當獨立隨機變量的個數充分大時，它們的和的分布函數都可以用正態(tài)分布來近似。這使得正態(tài)分布既成為統(tǒng)計理論的重要基礎，又是實際應用的強大工具。

這組定理是數理統(tǒng)計學和誤差分析的理論基礎，指出了大量隨機變量累積分布函數逐點收斂到正態(tài)分布的積累分布函數的條件。

在自然界與生產中，一些現象受到許多相互獨立的隨機因素的影響，如果每個因素所產生的影響都很微小時，總的影響可以看作是服從正態(tài)分布的。中心極限定理就是從數學上證明了這一現象 。

3、貝葉斯定理

非常有實用價值的概率分析法！它在大數據時代的機器學習、醫(yī)學、金融市場的高勝算交易時機的把握、刑事案件的偵破中均有很高的推理價值。

貝葉斯定理由英國數學家貝葉斯發(fā)展而來，用來描述兩個條件概率之間的關系，是概率統(tǒng)計中的應用所觀察到的現象對有關概率分布的主觀判斷（即先驗概率）進行修正的標準方法。

P(A) 事件A發(fā)生的概率，即先驗概率或邊緣概率

P(B) 事件B發(fā)生的概率，即先驗概率或邊緣概率

P(B|A) 事件A發(fā)生時事件B發(fā)生的概率，即后驗概率或條件概率

P(A|B) 事件B發(fā)生時事件A發(fā)生的概率，即后驗概率或條件概率

按照乘法法則：

P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)

公式變形后，得出：

P(B|A) = P(A|B)*P(B) / P(A)

貝葉斯法則的文字化表達：

后驗概率 = 標準相似度 * 先驗概率

注：P(A|B)/P(A) 又稱標準相似度

如果我們的先驗概率審定為1或0（即肯定或否定某件事發(fā)生）， 那么無論我們如何增加證據你也依然得到同樣的條件概率（此時 P(A)=0 或 1 ， P(A|B)= 0或1）