偏微分方程邊值問題差分方法

[拼音]:gail╇ fenbu

[英文]:probability distribution

概率論的基本概念之一,用以表述隨機變數取值的概率規律。為了使用的方便,根據隨機變數所屬型別的不同,概率分佈取不同的表現形式。

離散型分佈與分佈列

只取有限個或可列個實數值的隨機變數稱為離散型隨機變數。例如,1000件產品中有50件次品,從中隨意抽取100件,則其中的次品數X 就是一個只取 0到50之間的整數值的離散型隨機變數。又如一個電話交換臺每天收到的呼叫次數X 就是一個可取全部非負整數值的離散型隨機變數。設離散型隨機變數X所取的全部值為{x1,x2,…,xn,…},記事件{X=xk}的概率

P

(X=xk)=pk,k=1,2,…,n,…,於是二元序列{(xk,pk),k=1,2,…,n,…}表述了X取值的概率規律。這個二元序列稱為分佈列。可用分佈列來表述的離散型隨機變數取值的概率規律稱為離散型分佈。由概率的基本性質可知,任一分佈列必然滿足條件:pk≥0,

(若隨機變數只取n個值,則有

)。

上述表達形式也適用於隨機向量的情形,這隻須把X理解為m 維隨機向量X =(X1,X2,…,Xm),xk理解為m 維向量值

,事件{X=xk}的概率pk理解為

。相應的分佈列所表述的概率規律稱為m 維離散型分佈。

分佈函式與邊緣分佈函式

對於那些取值充滿一個區間[α,b]、 甚至充滿整個實數軸R=(-∞,∞)的隨機變數,就不可能用分佈列的形式來表述它取值的概率規律,一般可統一用分佈函式來表述。設X是一個隨機變數,x是任一實數,事件{X≤x}的概率

P

(X≤x)=F(x),x∈R,稱為X的分佈函式;在數理統計學中也稱為累積分佈函式。由概率的性質知道,任何分佈函式F(x)都滿足以下三個條件:

(1)單調非降,即當α

(2)右連續,即

,其中b→α+表示b>α且趨近於α;

(3)

。反之,任一滿足這三個條件的函式,必是某一隨機變數的分佈函式。用分佈函式可以表示X落入某個區間的概率,例如當αP(αP(α≤X≤b)=F(b)-

F(x)=F(b)-F(α-)。圖1畫出了一個分佈函式的影象。

如果X是一個離散型隨機變數,它的分佈列為{(xk,pk),k=1,2,…,n,…},那麼由概率的可列可加性知道,X的分佈函式可以表為

其中右邊的求和式表示對滿足 xk≤x的一切下標k求和。圖2畫了一個這種型別的分佈函式。

分佈函式的定義也容易推廣到隨機向量的情形。設X=(X1,X2,…,Xm)是一個m 維隨機向量,x=(x1,x2,…,xm)是任一m 維實向量,令

,則函式F(x1,x2,…,xm)稱為X 的m 維分佈函式,或稱為m個隨機變數X1,X2,…,Xm的聯合分佈函式。m 維分佈函式也有與一維情形相應的充分必要條件,但敘述較為複雜。

利用X1,X2,…,Xm的聯合分佈函式F(x1,x2,…,xm),可以求出其中任何一部分隨機變數的分佈函式,後者稱為前者的邊緣分佈函式。以兩個隨機變數X1、X2為例,設它們的聯合分佈函式為F(x1,x2),則X1,X2的兩個邊緣分佈函式分別為

連續型分佈與密度函式

實際中最常遇到的隨機變數的型別除離散型以外,還有連續型隨機變數。如果存在一非負實函式p(x),使隨機變數X的分佈函式F(x)可以表成:

則稱X為連續型隨機變數,p(x)稱為X 的密度函式,它一定滿足條件

可以用密度函式來表述的隨機變數取值的概率規律稱為連續型分佈。連續型隨機變數 X取任何一個實數值的概率等於0;當實數α

這個概率又可以用圖3中陰影部分的面積來表示。

如果存在一個m元實函式p(x1,x2,…,xm),使m 維隨機向量X=(X1,X2,…,Xm)的分佈函式F(x1,x2,…,xm)可以表示成

則p(x1,x2,…,xm)稱為隨機向量X 的m 維密度函式,或稱為m個隨機變數X1,X2 ,…,Xm的聯合密度函式。若兩個隨機變數X1,X2有聯合密度函式p(x1,x2),則X1、X2自身也分別有密度函式p1(x1)和p2(x2),且可以由下式算出:

p1(x1),p2(x2)分別稱為p(x1,x2)的邊緣密度函式。類似地,可以考慮m維密度函式的邊緣密度函式。

概率分佈的測度形式

有時,主要是為了理論研究的方便,還需要有一種表述隨機變數與隨機向量取值的概率規律的更一般的形式。對給定的正整數m,用Rm表示全體m 維實向量構成的集,稱為m 維實空間,對於α=(α1,α2,…,αm)

,用符號(α,b]表示Rm中如下的超長方體:(α,b]={x∈Rm:x=(x1,x2,…,xm),αjP)上的m 維隨機向量,則對任一B∈Bm有{X∈

B

}∈F。對每一

B

∈Bm,定義

P

X(

B

)=

P

(X∈

B

),則

P

X是可測空間(Rm,Bm)上的一個概率測度(見概率)。這個概率測度

P

X一般也稱為隨機向量X 的概率分佈。

實際上,對於不同型別的隨機變數X,它的概率分佈

P

X分別被它的分佈列、密度函式和分佈函式完全確定。以一維情形(m=1)為例,對於任一

B

∈B1,其

P

X(

B

)分別為:

式中最後一個積分是勒貝格-斯蒂爾傑斯積分。

隨機變數的函式的分佈

一個或多個隨機變數的連續函式或初等函式(甚至更一般的波萊爾可測函式)仍然是隨機變數,而且後者的分佈由前者的分佈完全確定。這一事實無論在理論上或實際計算上都是重要的。例如,設隨機變數X的分佈函式為F(x),α(>0)及b是二實數,則Y=αX+b也是隨機變數,它的分佈函式

又如隨機變數X1,X2有聯合密度函式p(x1,x2),則X=X1+X2及Y=X1/X2也是隨機變數(在後者中,假定X2≠0)),它們分別有密度函式

數學期望

見數學期望。

方差

見方差。

中位數與分位數

設X是隨機變數,同時滿足

P

{X≤x}≥1/2及

P

{X≥x}≥1/2二式的實數x,稱為X的中位數,記作mX或x1/2。中位數對於任何隨機變數都是存在的,但可能不惟一。它是反映隨機變數取值中心的一個數值。在理論上,特別對數學期望不存在的情形,它可以起到類似於數學期望的作用。它與期望相比,主要優點是受極端值的影響較小,因此在某些應用統計問題中,用它代替平均數作為一個主要指標。

將中位數的概念推廣,可以引進數理統計學中常用的分位數的概念。給定0<α<1 ,隨機變數X的上α分位數是指同時滿足下列兩條件的數xα:

P

{X≤xα}≥1-α,

P

{X≥xα}≥α。中位數就是1/2分位數。x1-α 又稱為X的下α分位數。

特徵函式

傅立葉變換是數學分析中非常重要而有效的工具,將它應用於概率論,對分佈函式作傅立葉-斯蒂爾傑斯變換,就得到特徵函式。由於它具有很好的性質,因此在研究隨機變數之和及其概率分佈時起著十分重要的作用。在P.萊維於1919年至1925年系統地建立概率論中的特徵函式性質以後的15年間,它被用來完整地解決了普遍極限定理(見中心極限定理),並深入地研究了獨立增量過程。

設F(x)是隨機變數X的分佈函式,則稱

(t∈R)為F(x)或X 的特徵函式。特別,若分佈是具有密度函式p(x)的連續型分佈,則

若分佈為

P

(X =xk)=pk (k=1,2,…),的離散型分佈,則

特徵函式的重要性質有:

(1)ƒ(0)=1;

(2)│ƒ(t)│≤1,t∈R;

(3)ƒ(t)在R上一致連續且具有非負定性,即對任意正整數n,任意實數t1,t2,…,tn,及任意複數 z1,z2,…,zn,有

(4)若X的r階絕對矩有窮,則對一切正整數 k≤r,它的特徵函式的k階導數存在,且

因而有

在特徵函式已知的情況下,用這類公式來求各階矩往往是方便的。如果隨機變數 X1,X2,…,Xn是獨立的,則X1+X2+…+Xn的特徵函式等於 X1,X2,…,Xn各自的特徵函式的乘積。這一性質使特徵函式在研究極限定理(見中心極限定理)時起著重大的作用。

特徵函式與分佈函式相互惟一決定,因而可以把求分佈函式的問題轉化為求特徵函式的問題。不僅如此,在特徵函式序列與分佈函式序列的收斂性之間也存在對應關係。稱分佈函式序列{Fn(x),n≥1}弱收斂(見概率論中的收斂)於分佈函式F(x),如果在F(x)的每一連續點x上,都有

。於是,成立如下的定理:設分佈函式序列{Fn(x)}弱收斂於分佈函式F(x),則相應的特徵函式序列{ƒn(t)}收斂於F(x)的特徵函式ƒ(t),而且在t的任一有限區間上收斂是一致的。反之,設特徵函式序列收斂於一個在t=0處連續的函式ƒ(t),則ƒ(t)是特徵函式,而且相應的分佈函式序列弱收斂於以ƒ(t)為特徵函式的分佈函式F(x)。這是解決中心極限問題時的一個關鍵性的定理。應用它,還可以證明:R上的復值函式ƒ(t)為特徵函式的充分必要條件是ƒ(t)連續、非負定且ƒ(0)=1。這是特徵函式的一個判定條件,而且在證明平穩過程協方差函式的譜表示時需要用到這個定理。

上述有關一維概率分佈的特徵函式的概念與結果,都可以推廣到多維的情形。

半不變數

設隨機變數X具有s階絕對矩,則它的特徵函式ƒ(t)s次連續可微,令

它稱為X的r階半不變數。因此有

式中符號O(ts)表示當t→0時比ts高階的無窮小量,即

X 的前幾階半不變數是:

…………。

給定前兩階半不變數 k1、 k2,其最簡單的特徵函式是exp

,即正態分佈N(k1,k2)的特徵函式。

母函式

它是代替特徵函式專門用於研究非負整值隨機變數的一個有用的數學工具,歷史上,它的引進比特徵函式更早。設 X是隻取非負整數值的離散型隨機變數,

P

(X=k)=pk,k=0,1,…,則稱

為X 或其概率分佈的母函式。由冪級數的求導性質知,

P

(s)在(-1,1)中有任意階導數,且pk=

(0)/k!,k=0,1,…,因此,母函式與取非負整值的離散型分佈相互惟一決定。母函式還具有如下的重要性質:當X 的數學期望存在時,EX=

P

′(1);當X的方差有窮時,

;任意n個獨立的非負整值隨機變數之和的母函式,是這n個隨機變數的母函式的乘積;設v及X1,X2,…是一列獨立的非負整值隨機變數,而且 X1,X2,…有相同的概率分佈,其共同的母函式為 P(s),v的母函式為G(s),則隨機變數

的母函式為G(

P

(s));此外,若Ev及EX1存在,則EY=Ev·EX1。

常用概率分佈表

表列舉了概率論與數理統計學中常用的概率分佈(包括取整數值的離散型分佈及連續型分佈),它們的名稱與標準記號,分佈列或密度函式表示式及部分密度函式的圖形,相應的數學期望與方差(如果存在),以及相應的特徵函式。另外,還加了若干有用的附註。表中的X~N(α,σ2)表示隨機變數X服從期望為α、方差為σ2的正態分佈。

參考書目

J.K.Patel,C.H.Kapadia and D.B.Owen,Handbork of Statistical Distributions,Marcel Dekker,New York,1976.