充分統(tǒng)計(jì)量課程設(shè)計(jì)報(bào)告

1、<p><b>　　畢業(yè)論文(設(shè)計(jì))</b></p><p>　　GRADUATION　THESIS?。―ESIGN）</p><p>　論文（設(shè)計(jì)）題目Title Of Thesis（Design）充分統(tǒng)計(jì)量課程設(shè)計(jì)報(bào)告 </p><p>　分院（系別）Departmen

2、t數(shù)學(xué)與信息科學(xué)學(xué)院 </p><p>　專業(yè)Speciality應(yīng)用數(shù)學(xué) 班級(jí)Class應(yīng)數(shù)102 </p><p>　論文（設(shè)計(jì)）作者Author of Thesis（Design）楊海衛(wèi) 馬建凱 王 哲 宋成斐 李雙群 管亞飛論文完成日期Date2012年 7月 </p><p>　論文（設(shè)計(jì)）指導(dǎo)教師Advisor指導(dǎo)教師職

3、稱The Title of Advisor副教授 </p><p>　　充分統(tǒng)計(jì)量課程設(shè)計(jì)報(bào)告</p><p>　　The Course Exercise Of Sufficient statistic</p><p>　　[摘要] 統(tǒng)計(jì)量的引入是為了簡(jiǎn)化樣本，便于統(tǒng)計(jì)推斷。而充分統(tǒng)計(jì)量則是簡(jiǎn)化統(tǒng)計(jì)問(wèn)題中非常重要的概念。本文從充分統(tǒng)計(jì)量的定義、作用及其判斷

4、標(biāo)準(zhǔn)入手，對(duì)該課題加以研究。并討論了兩種證明充分統(tǒng)計(jì)量的方法，并給出了幾個(gè)相關(guān)結(jié)論及其應(yīng)用。</p><p>　　[關(guān)鍵詞] 充分統(tǒng)計(jì)量 因子分解法 定義法 實(shí)例應(yīng)用</p><p>　　[Abstract] Statistics is introduced to simplify the sample, is convenient for statistical inference

5、. And the sufficient statistic is a simplified statistical problem is a very important concept. This article from the sufficient statistics definition, effect and judgement standard proceed with, the research on the topi

6、c of. And discusses two prove sufficient statistic method, and gives some related conclusions and its application.</p><p>　　[Key words] Sufficient statistics Factorization method Definition method Ap

7、plication example</p><p><b>　　[目錄](méi)</b></p><p><b>　　一 引言</b></p><p>　　二 充分統(tǒng)計(jì)量的概念…………………………………………………………1</p><p>　　1充分統(tǒng)計(jì)量的起源……………………………………………………………

8、.1</p><p>　　2 充分統(tǒng)計(jì)量的定義……………………………………………………………2</p><p>　　三 充分統(tǒng)計(jì)量的證明及其相關(guān)結(jié)論………………………………………………4</p><p>　　1 證明充分統(tǒng)計(jì)量的二種方法……………………………………………….4</p><p>　　(i)定義法……………………………………………

9、……………………4</p><p>　　(ii)因子分解法………………………………………………….5</p><p>　　2幾個(gè)相關(guān)結(jié)論……………………………………………………………7</p><p>　　定理1…………………………………………………………………..7</p><p>　　定理2………………………………………………………………

10、..7</p><p>　　定理3………………………………………………………………………..7</p><p>　　四 引入充分統(tǒng)計(jì)量的意義及應(yīng)用…………………………………………………7</p><p>　　1充分統(tǒng)計(jì)量在數(shù)字信號(hào)處理中的應(yīng)用研究…………………………………7</p><p>　　2基于充分統(tǒng)計(jì)量的粒子濾波方法………………………

11、………………9</p><p>　　小結(jié)………………………………………………………………………………12</p><p>　　致謝語(yǔ)……………………………………………………………………………12</p><p>　　參考文獻(xiàn)……………………………………………………………………………12</p><p><b>　　[引言]</

12、b></p><p>　　統(tǒng)計(jì)量的引入是為了簡(jiǎn)化樣本，便于統(tǒng)計(jì)推斷。但在利用統(tǒng)計(jì)量進(jìn)行統(tǒng)計(jì)推斷時(shí)，一個(gè)自然的問(wèn)題是：我們所用的統(tǒng)計(jì)量是否把樣本中關(guān)于感興趣的問(wèn)題的信息全部吸收進(jìn)來(lái)了？如果某個(gè)統(tǒng)計(jì)量包含了樣本中關(guān)于感興趣問(wèn)題的所有信息，則這個(gè)統(tǒng)計(jì)量對(duì)將來(lái)的統(tǒng)計(jì)推斷會(huì)很有用，這時(shí)候充分統(tǒng)計(jì)量就是一個(gè)很有用的概念。本文將研究和探討充分統(tǒng)計(jì)量的概念，定義及給出證明。同時(shí)討論充分統(tǒng)計(jì)量在各個(gè)領(lǐng)域的作用。</p&

13、gt;<p>　　一 充分統(tǒng)計(jì)量的概念</p><p><b>　　1充分統(tǒng)計(jì)量的起源</b></p><p>　　它是費(fèi)希爾于1922年正式提出的，而其思想則源于他與天文學(xué)家愛(ài)丁頓的有關(guān)估計(jì)標(biāo)準(zhǔn)差的爭(zhēng)論中。設(shè)x1,x2,…,xn為來(lái)自N(μ,σ2)的獨(dú)立同分布樣本，現(xiàn)要估計(jì)σ。費(fèi)希爾主張用樣本標(biāo)準(zhǔn)差s,而愛(ài)丁頓則主張用如下的平均絕對(duì)偏差</p&

14、gt;<p><b>　　(1)</b></p><p>　　費(fèi)希爾認(rèn)為“在s中包含了樣本中有關(guān)σ的全部信息，而d則否”，這就是充分統(tǒng)計(jì)量</p><p>　　在數(shù)理統(tǒng)計(jì)中，由樣本來(lái)推斷總體的前提是：樣本中包含了總體分布的的信息。簡(jiǎn)單的隨機(jī)樣本滿足了這一前提條件。樣本中所包含的關(guān)于總體分布的信息可分為兩部分，其一是關(guān)于總體結(jié)構(gòu)的信息，即反映總體分布的結(jié)構(gòu)

15、（類型）。</p><p>　　例如，假定總體分布是正態(tài)分布，則來(lái)自該總體的的樣本也是相互獨(dú)立，相同的正態(tài)分布。因此，在樣本中包含了總體分布是正態(tài)分布的信息。其二是關(guān)于總體分布中未知參數(shù)的信息，這是由于樣本的分布中包含了總體分布中的未知參數(shù)?，F(xiàn)在，我們把目標(biāo)集中在后一部分的信息，即要推斷總體分布的未知參數(shù)，為此構(gòu)造一個(gè)合適的統(tǒng)計(jì)量，對(duì)樣本進(jìn)行加工，以便把樣本中關(guān)于未知參數(shù)的信息提煉出來(lái)。</p>&

16、lt;p>　　譬如，為了估計(jì)總體的均值υ，人們把樣本(X1,X2，……，Xn)T加工成樣本均值,為了估計(jì)總體方差σ2，把樣本加工成樣本方差Sn2,然后用和和Sn2分別去估計(jì)總體均值υ和方差σ2.那么試問(wèn)：統(tǒng)計(jì)量或Sn2與樣本（X1，X2，……，Xn）T中所含υ或σ2的信息是否一樣多？換言之，統(tǒng)計(jì)量和Sn2是否把樣本（X1,X2，……，Xn）T中關(guān)于υ和σ2的信息全部提煉出來(lái)，而沒(méi)有任何的信息損失。顯然，一個(gè)好的統(tǒng)計(jì)量，應(yīng)該能夠?qū)?/p>

17、本中所包含的關(guān)于未知參數(shù)的信息全部提取出來(lái)。</p><p>　　2 充分統(tǒng)計(jì)量的定義</p><p>　　定義1：設(shè)X1，X2，……，Xn是來(lái)自總體X具有分布函數(shù)F(x;θ)的一個(gè)樣本，T=T(X1,X2,……，Xn)為一個(gè)（一維或多維的）統(tǒng)計(jì)量，當(dāng)給定T=t時(shí)，若樣本（X1，X2，……，Xn）T的條件分布（離散總體為條件概率，連續(xù)總體為條件密度）與參數(shù)θ無(wú)關(guān)，則稱T是θ的充分統(tǒng)計(jì)量。&

18、lt;/p><p>　　充分統(tǒng)計(jì)量的含義可以這樣解釋：樣本中包含關(guān)于總體分布中未知參數(shù)θ的信息，是因?yàn)闃颖镜穆?lián)合分布與θ有關(guān)。對(duì)統(tǒng)計(jì)量T，如果已經(jīng)知道它的值以后，樣本的條件分布與θ無(wú)關(guān)，就意味著樣本的剩余部分中不再包含關(guān)于θ的信息，換言之，在T中包含了關(guān)于θ的全部信息，因此，要做關(guān)于θ的統(tǒng)計(jì)推斷只需從T出發(fā)即可。這就是“充分統(tǒng)計(jì)量”這個(gè)概念中“充分”這個(gè)詞的含義。</p><p>　　例：

19、為研究某個(gè)運(yùn)動(dòng)員的打靶命中率θ，我們隊(duì)該運(yùn)動(dòng)員進(jìn)行測(cè)試，觀察了其10次，發(fā)現(xiàn)除第三、六次未命中外，其余8次都命中。這樣的觀測(cè)結(jié)果包含了兩種信息：</p><p>　?、?打靶10次命中8次；</p><p>　　② 2次不命中分別出現(xiàn)在第三次和第六次打靶上。</p><p>　　第二種信息對(duì)了解該運(yùn)動(dòng)員的命中率是沒(méi)有什么幫助的：設(shè)想我們對(duì)該運(yùn)動(dòng)員的觀測(cè)結(jié)果是第一、二

20、次未命中，其余都命中。雖然樣本觀測(cè)值是不一樣的，但它們提供的關(guān)于命中率θ的信息是一樣的。因此，在絕大數(shù)世紀(jì)問(wèn)題中，試驗(yàn)編號(hào)信息常常對(duì)了解總體或其參數(shù)是無(wú)關(guān)緊要的。</p><p>　　一般地，設(shè)我們對(duì)該運(yùn)動(dòng)員進(jìn)行n次觀測(cè)，得到x1，x2，……，xn，每個(gè)xi取值非0即1，命中為1，不命中為0，令T=x1+……+xn,T為觀測(cè)到的命中次數(shù)，在這種場(chǎng)合僅僅記錄使用T不會(huì)丟失任何與命中率θ有關(guān)的信息。這種信息稱為充分性

21、。</p><p><b>　　另一種解釋如下：</b></p><p>　　定義2 在可測(cè)空間(X，B)上的統(tǒng)計(jì)量T=T(x)，實(shí)際上是對(duì)樣本X=(X1…Xn)進(jìn)行某種加工的結(jié)果，這種加工從本質(zhì)上體現(xiàn)了統(tǒng)計(jì)量壓縮數(shù)據(jù)的功能．從理論上看，若T-1是在(γ，b)上取值的可測(cè)映照，那么對(duì)σ代數(shù)b中任一元素c在占中有一個(gè)原像</p><p>　　T

22、-1(c)={x:T(x) ∈c}∈B (2)</p><p>　　把所有原像的全體記為</p><p>　　T-1(b)={ T-1(c):c∈b}∈B (3)</p><p>　　容易驗(yàn)證：T-1 (b)是σ代數(shù)，并且是B的σ子代數(shù)．這表明，有了統(tǒng)計(jì)量T-1之后，原先樣本所涉及

23、的可測(cè)空間(X，B)換為另一個(gè)新的可測(cè)空間(X，T-1 (b))，差別在于σ代數(shù)縮小了，涉及到的事件減少了．只有在T-1是一對(duì)一映照時(shí)σ代數(shù)才不能被壓縮，統(tǒng)計(jì)中應(yīng)用的統(tǒng)計(jì)量T-1=T-1(x)常常是多對(duì)一映照，σ代數(shù)縮小了是幾乎肯定的．所以一般說(shuō)來(lái)，任一個(gè)統(tǒng)計(jì)量都有壓縮數(shù)據(jù)的功能，只是程度不同罷了。但是壓縮不能過(guò)分，以至于抹殺了樣本之間的重要差別，造成信息損失，在統(tǒng)計(jì)中把不損失信息的統(tǒng)計(jì)量稱為充分統(tǒng)計(jì)量．</p><

24、p>　　“不損失信息” 的統(tǒng)計(jì)量就是充分統(tǒng)計(jì)量．這是一種模糊的說(shuō)法，從數(shù)學(xué)的意義，它意味著什么呢?</p><p>　　設(shè)總體x服從某個(gè)分布Pθ(x)，為了對(duì)參數(shù)θ作統(tǒng)計(jì)推斷，需要從該總體中抽取一個(gè)樣本X=(X1,…,Xn)，樣本X中含有θ的信息，顯然，對(duì)樣本X加工不可能增加信息，不減少θ的信息就是最好的了．由樣本X可算出統(tǒng)計(jì)量T，假如能由統(tǒng)計(jì)量T的值恢復(fù)樣本，那么這種統(tǒng)計(jì)量就不會(huì)損失有關(guān)θ的信息．要做到這

25、一點(diǎn)，關(guān)鍵要在給定T=t下，樣本X的條件分布不依賴于θ，即有</p><p>　　Pθ(X=x|T=t)=P(X=x|T=t) (4)</p><p>　　由以上分析知，在對(duì)樣本的加工過(guò)程中，一個(gè)統(tǒng)計(jì)量“不損失信息”的數(shù)學(xué)描述是“在T取任一個(gè)值時(shí)，樣本的條件分布不依賴于未知參數(shù)”，但允許T</p><p>　　的一個(gè)零測(cè)集有

26、例外，由此可給出充分統(tǒng)計(jì)量的一般定義．</p><p>　　定義：設(shè)(X，B，{Pθ∈Θ))是一個(gè)統(tǒng)計(jì)結(jié)構(gòu)，又</p><p>　　設(shè)T=T(X)是(X，B)到(J，b)的一個(gè)統(tǒng)計(jì)量，Pθ是T的誘導(dǎo)分布，假如在Pθ的零測(cè)集外，T取任一個(gè)值時(shí)t，樣本X=(X1,…,Xn)的條件分布都不依賴于θ，即對(duì)任意的θ∈Θ和B∈B，有</p><p>　　Pθ(B / t) =

27、P(B / t)，α ·s· Pθ (5)</p><p>　　則稱T為該分布族(或參數(shù)θ)的充分統(tǒng)計(jì)量．</p><p>　　二 充分統(tǒng)計(jì)量的證明及其相關(guān)結(jié)論</p><p>　　1 證明充分統(tǒng)計(jì)量的二種方法</p><p>　　定義：設(shè)(x，B，P)是一個(gè)統(tǒng)計(jì)結(jié)

28、構(gòu)，T = T(x)是從可測(cè)空間(X，B)到(J，b)的一個(gè)可測(cè)映照T，假若這個(gè)映照T不依賴于分布族P，則稱T為此結(jié)構(gòu)上的統(tǒng)計(jì)量，假如P為參數(shù)分布族{Pθ ：θ ∈ Θ}，則不依賴于參數(shù)θ的可測(cè)映照T稱為此結(jié)構(gòu)上的統(tǒng)計(jì)量。</p><p>　　由上定義可知，對(duì)任一總體和具體的統(tǒng)計(jì)問(wèn)題，可以構(gòu)造很多結(jié)構(gòu)不一形式多樣的統(tǒng)計(jì)量．但如何去驗(yàn)證一個(gè)統(tǒng)計(jì)量的充分性，一般可采用二種方法：</p><p>

29、;<b>　　(i)定義法</b></p><p>　　所謂定義法就是對(duì)任意的θ∈Θ和B ∈B，先求出Pθ ( B / t)，若其與θ無(wú)關(guān)，由充分統(tǒng)計(jì)量的定義即可判定其是充分統(tǒng)計(jì)量，否則不然．</p><p>　　例 設(shè)X1 ,…, Xn。是來(lái)自Poisson分布P(λ)的一個(gè)樣本，證明：統(tǒng)計(jì)量是參數(shù)λ的充分統(tǒng)計(jì)量．</p><p>　　證明

30、 由 Poisson分布的可加性知，T~P( n λ )，即</p><p>　　當(dāng)T = t時(shí)，樣本的條件分布為</p><p>　　Pλ(X1= x1，…，Xn = xn | T = t)</p><p><b>　　=</b></p><p><b>　　=</b></p>&l

31、t;p><b>　　=</b></p><p>　　這個(gè)條件分布是多項(xiàng)分布，它在t給定下就完全確定，它與參數(shù)λ無(wú)關(guān)，故T是參數(shù)λ的充分統(tǒng)計(jì)量．</p><p><b>　　(ii)因子分解法</b></p><p>　　在最一般的場(chǎng)合，確定條件分布并非易事，它需要從抽象的條件期望與條件概率的定義上出發(fā)逐步地探討，因子

32、分解定理是一個(gè)更為方便地判別充分統(tǒng)計(jì)量的方法．</p><p>　　定理1設(shè) X， B，{Pθ：θ∈Θ}為可控結(jié)構(gòu)，μ為控制測(cè)度，記Pθ(x)=d Pθ／dμ，又設(shè)T = T(x)是(X，B)到(J，b)上的統(tǒng)計(jì)量，則T為充分統(tǒng)計(jì)量的充要</p><p>　　條件，對(duì)任意的θ∈Θ有</p><p>　　Pθ (x) = gθ ( T ( x ) ) h( x)，a．

33、s．u (6)</p><p>　　其中h(x)為x上的非負(fù)B可測(cè)函數(shù)：</p><p>　　g(x)為J上的b可測(cè)函數(shù)</p><p>　　僅就離散場(chǎng)合給出證明．</p><p>　　證明：必要性：對(duì)任意固定的c∈J，其原像集合記為A( t )=( x ：T ( x ) = t )，設(shè)T(x)是參

34、數(shù)θ的充分統(tǒng)計(jì)量，則在給定T=t下，條件概率Pθ( X = x |T </p><p>　　= t )與參數(shù)θ無(wú)關(guān)，它只能是x的函數(shù)，此記h(x)．</p><p>　　另外，無(wú)條件概率Pθ( T = t)記為gθ(f)，于是對(duì)</p><p>　　給定的t及x ∈A(t)，有</p><p>　　Pθ( x ) = Pθ( X = x )&

35、lt;/p><p>　　=Pθ(X=x，T=t)</p><p>　　= Pθ ( X = x | T = t)Pθ(T=t)</p><p>　　=h(z)·gθ(t)</p><p>　　充分性：對(duì)任意x ∈A(t)，有</p><p>　　Pθ(X=x|T=x)</p><p>&l

36、t;b>　　=</b></p><p><b>　　=</b></p><p><b>　　=</b></p><p>　　因?yàn)閷?duì)y = A ( t )，有T ( y ) = t，故有</p><p>　　Pθ ( X = x | T = t)</p><p&g

37、t;<b>　　=</b></p><p><b>　　=</b></p><p>　　此結(jié)果與參數(shù)θ無(wú)關(guān)．</p><p>　　當(dāng)x ?A(t)時(shí)，T(x)≠t，于是事件“X=x”與事件“T( x )= t”不可能同時(shí)出現(xiàn)，所以當(dāng)時(shí)x ? A( t )時(shí)，Pθ ( X=x，T=t)=0，從而Pθ ( X = x | T=

38、 t ) =0，此與θ無(wú)關(guān)，綜合上述，T(x)是充分統(tǒng)計(jì)量．</p><p>　　例 設(shè) X=(X1 ,…, Xn)是來(lái)自正態(tài)分布N(μ，σ2)的一個(gè)樣本，其樣本的聯(lián)合密度函數(shù)為</p><p><b>　　=</b></p><p>　　由因子分解定理知．是(μ，σ2)的充分統(tǒng)計(jì)量．</p><p><b>

39、;　　2幾個(gè)相關(guān)結(jié)論</b></p><p>　　定理1 設(shè)(X，B，P)為統(tǒng)計(jì)結(jié)構(gòu)，X為歐氏空間，則次序統(tǒng)計(jì)量(X(1)，?，X(n))為該分布族p的充分統(tǒng)計(jì)量．</p><p>　　此結(jié)論是非常顯然的．若n次試驗(yàn)都在相同條件下獨(dú)立進(jìn)行，我們只需知道，n次試驗(yàn)的結(jié)果是什么，而試驗(yàn)結(jié)果的排列次序無(wú)關(guān)緊要，特別，當(dāng)人們知道次序統(tǒng)計(jì)量的觀察值時(shí)，并沒(méi)有損失樣本中任何有用的信息．&l

40、t;/p><p>　　定理2 充分統(tǒng)計(jì)量的一對(duì)一變換仍是充分統(tǒng)計(jì)量從直觀上看來(lái)，任何一對(duì)一變換都不會(huì)損失信息，因?yàn)樗茌p而易舉地恢復(fù)原來(lái)充分統(tǒng)計(jì)量的取值．</p><p>　　定理3 MLE常是充分統(tǒng)計(jì)量的函數(shù)</p><p>　　事實(shí)上，由因子分解定理，若T為充分統(tǒng)計(jì)量，</p><p>　　P ( x ; θ) = g(θ,T ( x )

41、) h ( x ) (7)</p><p><b>　　故</b></p><p>　　L( θ; x ) = lng (θ, T ( x ) )+ lnh(x) (8)</p><p>　　由此，使L(θ；x)達(dá)到最大與使g(θ，T(x))達(dá)最大是等價(jià)的．故θ(x)可取為T(x)

42、的函數(shù)。</p><p>　　上述定理不僅為驗(yàn)證一個(gè)統(tǒng)計(jì)量是否為統(tǒng)計(jì)量拓寬了途徑，同時(shí)，定理4也為求一個(gè)參數(shù)的極大似然估計(jì)提供了一條思路．</p><p>　　三 引入充分統(tǒng)計(jì)量的意義及應(yīng)用</p><p>　　1充分統(tǒng)計(jì)量在數(shù)字信號(hào)處理中的應(yīng)用研究</p><p>　　在用統(tǒng)計(jì)方法處理數(shù)字信號(hào)的過(guò)程中，我們需要對(duì)未知的數(shù)字參數(shù)進(jìn)行必要的估計(jì)

43、，而且望得到的估計(jì)是無(wú)偏的、具有最小方差的。在某些情況下，根據(jù)克拉美一羅下限(Cramer—Rao LB)定理，我們可以找到符合要求的估計(jì)量。這種估計(jì)量滿足無(wú)偏性，它們具有最小的方差和估計(jì)誤差方差，估計(jì)的方差達(dá)到了CRLB，我們稱之為參數(shù)的有效估計(jì)。它是最小方差無(wú)偏估計(jì)量，簡(jiǎn)稱為MVU估計(jì)量。由CRLB的計(jì)算導(dǎo)出有效估計(jì)量，即MVU估計(jì)量，在待估參數(shù)可以表示為觀測(cè)數(shù)據(jù)的線性模型的時(shí)候非常有效。然而，如果有效估計(jì)量不存在或者是CRLB方法

44、失效時(shí)，是否能夠求出我們所關(guān)心的MVU估計(jì)量就成了一個(gè)問(wèn)題。引入充分統(tǒng)計(jì)量的概念和重要的Rao—Blackwell—Lehmann—Scheffe(RBLS)定理，利用充分統(tǒng)計(jì)量的相關(guān)理論，在許多情況下可以通過(guò)簡(jiǎn)單地考察PDF就有可能確定MVU估計(jì)量。同時(shí)，研究經(jīng)典體系下基于貝葉斯方法的參數(shù)估計(jì)與基于充分統(tǒng)計(jì)量的參數(shù)估計(jì)之間的關(guān)系和性能是很有意義的。通過(guò)比較和歸納，我們可以較全面、更直觀的理解和掌握信號(hào)處理中的統(tǒng)計(jì)方法，明確目標(biāo)，合理的

45、選擇處理方法，更有效地解決問(wèn)題。</p><p>　　充分估計(jì)量定義為觀測(cè)矢量的一個(gè)函數(shù)，它是各觀測(cè)數(shù)據(jù)的函數(shù)，假設(shè)充分估計(jì)量為 T（x）它具有這樣的性質(zhì)：當(dāng)T（x）一定的時(shí)候，觀測(cè)數(shù)據(jù)矢量的概率似然函數(shù)與參數(shù)無(wú)關(guān)。為了定量的說(shuō)明充分估計(jì)量的定義，以DC電平的估計(jì)問(wèn)題為例，也即是數(shù)據(jù)矢量的PDF</p><p><b>　　(9)</b></p>

46、<p>　　假定已經(jīng)觀測(cè)到T（x）=T0 的情況下，將上式改變?yōu)闂l件概率：P(X | T（x）=T0，A)，它應(yīng)與A無(wú)關(guān)。從上面的定義及描述可以看出一個(gè)估計(jì)量是充分估計(jì)量是需要嚴(yán)格的證明的，但是計(jì)算條件如下</p><p><b>　　=</b></p><p><b>　　=</b></p><p><b

47、>　　=</b></p><p><b>　　=</b></p><p><b>　　=</b></p><p>　　根據(jù)奈曼一費(fèi)希爾(Neyman—Fisher)因子分解定理可知，統(tǒng)計(jì)量就是上述觀測(cè)模型的一個(gè)充分統(tǒng)計(jì)量，如果它是完備的充分統(tǒng)計(jì)量，那么由它映射的一個(gè)函數(shù)就可以達(dá)到無(wú)偏和最小方差，即可以得到

48、函數(shù)g(T(X))為參數(shù)θ的MVU估計(jì)量。所以我們關(guān)鍵是要證實(shí)T(X)的完備性，顯然，根據(jù)RBLS定理有是參數(shù)θ的一個(gè)MVU估計(jì)量。運(yùn)用經(jīng)典的貝葉斯準(zhǔn)則，假設(shè)參數(shù)θ的先驗(yàn)分布則可以得到這一問(wèn)題的結(jié)果，最大后驗(yàn)概率估計(jì)、最小均方估計(jì)和條件中位數(shù)估計(jì)均相等，它們都是</p><p><b>　　(10)</b></p><p>　　可見(jiàn)，隨著觀測(cè)模型中噪聲功率的增大，貝葉

49、斯估計(jì)的偏差先逐漸減小，中間經(jīng)過(guò)一個(gè)轉(zhuǎn)折，又逐漸增大，最后當(dāng)噪聲功率很大時(shí)，偏差趨于恒定。此時(shí)的貝葉斯估計(jì)不論從估計(jì)誤差還是估計(jì)誤差的方差與充分統(tǒng)計(jì)量估計(jì)相比均較大，此時(shí)充分統(tǒng)計(jì)量估計(jì)具有很強(qiáng)的優(yōu)勢(shì)。</p><p>　　可見(jiàn)，當(dāng)參數(shù)服從正態(tài)分布時(shí)，貝葉斯估計(jì)與充分統(tǒng)計(jì)量估計(jì)的平方偏差與參數(shù)的關(guān)系曲線非常接近，都能在信號(hào)參數(shù)的真值附近取得良好的效果(誤差很小)，在信噪比較高的情況下，兩者幾乎沒(méi)有區(qū)別；在信噪比較低

50、(差)的情況下，負(fù)參數(shù)時(shí)貝葉斯估計(jì)略好，正參數(shù)時(shí)充分統(tǒng)計(jì)量估計(jì)較好。信號(hào)中的參數(shù)一般為正，故充分統(tǒng)計(jì)量估計(jì)略好。</p><p>　　充分統(tǒng)計(jì)量在數(shù)字信號(hào)參數(shù)估計(jì)中有著廣泛的應(yīng)用，在某些方面具有特殊的優(yōu)勢(shì)?；诔浞纸y(tǒng)計(jì)量的參數(shù)估計(jì)方法具有良好的應(yīng)用特性，尤其是在信道性能較差(信噪比較低)的情況下有著突出的優(yōu)勢(shì)。基于充分統(tǒng)計(jì)量的參數(shù)估計(jì)方法與傳統(tǒng)意義上的基于貝葉斯準(zhǔn)則的估計(jì)方法具有良好的互補(bǔ)性能；基于充分統(tǒng)計(jì)量的信

51、號(hào)參數(shù)的估計(jì)量容易獲得，方法簡(jiǎn)單，性能可靠；基于充分統(tǒng)計(jì)量的估計(jì)與傳統(tǒng)的基于線性模型的估計(jì)具有良好的一致性，通過(guò)具體簡(jiǎn)潔的實(shí)例，針對(duì)充分統(tǒng)計(jì)量理論用于數(shù)字信號(hào)有關(guān)參數(shù)的估計(jì)問(wèn)題，我們得到了一些有用的結(jié)論，為進(jìn)一步開(kāi)展的研究提供了一些有用的參考。</p><p>　　2基于充分統(tǒng)計(jì)量的粒子濾波方法</p><p>　　粒子濾波方法是非線性濾波理論的最新發(fā)展成果，能夠?qū)崿F(xiàn)非線性、非高斯條件下對(duì)

52、系統(tǒng)狀態(tài)的有效估計(jì)，代表著非線性濾波的主流方向.該方法的一個(gè)主要缺陷是計(jì)算復(fù)雜，在同樣精度下，其計(jì)算量通常比擴(kuò)展卡爾曼攤波方法高出2、6個(gè)數(shù)量級(jí)。在基本的粒子濾波過(guò)程中，為了解決采樣粒子的性能退化問(wèn)題，必須使用重采樣程。重采樣過(guò)程在抑制性能退化現(xiàn)象的同時(shí)，消耗了大量的計(jì)算資源，并帶來(lái)粒子枯竭問(wèn)題。對(duì)于后驗(yàn)概率密度函數(shù)滿足高斯分布的情況，Kotecha等lal提出高斯粒子濾波方法，通過(guò)均值和方差的遞推估計(jì)，實(shí)現(xiàn)了后驗(yàn)概率密度函數(shù)的更新，由

53、于濾波過(guò)程中新的采樣粒子總是從連續(xù)的而非離散的分布函數(shù)中獲得，因而不會(huì)發(fā)生粒子退化現(xiàn)象，也不需要進(jìn)行重采樣過(guò)程，從而降低了計(jì)算需求。Story正提出基于充分統(tǒng)計(jì)量的參數(shù)估計(jì)方法，但該方法對(duì)于充分統(tǒng)計(jì)量的更新僅適用于高斯——逆伽瑪分布，不具有普遍性。而基于充分統(tǒng)計(jì)量的粒子濾波方法，將高斯粒子濾波方法擴(kuò)展到所有后驗(yàn)概率密度函數(shù)可以用充分統(tǒng)計(jì)量描述且充分統(tǒng)計(jì)量易于更新的情形。最后，將該方法應(yīng)用于狀態(tài)和參數(shù)的聯(lián)合估計(jì)問(wèn)題，仿真實(shí)驗(yàn)結(jié)果驗(yàn)證SSP

54、F方法的有效性。</p><p>　　在統(tǒng)計(jì)學(xué)中，充分統(tǒng)計(jì)量是一種重要的維數(shù)縮減(dimension reduction)技術(shù)，它可以將復(fù)雜的觀測(cè)數(shù)據(jù)簡(jiǎn)化為數(shù)量較少的參數(shù)集合，方便問(wèn)題的分析與處理.</p><p>　　定義1函數(shù)Tk(z1:k)稱作是隨機(jī)變量丸的一個(gè)充分統(tǒng)計(jì)量，如果Tk(z1:k)包含的關(guān)于Xk的信息等價(jià)于數(shù)據(jù)集合z1:k包含的關(guān)于Xk 的信息，即</p>

55、<p>　　那么一旦得到Tk(z1:k)，數(shù)據(jù)集合Z1:k中將不再包含關(guān)于Xk的任何其它信息。關(guān)于充分統(tǒng)計(jì)量的求解和判斷，可以按照以下定理確定。</p><p>　　定理1(Neyman一Fisher因子分解定理)如果能夠?qū)⒏怕拭芏群瘮?shù)p(Xk/Z1:k)分解為</p><p>　　其中函數(shù)g只有通過(guò)Tk(z1:k)后才與z1:k有關(guān)，h只是Z1:k的函數(shù)，那么Tk(z1:k)是

56、Xt的充分統(tǒng)計(jì)量。反之，如果Tk(z1:k)是Xk的充分統(tǒng)計(jì)量，那么p(Xk/z1:k)可以分解為上式。</p><p>　　在粒子濾波方法中，如果后驗(yàn)概率密度函數(shù)滿足定理1，則可以利用粒子濾波中各階矩信息易于估計(jì)的特點(diǎn)，首先求解各階矩信息，然后更新充分統(tǒng)計(jì)量.</p><p>　　在粒子濾波方法中，一階原點(diǎn)矩可以通過(guò)以下公式求解</p><p>　　特別地，一階原

57、點(diǎn)矩拌又稱為估計(jì)的均值，二階中心矩m:又稱為方差.得到各階矩信息之后，利用充分統(tǒng)計(jì)量和各階矩信息之間的聯(lián)系，可以求出新的充分統(tǒng)計(jì)量.這里將充分統(tǒng)計(jì)量與各階中心矩之間的關(guān)系總結(jié)在表1中.</p><p>　　根據(jù)以上充分統(tǒng)計(jì)量的更新方式，假設(shè)在k-1時(shí)刻，存在關(guān)于系統(tǒng)狀態(tài)Xk-1，的充分統(tǒng)計(jì)量Tk-1=Tk-l(z1:k-1)可以得到基于充分統(tǒng)計(jì)量的粒子濾波步驟如下：</p><p>　　在

58、濾波過(guò)程中，任一時(shí)刻的參數(shù)粒子集合由更新后的充分統(tǒng)計(jì)量所確定的概率密度函數(shù)重新生成，與上一時(shí)刻的粒子集合無(wú)關(guān)，因而能夠完全避免粒子枯竭現(xiàn)象，不再需要重采樣過(guò)程.然而，該方法的使用必須滿足兩個(gè)條件</p><p>　　(l)存在充分統(tǒng)計(jì)量Tk-1，使得p(Xk/z1:k)=p(Xk/T(z1:k));</p><p>　　(2)充分統(tǒng)計(jì)量乙易于更新.</p><p>

59、　　針對(duì)粒子濾波方法的重采樣過(guò)程導(dǎo)致粒子多樣性喪失、計(jì)算量增大的問(wèn)題，基于充分統(tǒng)計(jì)量的粒子濾波方法，應(yīng)用于系統(tǒng)狀態(tài)的后驗(yàn)概率密度函數(shù)可以用充分統(tǒng)計(jì)量描述且充分統(tǒng)計(jì)量易于更新的情況.基于充分統(tǒng)計(jì)量的粒子濾波方法通過(guò)充分統(tǒng)計(jì)量的傳遞代替后驗(yàn)概率密度函數(shù)的更新，能夠避免粒子枯竭現(xiàn)象，不再需要重采樣過(guò)程，降低了計(jì)算負(fù)擔(dān);而且，該方法能夠進(jìn)行并行化處理，易于在超大規(guī)模集成電路上實(shí)現(xiàn)，具有較高的實(shí)用價(jià)值.</p><p>&

60、lt;b>　　[結(jié)論]</b></p><p>　　通過(guò)對(duì)充分統(tǒng)計(jì)量的研究及證明，充分統(tǒng)計(jì)量在各領(lǐng)域參數(shù)估計(jì)中有著廣泛的應(yīng)用，在某些方面具有特殊的優(yōu)勢(shì)。基于充分統(tǒng)計(jì)量的參數(shù)估計(jì)方法具有良好的應(yīng)用特性。 通過(guò)研究有關(guān)參數(shù)的估計(jì)問(wèn)題，我們可以得到一些有用的結(jié)論，為進(jìn)一步開(kāi)展的研究提供了一些有用的參考。</p><p><b>　　[致謝語(yǔ)]</b><

61、;/p><p>　　在這次課程實(shí)習(xí)過(guò)程中，首先感謝老師的耐心指導(dǎo)，在老師的幫助下，我們學(xué)會(huì)了怎么思考，怎么寫好一篇論文，還有感謝小組同學(xué)的積極配合，大家一起討論，對(duì)于不同的問(wèn)題，都能很好的發(fā)表自己的觀點(diǎn)，讓我們能夠?qū)W會(huì)從不同的方位思考問(wèn)題。由于作者水平和時(shí)間有限，文中難免有不當(dāng)甚至錯(cuò)誤之處，懇請(qǐng)讀者批評(píng)指正</p><p><b>　　[參考文獻(xiàn)]</b></p&g

62、t;<p>　　[1]趙選民，徐 偉，師義民，秦超英. 數(shù)理統(tǒng)計(jì)[M]. 北京：科學(xué)出版社，2002</p><p>　　[2]茆詩(shī)松，程依明，濮曉龍. 概率論與數(shù)理統(tǒng)計(jì)教程[M]. 北京：高等教育出版社，2011</p><p>　　[3]陳希儒. 數(shù)理統(tǒng)計(jì)引論[M]. 北京：科學(xué)出版社，1999</p><p>　　[4]于義良，羅蘊(yùn)玲，安建業(yè).

63、 概率統(tǒng)計(jì)與SPSS應(yīng)用[M]. 西安：西安交通大學(xué)出版社2009</p><p>　　[5]何鵬光. 充分統(tǒng)計(jì)量的證明及其相關(guān)結(jié)論[J]. 阜陽(yáng)師范學(xué)院學(xué)報(bào)(自然科學(xué)版)2006年9月，第23卷第3期</p><p>　　[6]尹燦斌，賈鑫. 充分統(tǒng)計(jì)量在數(shù)字信號(hào)處理中的應(yīng)用研究[J]. 宇航計(jì)測(cè)技術(shù)，2006年6月，第26卷第3期</p><p>　　[7]侯代