數(shù)值分析 第5章 矩陣分析基礎(chǔ)

1、§5.1 向量和矩陣的范數(shù),1．向量的范數(shù),定義1：設(shè)X ? R n，??Ｘ?? 表示定義在Rn上的一個實(shí)值函數(shù)，稱之為X的范數(shù)，它具有下列性質(zhì)：,（3）三角不等式：即對任意兩個向量X、Y? R n，恒有,(1) 非負(fù)性：即對一切X ? R n，X ? 0, ??Ｘ?? >0,(2) 齊次性：即對任何實(shí)數(shù)a ? R，X ? R n，,設(shè)X = (x1, x2,…, xn)T，則有,（1）,（2）,（3）,三個常用的范數(shù)

2、：,范數(shù)等價: 設(shè)‖·‖A 和‖·‖B是R上任意兩種范數(shù)，若存在 常數(shù) C1、C2 > 0 使得 , 則稱 ‖·‖A 和‖·‖B 等價。,定理1：定義在Rn上的向量范數(shù) 是變量X分量的 一致連續(xù)函數(shù)。,推論：Rn上定義的任何兩個范數(shù)都是等價的。,對常用范數(shù)，容易驗(yàn)證下列不等式：,定義2：設(shè)給定Rn中的向量

3、序列{ }，即,其中,若對任何i (i = 1, 2,…, n )都有,則向量,稱為向量序列{ }的極限，或者說向量序列{ }依坐標(biāo)收斂于向量 ，記為,定理3：向量序列{Xk}依坐標(biāo)收斂于X*的充要條件是,向量序列依范數(shù)收斂與依坐標(biāo)收斂是等價的。,2．矩陣的范數(shù),定義3：設(shè)A為n 階方陣，Rn中已定義了向量范數(shù) ， 則稱 為矩陣A 的算子范數(shù)或模， 記為

4、 。即,矩陣范數(shù)的基本性質(zhì)：,（1）當(dāng)A = 0時， ＝0，當(dāng)A ? 0時， > 0,（2）對任意實(shí)數(shù)k 和任意A，有,（3）對任意兩個n階矩陣A、B有,（5）對任意兩個n階矩陣A、B，有,（4）對任意向量X?Rn，和任意矩陣A，有,例5:,設(shè)A＝(aij)∈M. 定義,證明：這樣定義的非負(fù)實(shí)數(shù)不是相容的矩陣范數(shù).,證明：設(shè),從而,定理4：設(shè)n 階方陣A = (aij)n?n，則,（Ⅰ）與 相容的矩陣范數(shù)

5、是,（Ⅱ）與 相容的矩陣范數(shù)是,其中?1為矩陣ATA的最大特征值。,（Ⅲ）與 相容的矩陣范數(shù)是,上述三種范數(shù)分別稱為矩陣的1-范數(shù)、2-范數(shù)和∞-范數(shù)。,可以證明, 對方陣 和 ，有,注：（1）,（2）,矩陣的Frobenius范數(shù)不是算子范數(shù)。,3．矩陣的范數(shù)與特征值之間的關(guān)系,定理5：矩陣A 的任一特征值的絕對值不超過A的范數(shù)，即,定義4：矩陣A 的諸特征值的最大絕對值

6、稱為A的譜半徑，,記為：,并且如果A為對稱矩陣，則,注:Rn×n中的任意兩個矩陣范數(shù)也是等價的。,定義5： 設(shè)|| · ||為Rn×n上的矩陣范數(shù)，A,B∈Rn×n,稱 ||A-B||為A與B之間的距離。,定義6：設(shè)給定Rn×n中的矩陣序列{ }，若,則稱矩陣序列{ }收斂于矩陣A，記為,定理6 設(shè)B∈Rn×n，則由B的各冪次得到的 矩陣序列Bk, k

7、=0,1,2…)收斂于零矩陣 （ ）的充要條件 為 。,,,,4. 矩陣的條件數(shù),定義5 設(shè)矩陣,為非奇異矩陣，則稱,對矩陣 的任意一個算子范數(shù),有,(2) cond ( kA )= cond ( A ) , k 為非零常數(shù);,(3)若 ， 則,常用條件數(shù)有：,cond (A)2,特別地，若 A 對稱，則,,,§ 5.

8、2 初等矩陣,初等矩陣對線性方程組的研究起著重要的作用，本節(jié)介紹一般形式的初等矩陣，它是矩陣計算的基本工具。,5.2.1 初等矩陣,定義6 設(shè)向量,，則形如,,為初等下三角陣。,,,,定理5.2.1 初等下三角陣,具有如下性質(zhì)：,(1) ；,5.2.2 初等下三角矩陣,定義7 令向量,則稱矩陣,,,,對角陣和若干個下三角陣的乘積。,初等下三角陣在矩陣的

9、滿秩分解、三角分解以及解線性代數(shù)方程組的直接解法中起著重要的作用。,(2),為單位下三角陣 ；,5.2.3 Householder矩陣,定義8 設(shè)向量,，且,，稱形如,,為Householder矩陣，或稱Householder變換、反射矩陣。,,,(1) 矩陣,是對稱陣，即 ；,,,,,,,定理5.2.3 對任意的非零向量,,，可以適當(dāng)選擇合適的,,,,,,其中，,是實(shí)數(shù)，并且,定義9 將,階單位陣,改變第

10、,,行和第,列的四個,元素得到矩陣,5.2.4 Givens旋轉(zhuǎn)矩陣,稱為Givens旋轉(zhuǎn)矩陣，或稱Givens變換，,為旋轉(zhuǎn)角。,,,，,,其中，,，可得,,5.2.5 Hessenberg矩陣,定義10 若實(shí)矩陣,的次對角線以下元素均為零，即,時，,，稱形如,的矩陣,為上Hessenberg（海森伯格）陣，或擬上三角陣。,不可約的上Hessenberg陣。,為上Hessenberg陣。,5.2.6 對角占優(yōu)陣,定義12 設(shè)

11、矩陣,，若,,,定理5.2.5 （對角優(yōu)勢定理） 若矩陣,為嚴(yán)格對角占優(yōu)陣，,或者為不可約且弱對角占優(yōu)陣，則,若,歷史與注記,阿爾斯通·豪斯霍德(Alston Scott Householder，1904–1993 )Householder 1904 年生于美國伊利諾州的洛克福特。1937 年取得了芝加哥大學(xué)博士學(xué)位之后他獲得洛克菲勒基金會的資助，在芝加哥大學(xué)從事研究， 1944年被提升為數(shù)學(xué)和生物物理學(xué)的副教授。二戰(zhàn)

12、后他為美國海軍研究實(shí)驗(yàn)室作數(shù)學(xué)顧,問，他的研究興趣轉(zhuǎn)向數(shù)值計算，不久，他又轉(zhuǎn)移到位于Oak Ridge，Tennessee 的著名的國家實(shí)驗(yàn)室，從事與原子能和武器有關(guān)的并行計算的研究。他于1954～1956年間出任ACM的主席，1963—1964年又出任工業(yè)與應(yīng)用數(shù)學(xué)學(xué)會SIAM的主席。豪斯霍德1969年獲Harry Goode獎，他是美國藝術(shù)和科學(xué)院院士。1980 年獲得計算機(jī)先驅(qū)獎。,Householder 的主要貢獻(xiàn)在數(shù)據(jù)

13、處理技術(shù)方面，他的研究領(lǐng)域主要是數(shù)值分析、數(shù)值代數(shù)、生物數(shù)學(xué)，尤其是計算機(jī)在生物醫(yī)學(xué)和生理學(xué)方面的應(yīng)用。1958年，他發(fā)明了“矩陣反演”(matrix inversion)，可用以當(dāng)圓錐曲線(也就是二次曲線)在n維空間中其坐標(biāo)軸發(fā)生旋轉(zhuǎn)時找出其基本不變式。,精品課件！,精品課件！,而在用最小二乘法(1east—squares)對矩陣進(jìn)行近似計算時，目前常用到的一種變換法也是由豪斯霍德創(chuàng)造的，因而被稱為Householder tra

14、nsformation”。此外， Householder 還是系統(tǒng)使用“范數(shù)”作為數(shù)值方法分析理論工具的先驅(qū)者。,關(guān)于范數(shù)的概念各種中文著作和文獻(xiàn)都有詳細(xì)的介紹，條件數(shù)的概念是20世紀(jì)40年代由圖靈提出，詳細(xì)資料參見文獻(xiàn)[1],條件數(shù)估計的概論參見文獻(xiàn)[2]，Turnbull和埃特金Aitken)在1932年就已經(jīng)使用過初等反射，即現(xiàn)在的Householder變換，是1958年由Householder發(fā)表的。1965年，Golub在求