多個(gè)體系統(tǒng)分布式Push-sum次梯度優(yōu)化算法的研究.pdf

1、近年來，多個(gè)體系統(tǒng)在人工智能、生物界、網(wǎng)絡(luò)通信，衛(wèi)星定位方面有著廣泛的應(yīng)用，因此引起了國內(nèi)外眾多學(xué)者的濃厚興趣。隨著科學(xué)技術(shù)的發(fā)展反應(yīng)更為靈敏的，操作更為簡(jiǎn)單的分布式處理方法得到了人們的廣泛關(guān)注，因此多個(gè)體系統(tǒng)的分布式優(yōu)化算法得到了迅猛發(fā)展。多個(gè)體凸優(yōu)化算法就是借助于多個(gè)體系統(tǒng)模型解決其中的優(yōu)化問題，但如果系統(tǒng)中的個(gè)體在同一時(shí)刻進(jìn)行信息交互時(shí)，很容易出現(xiàn)信息擁塞，使信息不能及時(shí)的到達(dá)接收端，使得整個(gè)系統(tǒng)缺乏魯棒性并且與理想中的系統(tǒng)模型相

2、差較大，之前的算法將不再適用。因此解決上述問題在研究多個(gè)體系統(tǒng)的優(yōu)化問題上具有更重要的意義。
　　本文主要研究了有向切換網(wǎng)絡(luò)中的優(yōu)化問題，針對(duì)系統(tǒng)中的信息交互容易出現(xiàn)阻塞的情況提出了以下兩種解決方法:
　　一、研究信息異步交互情形下的多個(gè)體系統(tǒng)Push-sum次梯度優(yōu)化算法。對(duì)于有向切換網(wǎng)絡(luò)信息的同步交互即為在同一時(shí)刻系統(tǒng)中的所有個(gè)體在同一時(shí)刻相互交換信息，使得通信道路上信息量過大，從而導(dǎo)致阻塞甚至使得系統(tǒng)崩潰。因此，考慮系

3、統(tǒng)中的個(gè)體在某一時(shí)刻隨機(jī)的兩兩交換信息，而其他的個(gè)體保持上一時(shí)刻的信息不變，直到系統(tǒng)中的個(gè)體信息達(dá)到一致。這樣從根本上避免了系統(tǒng)中信息擁塞的情況，但上述方法將會(huì)延緩多個(gè)體系統(tǒng)達(dá)到一致狀態(tài)的速度。本文在次梯度有界和一致強(qiáng)連通的的情況下證明了所提出的異步交互的Push-sum次梯度優(yōu)化算法收斂，收斂速度為O(tne-Kt+lnt/√t)，該速度與系統(tǒng)中的個(gè)體數(shù)目和每次個(gè)體被選中的概率有關(guān)，比同步交互情況下的收斂速度較慢。
　　二、研究

4、具有通信時(shí)延情形下的Push-sum次梯度優(yōu)化算法。對(duì)于有向切換網(wǎng)絡(luò)中信息同步交互已經(jīng)使得系統(tǒng)阻塞或是由于實(shí)際的通信線路受損或是其他原因的系統(tǒng)中斷產(chǎn)生時(shí)延的情況，提出了帶有時(shí)延的Push-sum次梯度優(yōu)化算法，由于對(duì)帶有時(shí)延的優(yōu)化算法的收斂性分析具有一定的困難，本文采用系統(tǒng)擴(kuò)維的方法將帶有通信時(shí)延的算法轉(zhuǎn)化為無時(shí)延的算法然后再分析其收斂性。在已有的系統(tǒng)擴(kuò)維中，擴(kuò)維之后的鄰接矩陣的對(duì)角線元素均為正值，但本文所采用的擴(kuò)維方法不要求隨機(jī)鄰接矩

5、陣的對(duì)角線元素均為正值，有可能為0。并在時(shí)延有界、次梯度有界和有向切換網(wǎng)絡(luò)周期強(qiáng)連通的假設(shè)下理論證明了上述優(yōu)化算法收斂，但比無時(shí)延的情形下收斂速度要慢而且具有一定的誤差。隨后應(yīng)用MATLAB仿真證明了上述結(jié)論。
　　綜合上述，本文在次梯度有界和有向網(wǎng)絡(luò)圖是一致強(qiáng)連通的情況下證明了異步情形下的Push-sum分布式次梯度優(yōu)化算法收斂，并在時(shí)延有界、次梯度有界和有向切換網(wǎng)絡(luò)周期強(qiáng)連通的條件下證明了時(shí)延情形下的Push-sum分布式次梯