大連理工大學(xué)研究生企業(yè)專業(yè)實踐報告

1、大連理工大學(xué) 大連理工大學(xué)企業(yè)專業(yè)實踐報告 企業(yè)專業(yè)實踐報告學(xué) 部（院） ：信息與通信工程學(xué)院專 業(yè)：學(xué) 生 姓 名：學(xué) 號：指 導(dǎo) 教 師：完 成 日 期：2018.03.20大連理工大學(xué)Dalian University of Technology企業(yè)專業(yè)實踐報告標(biāo)數(shù)據(jù)存在分布差異。除此之外，在許多建立分類模型訓(xùn)練的應(yīng)用環(huán)境中，可能沒有足夠的標(biāo)記數(shù)據(jù)， 這就需要人工對這些數(shù)據(jù)進行標(biāo)注以獲得分類器需要的訓(xùn)練數(shù)據(jù)。而手動標(biāo)注數(shù)據(jù)既耗時又

2、費力，這是實際應(yīng)用中的一個難題，然而如果不滿足這些條件分類器的性能就會降低， 因此充分利用相關(guān)領(lǐng)域的分類信息來幫助解決目標(biāo)域的分類任務(wù)是非常有意義的。 遷移學(xué)習(xí)由于放寬了訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)分布相同這一假設(shè)， 可以將相關(guān)領(lǐng)域的知識或者模型遷移到目標(biāo)領(lǐng)域來幫助目標(biāo)領(lǐng)域的學(xué)習(xí)任務(wù)，這樣就可以解決跨域?qū)W習(xí)問題。目前，遷移學(xué)習(xí)已經(jīng)成為機器學(xué)習(xí)研究領(lǐng)域的熱點之一。 在提高機器學(xué)習(xí)效率， 提高現(xiàn)有算法性能和算法實用性方面， 遷移學(xué)習(xí)具有重要意義。 遷

3、移學(xué)習(xí)被認(rèn)為是在最低成本的人工監(jiān)督下的機器學(xué)習(xí)的一種新策略。 在計算機視覺， 自然語言處理和生物信息學(xué)等標(biāo)注數(shù)據(jù)稀缺或者無標(biāo)注數(shù)據(jù)的目標(biāo)領(lǐng)域，遷移學(xué)習(xí)具有很強的現(xiàn)實需求。4. 問題描述給定一個標(biāo)記的源域和學(xué)習(xí)任務(wù)， 一個無標(biāo)記的目標(biāo)域和學(xué)習(xí)任務(wù)， 假設(shè)它們的邊緣概率和條件概率都不相同， 學(xué)習(xí)一個新的特征表示使得邊緣概率分布和條件概率分布之間的差異同時最小化， 從而利用源域中的知識來提高目標(biāo)域中的目標(biāo)預(yù)測函數(shù)的性能。大多數(shù)現(xiàn)有方法只最小化

4、領(lǐng)域間的邊緣概率分布， 而僅匹配邊緣分布并不能獲得足夠好的的遷移學(xué)習(xí)性能， 因為源域和目標(biāo)域間的判別分類面很有可能并不相同， 領(lǐng)域間的條件分布距離也應(yīng)最小化。 雖然目標(biāo)領(lǐng)域的邊緣概率分布可由核密度估計得到近似擬合， 但是因為目標(biāo)域中沒有標(biāo)記的數(shù)據(jù)， 所以條件概率分布無法準(zhǔn)確估計。根據(jù)概率論，主要的計算問題是最小化聯(lián)合概率分布間的距離，通過同時最小化邊緣概率分布之間的距離以及條件概率分布之間的距離， 實現(xiàn)聯(lián)合概率分布的適配。5. 實驗方法

5、首先需要對源域和目標(biāo)域的特征進行降維重構(gòu)， 在源域和目標(biāo)域的樣本中學(xué)習(xí)得到一個共同的跨域子空間， 即通過非線性降維， 將源域和目標(biāo)域高維數(shù)據(jù)通過正交變換映射到低維的子空間， 在這個子空間中源域和目標(biāo)域擁有相近的分布且每個樣本都有緊湊的特征表示。為了簡單和一般性，選擇主成分分析（PCA）進行數(shù)據(jù)重建。PCA 是一種線性映射方法，降維后的表示是由線性映射生成的，而且 PCA方法是基于觀測數(shù)據(jù)的協(xié)方差矩陣的計算來對數(shù)據(jù)進行處理的， 僅涉及數(shù)據(jù)