支持向量機模型研究及應用

1、遼寧師范大學碩士學位論文支持向量機模型研究及應用姓名：梁宏霞申請學位級別：碩士專業(yè)：計算機應用指導教師：閆德勤20090501A b s t r a c t S V Mi s a n e w m a c h i n el e a r n i n gt e c h n o l o g yw h i c h w a sd e v e l o p e di nm i d d l eo f 9 0 ”．D i f f e r e n tf r

2、o mt r a d i t i o n a ln e u r a ln e t w o r k t e c h n o l o g y ．S V Mi Sb a s e do n s t a r i s t i c s l e a r n i n g t h e o r y ( S L T ) ．S u f f i c i e n t s a m p l e i S an e c e s s a r y p r i o rc o n

3、d i t i o nf o r t r a d i t i o n a ls t a t i s t i c - s l e a r n i n g ，b u tS L Tf o c u so n s m a l ls a m p l ea n di t sr e g u l a t i o no r s t u d y m e t h o d ，w h i c hi n s t i t u t e sa r o b u s tt h

4、 e o r e t i c a lf r a m et o m a c h i R e l e a r n i n g ．P r a c t i c e s h o w s t h a t d u e t o S i m p l e s t r u c t u r e a n d h i g ht e c h n i c a lp e r f o r m a n c ee s p e c i a l l yt o g e n e r

5、a l i z a t i o na b i l i t y ，S V M s o l v e ss m a l ls a m p l e p r o b l e mm o r ep o w e r f u l i n r e a l i t y ．A tp r e s e n t ，S V M b e c o m e sa h o tt o p i ca m o n g m a c h i n el e a r n i n g a r

6、 e a i n i n t e r n a t i o n a l i t y ．T h i S p a p e r m a i n l Yd i s c u s s e ss e v e r a la s p e c t s a s f o l l o w s ：1 ) B ys t u d y i n ga n da n a l y z i n gf u z z ys e t t h e o r ya n dp r o b a b

7、 i l i t yt h e o r y ，t h ep a p e r c o n s t i t u t i o n a m o d e l n a m e d p r o b a b i l i t y f u z z y s u p p o r t v e c t o rm a c h i D e ( P F S V M ) ，w h i c hc a n r e d u c e o rv a n i s ht h e a f

8、 f e c t i o n o fo u t l i e ro rn o i s y d a t at o t h ew h o l et r a i n i n gs a m p l e ，a l S Om a k e su p f o rd e f i C i e n c i e so fF S V M ．N e wm o d e lP F S V Mc o n s i d e r sc l u s t e r i n gc h

9、a r a c t e r i s t i ca s w e l la s p r o b a b i l i t yd i s t r i b u t i o no ft h ed a t a ，f u l l yr e f l e c t st h ed i f f e r e n tr o l e so fd a t as a m p l e st oo b t a i na m o r er e a s o n a b l e

10、c l a s s i f i c a t i o n h y p e r p l a n e ．2 ) A p p l y i n gP F S V Mt o i m a g er e t r i e v a lc o u l ds o l v es m a l l s a m p l e p r o b l e mi nc o n t e n t —b a s e d i m a g e r e t r i e v a l r e

11、l e v a n c e f e e d b a c k p r o c e s s ．T h e n e w a d v a n c eP L —’P F S V M a l g o r i t h mh e l p s t o s o l v en o t o n l y s m a l 1 s a m p l e p r o b l e mi n r e l e v a n c ef e e d b a c k b u ta l

12、 S O e f f e c t i v e l ya p p l y t o c o m p l i c a t e ds e m a n t i c i m a g er e t r i e v a l ．M e m b e r s h i pa n dp r o b a b i l i t yv a l u ec o n t r o l l i n gP F S V Mt o t r a i na n ds t u d yt o

13、g e t h e rm a k e s a h i g h p e r f o r m a n c ei n i m a g er e t r i e v a lf e e d b a c k ．3 ) T oo b t a i n c r y p t i ci n f o r m a t i o n o fs a m p l e ，t h i sp a p e rp r o p o s e s a n e w m o d e l —

14、r o u g hs u p p o r t v e c t o rm a c h i n e ( R S V M ) w h i c hw e l l c o m b i n e sr o u g hs e t t h e o r ya n ds u p p o r tv e c t o rm a c h i n et h e o r y ．I t c a nc l e a r l ye m b o d ye q u i v a l