|
|
EDA365欢迎您登录!
您需要 登录 才可以下载或查看,没有帐号?注册
x
. n Z$ Z* d# i论文提出了一种解决大规模稀疏问题的多目标算法,大规模稀疏存在于许多领域:机器学习、数据挖掘、神经网络。: {( Y3 m! C a
作者主要讨论了四个具体的问题
$ w: c; u2 x( f- ①特征选择
- ②模式挖掘
- ③关键节点检测
- ④神经网络训练 A, ?- p$ a i) o3 o% N
上面四个问题虽然存在于不同领域,但是它们都属于多目标问题,它们的pareto面的解集都是稀疏的。举例来说,对于大规模特征选择问题,10000维中只能选取不到100个,压缩率达到了99%,是典型的稀疏问题。
8 I9 o4 {/ ]* @* c: S( z9 R1 V( ^) O$ U/ _: |# E+ M
具体问题' k& B& h( v- z- L2 b" K
7 T- O0 @1 y X
. W7 Y, Q/ Z/ h6 ^$ X4 o; E/ `$ P
1 f4 e% `) Y! _! L3 Y4 a, S3 K
* `/ y( R& q7 s0 ^
' I! S8 R& E! x9 l% q' ^; p. Q$ M2 F, [- w/ O- W& } q
算法的贡献3 R* K+ I" ^' g1 G7 r0 U n
0 C9 i. }+ t @7 J X- _; ^: L, G, d
- ①设计了新的种群初始化策略(根据稀疏大规模特性,能够获得一个很好的前沿面)
- ②设计了新的基于pareto解集稀疏性的遗传算子" K* X, c; x) i: k
3 Q5 w# H4 y* O; e) f4 t
: ?- j& h* i" }0 c9 j n s具体算法& f1 x# o- }( J2 F+ ^
2 p' M1 T& S9 F5 {" ]" m
算法框架
7 U- E$ i* d S0 u2 ^
% o3 h1 P1 x4 j* p' S类似于NSGA2的框架8 y, }( q, P: Z$ ^" A* Z U
- m2 Q% K; S: L) r
! Z5 @) Q* [7 ?! k3 c
% w+ c6 `7 j# j
C6 g( Y, t3 [- s) Z4 P初始化策略
( [* M7 I3 Y# b0 T4 M" B1 e1 M! K( f
为了集成两种编码,需要引入两个向量,一个是决策变量向量dec (实际上是进化的解,对于01编码来说,可以全置1),另一个是掩码向量mask(实际上一个01向量,用来记录每个维度的好坏,好的置1),最终的决策变量是两者的内积。
% \1 o/ k/ {# p* p! F* \, x, G
2 x3 i( i% j1 ~2 _$ S
, R0 u3 Q6 f) x; s0 t
/ _; m$ x5 z7 Q4 f3 a经过初始化后的结果:
6 _3 B' |# D/ j0 z1 r& U0 X, s
8 A7 [! B8 h i$ P3 f @, S8 v! |
' a4 D7 g" @7 b. u. c
$ @' c V: x* ` e可以看到,通过该初始化策略,获得一个一个近似于pareto面的良好分布。
/ M2 X8 }5 t6 z# w7 M4 T3 |" F4 a& u& z: w( g W
8 i+ U2 S$ d7 L3 x; G g. c2 [4 U3 F交叉变异算子6 \# O0 }% x/ X% C7 Y0 A$ l- n2 Y
5 p$ y3 s2 _" {5 C! S$ R; b这个交叉变异是算法的核心,它每次在二进制向量mask中,以同样的概率每次在0元素中翻转一个元素,或者在非0元素中翻转一个元素,翻转是根据决策变量的适应度值进行的。因此,生成的子代不会有同样数量的0和1,并且可以保持子代的稀疏度。- f$ S: V, C, C% z
+ k$ R% H0 |/ G: X
+ [+ R# Q+ r/ `9 m+ k1 i# u
9 ]: P+ B, z' O4 [* w采用交叉变异后的结果:; |' y( J) _$ S$ m8 y0 I' D) F
% a& M; F1 J* `7 S4 E0 G
5 J6 j1 X" j0 D) C9 p- \
; n7 H( ^% o T8 i可以看到,通过此策略,提高了稀疏度,被置为1的维度越来越少。
) r. y+ t0 }! ?! q& @ M9 x) g& ~" i0 W0 C, t8 X3 A" [. w0 S8 n2 @% N
% P8 e5 k T; I& c# n+ i
其他0 u$ K# n0 @: O( }6 d
2 a1 G; R1 l( I$ i! B" N对于实验部分,作者设计了具体的测试套件,结果也非常乐观,在此不赘述。" w% @" C4 Q, r# K: \; U" {( k5 Y! o
|
|