Matlab建模学习笔记1——Logistic回归模型

一篇九月份建模比赛对我帮助很大的文章，特此转载

---------------------------------------------------------------------------------------------------------------

logistic regression属于概率型非线性回归，它是研究二分类观察结果与一些影响因素之间关系的一种多变量分析方法。例如，在流行病学研究中，经常需要分析疾病与各危险因素之间的定量关系，为了正确说明这种关系，需要排除一些混杂因素的影响。对于线性回归分析，由于应变量Y是一个二值变量（通常取值1或0），不满足应用条件，尤其当各因素都处于低水平或高水平时，预测值Y值可能超出0～1范围，出现不合理都现象。用logistic回归分析则可以较好的解决上述问题。Logistic回归模型的基本形式如下：

因此，对因变量P按照ln（P/（1-P））的形式进行对数变换，可以将Logistic回归问题转化为线性回归问题，在按照多元线性回归的方法求解回归参数。对于P取值只有0和1的情况，在实际中不是直接对P进行回归，而是先定义一个单调连续的概率函数π：
, L# E0 H/ v) K3 U9 |

此时Logistic模型为：
' s" }4 C' j& e- J  ~+ [; X" Q

然后只需要对原始数据进行合理的映射处理，就可以用线性回归方法得到回归系数，最后再根据π和P的映射关系进行反映射得到P的值。 # `+ e  k5 Q) \$ m
下面是书中的一个例子，评估企业的还款能力，已知前20家企业的评价指标和评价结果，要求对剩余5家企业进行评估。数据如下：   I8 y! {$ o* g6 Z2 W) v

Π到P的映射关系：
9 C8 l. ^4 X& p3 l" B8 s9 d

Π值的确定：
7 t8 _) s" I4 {* S( y

Matlab代码如下：

• 
  * I( y3 t2 B/ {) [, s- i, B6 o& y4 O
  / d$ c6 O+ S( }' b3 P3 ^, X- s% gclear all2 j4 [6 w/ ^! `. Q; E
  ) D) \  V9 X" q. [9 U( L( Y( o
  
• 
  , A) h0 D1 k. ]3 D  t7 e; Q; F7 ?6 o! `! o) O4 i1 s
  clc* B" q- I9 \7 x" u- Y/ j3 j0 |. g6 w
  " o; |- f$ p& ?' h
  
• & ]* D; ~+ K: n
  
  ( A" Z6 i. g" r( \1 b7 T" \; A( i' r" _6 y%数据格式
  1 \3 Q$ }( c' i6 Z. Q, ~8 o+ a5 Q# X2 a& |
  
• 2 Y. I: T1 u7 S6 U
  1 c! Z5 H& a9 ^" }9 _
  format long: n2 L5 e+ b" l* }! m0 \
  
  6 O9 D$ y3 R6 z
• 3 d/ y( s" Y4 D, m- m  I
  
  2 Z( _' e* u) z- q* o; p/ y; M%前20组数据
  " l0 Z* A8 v7 v( q% c& v2 C
  & ~& {$ a9 y/ M) B* Z+ ~8 _+ k
• 
  8 V" k4 e- ?8 R
  3 ~  v3 d: e. o# Q  _/ e* ]; \" [X0=xlsread('D:\资料库区\大三上\HUAWEI\MATLAB\11Logistic.xls','E4:G23');  k% x# O% w+ I. P6 a
  ! B$ E2 @  x1 B
  
• 9 B# j  M- L" M9 U5 }
  ; G/ H7 h/ f3 ~7 q
  %全部25组数据：验证和回归; Y& f' k3 M0 E8 l6 X
  
  ' z: b0 n# Y& |: t% ^
• * s2 V7 L3 D' ^) V
  ( ^* I- c9 s+ A3 u( L) X
  XE=xlsread('D:\资料库区\大三上\HUAWEI\MATLAB\11Logistic.xls','E4:G28');
  8 {( h  r6 f! `$ Z' b7 Z, x* m9 r9 V/ z5 y: h7 s6 c% d
  
• 
  / o, k, R: r0 }% W' r+ r, [! L$ s
  ' H$ D5 F1 p. Q; l%前20组评估的数据值：P- t5 ?, W  O  w
  8 Q, N# t8 f( P0 p( }
  
• # \/ t) ~0 x! \. X- i
  
  1 u7 i5 X7 R: z- H" H: b/ ]. T6 R1 YY0=xlsread('D:\资料库区\大三上\HUAWEI\MATLAB\11Logistic.xls','H4:H23');
  1 t" m. v7 @& M* c7 D/ Z- Y
  & P; M6 P3 e: \+ G
• ! n* J: i1 T/ o# \7 ~' e
  
  3 z! X+ c9 w2 I9 G! [+ }n=size(Y0,1);, l; @0 a* [% Q+ k/ f
  
  ; y# w0 T) R* {* D! q
• 
  / M. G5 Y3 g/ F( m, W; I3 c: S" i% g4 `+ U. T* _
  %π和P的映射关系" V. H+ I% g5 q2 i& F
  
  # d1 ~: i' v, d3 C+ m/ D- m
• 
  4 l& h+ A8 u& ]+ f4 z$ _, q; n7 f* F9 ^8 Z8 n
  for i=1:n
  " q7 @: ]! \, L. g9 @% j5 w3 B; T$ j5 e1 d- R' t
  
• 
  ( R& D$ @* _5 G$ D8 y( m, a' e
  - M7 e( e, f0 [" v) U/ H8 w    if Y0(i)==08 x, e0 k# ]( |7 Q5 w! z
  
  ; d1 Q% W- L# E: v: h
• ) |% [4 J! M' u1 n( G% t% g. J
  
  8 V- q3 E1 F5 P6 j$ v        Y1(i,1)=0.25;
  0 n0 U* L) `6 D/ F# F, V7 b1 h! n
  
• 
  ( [1 O! Y( H* ]8 H6 W5 }8 `/ f& W7 f3 f$ @
      else
  ( ?4 k$ _- o8 s4 X- J2 K9 `
  0 ~" {6 m) f' b. e7 C5 _+ k
• 
  " ]/ @5 N, P9 J" [, h4 t1 i" |+ x. _, b! R
          Y1(i,1)=0.75;
  9 N+ G, v( f) f+ u$ H1 T. U2 C3 M9 c* `) j* m& @3 s& f6 l. i
  
• 
  6 G3 u3 ~4 M0 f' [8 ?7 `
  0 O7 F9 M) l& N" n+ Y) _' O! F* }) }# V    end& C# a) |, w' }  ^% Z1 |
  " v1 D' }0 M, Q- e; z- s
  
• 3 ^7 e$ ]& x8 T/ q
  ! X( x7 }+ P' N$ a; ]1 z5 L
  end) A: m, a2 G# J) z
  
  ! F) Z# Q0 v2 d" O' E0 ^8 ?
• 
  6 B2 P8 h: ]6 P" ?  p8 s% z, R" @2 Q: r5 a' C% a, \
  %构建常系数  k( r4 u( E+ }
  $ {% c. A5 P3 i0 d1 E: w: e0 P
  
• 2 u7 c  \4 O# s6 K5 j/ c) U
  8 A$ p  K/ `4 e0 `# [& J* r
  X1=ones(size(X0,1),1);1 K, Y' F( u2 `. M9 U* l
  
  5 u4 @( X7 A- s6 W' N4 a% L9 c
• . a; F- X4 S6 s# {
  
  % f; _1 O) F5 }5 U: a5 xX=[X1,X0];
  4 o# b% C1 t- Z4 C
  1 b- E: m/ j. w: A+ g
• % R# g4 G* B+ {4 `+ ~- B' ?
  
  ; t( C/ h8 `& v) ]1 t& MY=log(Y1./(1-Y1));3 U9 \% u, O7 w! q3 v
  
  ! N6 K2 V8 f6 {! u, d! a+ {
• $ G( s4 p* q" P* r% [' k
  
  & k' q, g( j* n) tb=regress(Y,X);+ R! d) K* m9 H
  , ?" Y% I3 \: p8 n* f8 b$ V
  
• 
  & B# g% p' X7 ~
  / ~2 K. _  Y, q8 a9 w; z%模型验证的应用
  # j8 H- w, d0 k, U5 {$ \/ D+ \" G, @" d: t7 r; y
  
• 
  - |+ v" c4 H' P; T' |  C. u$ B: X2 A6 n' `+ n+ o8 {" E% o
  for i=1:size(XE,1)
  $ `+ W) p6 S/ c6 u8 ]# c4 P: S$ [6 t5 t0 m
  
• * R# Z& x2 y5 u$ X! {( [
  ( x9 j( V) v- d, f3 P/ ^
  pai0=exp(b(1)+b(2)*XE(i,1)+b(3)*XE(i,2)+b(4)*XE(i,3))/(1+exp(b(1)+b(2)*XE(i,1)+b(3)*XE(i,2)+b(4)*XE(i,3)));
  5 y: I) o& t1 l- V& p; S
  8 |* X8 i  x% R/ r' z$ h
• / z1 X% p3 M4 l: i5 E1 I
  ' Y% [' k/ R; ^0 R
      if(pai0<=0.5)9 {0 T$ C+ n( ?+ x
  2 H( U! _+ A1 m; Y6 l! N
  
• 
  $ x) n1 r4 s3 x$ f1 a/ H2 }- W" S$ H0 q. ~: t8 T! ]8 B" ~
          P(i)=0;# @1 @" `7 `  D$ M
  
  . O' z2 G  k- h4 t" N" w& J" u
• 
  ' s' u' l0 L$ ?) Z- W' Z
  / a- Z, ?( D) i% z    else
  7 J& Y2 t  {9 b! |' `' R
  ; D$ }! f0 ^4 g# u" W" g2 f
• ! c; g! |: g( }5 r8 ~) p: l8 ?
  . c: w  v9 X+ z, j' s
          P(i)=1;) D% N: k; u1 J8 [1 Z* I$ l
  0 S& j9 v3 c/ O% v  p; t5 s0 k
  
• / r9 T/ ~2 ~" S2 |1 u  Z+ {
  
  ' ^: c/ {9 ?- Q/ P+ U! c+ D    end
  ' _. }+ D4 a8 d4 b1 O
  7 `9 l1 m) n/ z0 @- D
• 
  , N. u" y, R* g1 S' u
  - P& x$ k( ?  t. a% Gend5 E6 C9 G2 e4 t5 X9 K7 H
  
  " F" Q2 @& V! P0 j) C, b
• 
  . o0 Y- c/ {7 i' v" ^8 `8 L0 v$ D1 E1 ?, q; x3 z+ [
  %回归结果/ |8 r# T; K9 S/ q+ u$ v
  0 o. j8 S) V6 s9 W
  
• 
  % c  |* c# g8 W0 R. b; R4 ?
  9 g; A" A' z$ Ldisp(['回归系数：' num2str(b') '  ']);
  & b/ T1 [: ~1 e/ r' I* k1 H0 i7 B  x. U% O. e6 I
  
• 8 P( V8 t* |! V! T0 O  i
  
  ) t! u  S) g, ~+ h: u: adisp(['评估结果：' num2str(P)  '   ']);
  , P- j% ~& j- Q: Y' \0 Z0 R6 M' d/ l8 u3 S4 C
  3 X% {/ `! \8 X$ y5 Y$ b
  

Matlab运行结果如下： - O7 d$ [8 j* t- z7 u3 z/ b7 W$ _

第一行即为该问题中回归模型的系数，带入即可得到回归模型，第二行为该模型的评估结果。