二分类Logistic回归分析(Binomial Logistic Regression Analysis)——SAS软件实现

发布于 2022年1月1日 星期六 21:44:00 浏览:6383
原创不易,转载请注明来源,感谢!
附件下载:
二分类Logistic回归分析.zip 请勿重复点击,如无响应请耐心等待或稍后再试。

在前面文章中我们介绍了二分类logistic回归分析(Binomial Logistic Regression Analysis)的假设检验理论,本篇文章将实例演示在SAS软件中实现二分类logistic回归分析的操作步骤。

关键词:SAS; 二分类logistic回归; 二项logistic回归; 二元logistic回归; 逻辑回归; EPV原则

一、案例介绍

探讨经皮内镜下腰椎间盘摘除术治疗腰椎间盘突出疗效不佳的主要影响因素,纳入146例治疗效果“不佳”(记录为1)的患者,278例治疗效果“良好”(记录为0)的患者,并收集其余变量信息。Gender表示性别(0=女,1=男);Age表示年龄(0=60岁以下,1=60岁及以上);Time表示手术时间(min);Position表示突出部位(1=单侧,2=中央,3=极外侧);Class表示突出分类(1=膨出型,2=突出型,3=脱垂型);Change表示Modic改变(0=I级,1=II级,2=III级);Calcification表示是否钙化(0=未钙化,1=钙化);Sagittal_diameter表示矢状径(cm)、Grade表示退变级别(1=I-III级,2=IV级,3=V级)。部分数据可见图1。本文案例可从“附件下载”处下载。

图1

二、问题分析

本案例的分析目的是探讨经皮内镜下腰椎间盘摘除术治疗腰椎间盘突出疗效不佳的主要影响因素,由于因变量是二分类变量,因此可以使用二分类logistic回归分析。但需要满足7个条件:

条件1:因变量为二分类变量。本研究中因变量是治疗效果“不佳”和“良好”,为二分类变量,该条件满足。

条件2:至少有1个自变量。自变量可以是分类变量也可以是连续变量。本研究中有多个自变量,类型各异,该条件满足。

条件3:各观测行间相互独立。对研究设计和数据收集的过程进行分析,可判断本案例中观测值之间不存在互相影响的情况。

条件4:例数较少类的因变量例数为自变量个数的10~15倍(EPV原则),且经验上两组的人数最好>30例,参照水平组不应少于30或50例。该条件需要通过软件分析后判断。

条件5:自变量之间无多重共线性。该条件需要通过软件分析后判断。

条件6:自变量不存在显著的异常值。该条件需要通过软件分析后判断。

条件7:数据未出现完全分离或拟完全分离现象。该条件需要通过软件分析后判断。

三、软件操作及结果解读

(一) 适用条件判断

1. 条件4判断(因变量样本例数)

(1) SAS实现

首先导入数据,代码如下:

proc import datafile="G: \test\二分类Logistic回归分析1.csv" dbms=csv out=data1;
run;

使用如下的proc freq过程步,统计因变量每类的样本例数。

proc freq data=data1;
	tables Prognosis;
run;
(2) 结果解读

如图2所示,预后不佳(Prognosis=1)为146例,预后良好(Prognosis=0)为278例。根据“例数较少类的因变量例数为自变量个数的10~15倍(EPV原则)”,本案例可纳入10~15个自变量进行多因素二分类logistic回归分析。

图2

2. 条件4判断(自变量样本例数)

(1) SAS实现

使用如下的proc freq过程步,统计分类变量各类别的因变量例数。

proc freq data=data1;
	tables Prognosis *Gender;
run;

参照上述程序,依次考察其他变量的频数分布情况。

(2) 结果解读

各变量频数分布情况如图3—图9所示,突出部位为“极外侧”(Position=3)时、突出分类为“膨出型”(Class=1)时、退变级别为“V级”(Grade=3)时,因变量的例数<30,如果这些变量在多因素分析过程中进入模型,应注意避免例数较少的水平被选为参照。

图3
图4
图5
图6
图7
图8
图9

3. 条件5判断(多重共线性诊断)

详见本章后文。

4. 条件6判断(异常值检测)

详见本章后文。

5. 条件7判断(完全分离检测)

完全分离,指某一个自变量本身或者某几个自变量的线性组合,对因变量的预测结果与实际情况完全一致,常表现为OR值无穷大。通过图3—图9可见并不存在这种情况。该条件满足。

(二) 变量筛选

1. SAS实现

使用前向逐步回归方法进行变量筛选,代码如下所示:

proc logistic data=data2 descending;	
	class Gender(param=reference ref="0");
	class Age(param=reference ref="0");
	class Position(param=reference ref="1");
	class Class(param=reference ref="3");
	class Change(param=reference ref="0");
	class Calcification(param=reference ref="1");
	class Grade(param=reference ref="3");
	model Prognosis=Gender Age Time Position Class Change Calcification Sagittal_diameter Grade/selection=forward stb rsquare;
run;

SAS默认因变量的较小值与较大值进行比较,在本例中,预后不佳为1、预后良好为0,探讨腰椎间盘突出疗效不佳的主要影响因素,因此使用descending选项将其反转。class选项对分类变量设置参照。stb选项输出标准回归系数。rsquare选项输出模型R2的值。

2. 结果解读

如图10所示,变量Age(年龄)首先进入模型,模型有统计学意义(似然比检验χ²=27.5882,P<0.0001)。

图10

如图11所示,变量Position(突出部位)继续进入模型,此时模型包含Age(年龄)和Position(突出部位)两个变量,模型有统计学意义(似然比检验χ²=43.0799,P<0.0001)。

图11

如图12所示,变量Sagittal_diameter(矢状径)继续进入模型,此时模型包含Age(年龄)、Position(突出部位)、Sagittal_diameter(矢状径)三个变量,模型有统计学意义(似然比检验χ²=52.9040,P<0.0001)。

图12

如图13所示,变量Calcification(是否钙化)继续进入模型,此时模型包含Age(年龄)、Position(突出部位)、Sagittal_diameter(矢状径)、Calcification(是否钙化)四个变量,模型有统计学意义(似然比检验χ²=57.4887,P<0.0001)。

图13

如图14所示,变量Grade(退变级别)继续进入模型,此时模型包含Age(年龄)、Position(突出部位)、Sagittal_diameter(矢状径)、Calcification(是否钙化)、Grade(退变级别)五个变量,模型有统计学意义(似然比检验χ²=64.1251,P<0.0001)。

最终, Age(年龄)、Position(突出部位)、Sagittal_diameter(矢状径)、Calcification(是否钙化)和Grade(退变级别)进入模型。

图14

(三) 模型拟合

1. 拟合优度

如图14所示,模型AIC 、SC和-2 Log L值分别为497.878、530.276、481.878,R2值为0.1404,最大重新换算R2值为0.1938,R2值越接近1表明模型拟合度越高,因此表明本数据集模型拟合度不高。似然比检验χ²=64.1251,P<0.0001,表明模型有统计学意义。

2. 模型系数

如图15所示,年龄60岁及以上的患者术后不佳的风险是60岁以下患者的2.780倍(95%CI:1.643~4.702;P<0.001)。突出部位为“中央”和“极外侧”的患者术后效果不佳的风险分别是“单侧”患者的2.091倍(95%CI:1.318~3.318;P=0.0017)和2.133倍(95%CI:0.922~4.936;P=0.0767)。“非钙化”患者术后不佳的风险是“钙化”患者的1.743倍(95%CI:1.064~2.855;P=0.0273)。Sagittal_diameter(矢状径)的OR(点估计)=0.836,表示矢状径每增加1cm,术后效果不佳的风险降低16.4% (OR=0.836,95%CI:0.740~0.944;P=0.0039)。与退变级别为“V级”的患者相比,“I-III级”患者术后效果不佳的风险降低54.1% (95%CI:0.184~1.147;P=0.0958);“IV级”患者术后效果不佳的风险降低63.7% (95%CI:0.163~0.809;P=0.0131)。

图15

(四) 适用条件判断(补充)

1. 条件5判断(多重共线性诊断)

(1) SAS实现

对进入模型的变量进行多重共线性诊断,代码如下所示:

首先对分类变量设置哑变量:

data data2;
	set data1;
	length Position1 Position2 Grade1 Grade2 8.;
	Position1=ifc(Position=2,1,0);
	Position2=ifc(Position=3,1,0);
	Grade1=ifc(Grade=2,1,0);
	Grade2=ifc(Grade=3,1,0);
run;

使用线性回归过程步进行多重共线性诊断:

proc reg data=data2;	
	model Prognosis=Age {Position1 Position2} Calcification Sagittal_diameter {Grade1 Grade2}/tol vif;
quit;
(2) 结果解读

如图16所示,所有自变量的方差膨胀因子均<10,容忍度均>0.1,提示自变量之间不存在严重共线性问题。

图16

2. 条件6判断(异常值检测)

(1) SAS实现

同样使用reg过程步输出Cook库克距离,代码如下:

proc reg data=data2;	
	model Prognosis=Age {Position1 Position2} Calcification Sagittal_diameter {Grade1 Grade2}/r;
quit;
(2) 结果解读

如图17所示,最大的库克距离值为0.032<0.5,提示不存在显著异常值,本研究数据满足条件6。

图17

(五) 预测价值

1. SAS实现

使用ctable选项计算不同cutoff值下模型的分类结果,并使用outroc=roc选项将分类结果输出到work.roc数据集,plots(only)=roc(id=obs)选项绘制模型ROC曲线,代码如下所示:

proc logistic data=data2 descending plots(only)=roc(id=obs);	
	class Age(param=reference ref="0");
	class Position(param=reference ref="1");
	class Calcification(param=reference ref="1");
	class Grade(param=reference ref="3");
	model Prognosis=Age Position Calcification Sagittal_diameter Grade/ctable outroc=roc;
run;
proc print data=roc label;
	where _PROB_ lt 0.6 and _PROB_ ge 0.5;
run;

默认cutoff=0.5时,绘制模型的分类交叉表,代码如下所示:

data cross;
	set roc(where=(_PROB_ lt 0.5021 and _PROB_ ge 0.5));
	label var1="实际" var2="预测-预后良好" var3="预测-预后不佳";
	var1="预后良好"; var2=_NEG_; var3=_FALPOS_; output;
	var1="预后不佳";var2=_FALNEG_; var3=_POS_; output;
	keep var1 var2 var3;
proc print label;
run;

使用proc sgplot绘制不同cutoff时的灵敏度、特异度,代码如下所示:

data roc1;
	set roc;
label SPEC="特异度";
	SPEC = 1-_1MSPEC_;
run;
proc sgplot data=roc1;
	series x=_PROB_ y=_SENSIT_;
	series x=_PROB_ y=SPEC;
	refline 0.5/axis=x lineattrs=(pattern=ShortDash color=black);
run;

2. 结果解读

结果如图18所示,以cutoff=0.5进行分析,可以看到_PROB_最接近0.5的是0.50204,预后不佳正确分类为预后不佳=46,预后良好正确分类为预后良好=249,预后良好错误分类为预后不佳=29,预后不佳错误分类为预后良好=100。模型_灵敏度为0.315,1-特异度为0.104,由此计算出模型特异度为1-0.104=0.896,模型分类准确率为(46+249)/(46+249+29+100)=0.696,该模型的判断效果一般。cutoff=0.5时,模型的分类交叉表如图19所示。

图18
图19

图20 展示了模型的ROC曲线,如图所示,模型的ROC曲线下面积为0.7285。

图20

图21 展示了不同cutoff时模型的灵敏度、特异度。

图21

四、结论

本研究采用二分类Logistic回归探讨经皮内镜下腰椎间盘摘除术治疗腰椎间盘突出疗效不佳的主要影响因素。因变量例数分布满足样本量需求,变量之间不存在严重共线性和异常值,数据不存在完全分离现象。

九个自变量经过变量筛选,最终有5个(矢状径、年龄、突出部位、是否钙化和退变级别)进入模型,年龄60岁及以上的患者术后不佳的风险是60岁以下患者的2.780倍(95%CI:1.643~4.702;P<0.001)。突出部位为“中央”和“极外侧”的患者术后效果不佳的风险分别是“单侧”患者的2.091倍(95%CI:1.318~3.318;P=0.0017)和2.133倍(95%CI:0.922~4.936;P=0.0767)。“非钙化”患者术后不佳的风险是“钙化”患者的1.743倍(95%CI:1.064~2.855;P=0.0273)。Sagittal_diameter(矢状径)的OR(点估计)=0.836,表示矢状径每增加1cm,术后效果不佳的风险降低16.4% (OR=0.836,95%CI:0.740~0.944;P=0.0039)。与退变级别为“V级”的患者相比,“I-III级”患者术后效果不佳的风险降低54.1% (95%CI:0.184~1.147;P=0.0958);“IV级”患者术后效果不佳的风险降低63.7% (95%CI:0.163~0.809;P=0.0131)。似然比检验χ²=64.1251,P<0.0001,模型有统计学意义。模型对因变量正确分类的准确性为0.696,灵敏度为0.315、特异度为0.896,ROC曲线下面积为0.7285,该模型的判断效果一般。

五、多重共线性的判断及处理

  • 多重共线性是指自变量间存在线性相关关系,容忍度越小、VIF越大,表明共线性越强。实际数据分析过程中,若容忍度<0.2或VIF>5则表明存在较强共线性,若容忍度<0.1或VIF>10则表明存在严重共线性问题。
  • 在实际数据分析过程中,若存在以下情况,则暗示模型可能存在共线性问题:①整个模型的检验结果为P值≤检验水准a,但各自变量的偏回归系数检验结果却为P值>检验水准a。②专业上认为应该有统计学意义的自变量,检验结果确无统计学意义。③自变量的偏回归系数的取值大小甚至符号明显与实际情况相违背,难以解释。④增加或删除一个自变量或一个案例,自变量偏回归系数发生较大变化。
  • 自变量若存在严重多重共线性,可采取以下措施进行处理:①基于专业知识直接确认优先选择哪些变量进入模型,而将相对次要的共线性变量从模型中剔除。②逐步回归,但是当共线性比较严重时,变量自动筛选的方法并不能完全解决问题。③岭回归/lasso回归,为有偏估计,但能有效地解决共线性问题。④主成分回归法,这种方法的代价是在提取主成分时会丢失一部分信息,收益则是大大降低了共线性对参数估计值的扭曲,而且自变量间的多重共线性越强,提取主成分时丢失的信息就越少。
  • 需要注意的是,多重共线性的存在不一定必然影响模型的使用价值,其理论上共线性不应当降低模型的预测效果,其影响主要是使模型的偏回归系数发生改变,从而无法得到专业上合理的解释。

六、自变量进入模型的形式

  • 无序多分类自变量需要以哑变量形式进入模型,选择参照水平实现哑变量的设置需要注意以下事项:①参照水平要具有实际意义,否则会失去比较的目标,如“其他”一般不适宜做参照水平。②参照水平应有一定的例数(不低于30或50例),否则将导致与其比较的其他组的置信区间较大。③哑变量整体分析无统计学意义时,所有哑变量都不用再纳入模型;整体分析有统计学意义时,尽管有些哑变量无统计学意义,但仍需要纳入模型,即“同进同出”原则。
  • 有序多分类自变量进入模型有多种方式备选,但应选择最具合理性的方式:①直接以计量资料形式带入模型:此时得到的模型较为简洁,也容易解释。但应用的前提是自变量的每个水平对因变量的影响作用基本一致,可通过观察哑变量各水平的回归系数值是否存在等级变化关系进行判定。建议先将有序多分类资料分别以哑变量和连续变量的形式引入模型,观察每个哑变量的回归系数间是否存在等级关系,并对两个模型进行似然比检验,如果似然比检验无统计学意义,且每个哑变量的回归系数间存在等级关系,则可以将该自变量以连续变量形式引入模型,否则还是采用哑变量的方式引入模型。②设置哑变量:参照无序多分类资料。③当有序多分类变量的等级水平与因变量结局不成线性关系时,应采用最优尺度回归探讨效应拐点。
  • 定量资料进入模型有多种方式备选,但也应选择最具合理性的方式:如果某计量资料能以计量形式进入模型(有统计学意义),那么转化后应当同样能进入模型,且OR值会显著增加。①直接带入模型,尽管此种方法较为简单,但仍不做首选推荐。因为此时得出的OR值一般较小,即自变量变化一个单位对结局风险的影响其实是有限的,不能贴近专业解释。 如果资料分布严重失衡时(非均匀分布)尤其不能直接带入模型。但以计量资料形式直接进入模型往往模型的拟合效果较好。②根据专业意义降维后(如根据BMI指数分级标准降维为有序多分类资料),参照有序多分类资料或者二分类资料处理方式。③如果没有专业划分标准,可以资料分布形式根据四分位数间距或等分法降维或者标准化后按Per 1 sd (每一个标准差)降维。④建立自变量和因变量之间的ROC曲线,根据约登指数进行二分类降维。⑤中位数(非正态分布)或者均数(近似正态或正态分布)降维。⑥当自变量的单位不合适导致因变量的风险改变很小时,可对自变量采取缩小(如除以100)或扩大(如乘以10)相应倍数的方式。

七、自变量的选择策略

关于自变量是否纳入多因素分析模型可以根据专业原则、以单因素分析为基础的原则和比较原则;此外,还可以使用软件进行向前筛选(selection=forward)、向后筛选(selection=backward)和逐步筛选(stepwise)。

  • 专业原则:首先需要考虑的就是专业原则,这一点最为重要。如果目前专业知识有证据表明该变量与结局发生有关,那么不论该变量单因素分析结果是否有统计学意义,都应纳入多因素分析模型。
  • 以单因素分析为基础:当分析的变量较多时,可先采取单因素分析方法,对有统计学意义的变量再纳入多因素分析。此时单因素分析检验水准可设置为0.1—0.2,如果样本量较大,可将检验水准设置为较为严格;如果样本量较小可将检验水准设置较为宽松。
  • 比较原则:可以尝试多种方法对该变量进行分析,如采用多种自变量进入方法分析,或将计量资料降维后再分析,如果变量在多种进入方法和不同变量类型时,均能在多因素分析模型中有统计学意义,则表明该变量的确是因变量的真正影响因素。
  • 向前筛选是变量不断进入回归方程的过程。首先,选择与因变量具有最高线性相关系数的变量进入方程,并进行回归方程检验;其次,在剩余的变量中寻找与因变量偏相关系数最高的变量进入回归方程,并对新建立的回归方程进行检验;一直重复这个过程,直到再也没有可进入方程的变量为止。
  • 向后筛选是变量不断剔除出回归方程的过程。首先,所有变量全部引入回归方程,并对回归方程进行检验,然后在回归系数不显著的变量中,剔除t检验值最小的变量,并对模型进行检验;直到回归方程中所有变量的回归系数均显著,则回归模型确定。
  • 逐步筛选在向前筛选的基础之上,结合向后筛选策略,在每个变量进入方程后再次判断是否存在可以剔除方程的变量。因此,逐步筛选在引入变量的每一个阶段都提供了剔除不显著变量的机会。
End
文章目录 沉浸式阅读