R语言逻辑回归、方差分析 、伪R平方分析

时间:2022-07-23
本文章向大家介绍R语言逻辑回归、方差分析 、伪R平方分析，主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项，具有一定的参考价值，需要的朋友可以参考一下。

原文链接：http://tecdat.cn/?p=9589

目录

怎么做测试

假设条件

并非所有比例或计数都适用于逻辑回归分析

过度分散

伪R平方

测试p值

Logistic回归示例

模型拟合

系数和指数系数

方差分析 

伪R平方

模型的整体p值

标准化残差图

绘制模型

Logistic回归示例

模型拟合

系数和指数系数

方差分析

伪R平方

模型的整体p值

标准化残差图

绘制模型

Logistic回归示例

怎么做测试

Logistic回归可以使用glm  （广义线性模型）函数在R中执行  。该函数使用链接函数来确定要使用哪种模型，例如逻辑模型，概率模型或泊松模型。 

假设条件

广义线性模型的假设少于大多数常见的参数检验。观测值仍然需要独立，并且需要指定正确的链接函数。因此，例如应该了解何时使用泊松回归以及何时使用逻辑回归。但是，不需要数据或残差的正态分布。

并非所有比例或计数都适用于逻辑回归分析

一个不采用逻辑回归的例子中，饮食研究中人们减肥的体重无法用初始体重的比例来解释作为“成功”和“失败”的计数。在这里，只要满足模型假设，就可以使用常用的参数方法。

过度分散

使用广义线性模型时要注意的一个潜在问题是过度分散。当模型的残余偏差相对于残余自由度较高时，就会发生这种情况。这基本上表明该模型不能很好地拟合数据。 

但是据我了解，从技术上讲，过度分散对于简单的逻辑回归而言不是问题，即具有二项式因果关系和单个连续自变量的问题。

伪R平方

对于广义线性模型（glm），R不产生r平方值。pscl  包中的  pR2  可以产生伪R平方值。

测试p值

检验逻辑对数或泊松回归的p值使用卡方检验。方差分析  来测试每一个系数的显着性。似然比检验也可以用来检验整体模型的重要性。

Logistic回归示例

Data = read.table(textConnection(Input),header=TRUE)Data$Total = Data$mpi90 + Data$mpi100Data$Percent = Data$mpi100 / + Data$Total

模型拟合

Trials = cbind(Data$mpi100, Data$mpi90)         # Sucesses, Failuresmodel = glm(Trials ~ Latitude,             data = Data,             family = binomial(link="logit"))

系数和指数系数

Coefficients:            Estimate Std. Error z value Pr(>|z|)   (Intercept) -7.64686    0.92487  -8.268   <2e-16 ***Latitude     0.17864    0.02104   8.490   <2e-16 ***                 2.5 %     97.5 %(Intercept) -9.5003746 -5.8702453Latitude     0.1382141  0.2208032 # exponentiated coefficients(Intercept)     Latitude0.0004775391 1.1955899446 # 95% CI for exponentiated coefficients                   2.5 %      97.5 %(Intercept) 7.482379e-05 0.002822181Latitude    1.148221e+00 1.247077992

方差分析 

Analysis of Deviance Table (Type II tests)Response: Trials          Df  Chisq Pr(>Chisq)   Latitude   1 72.076  < 2.2e-16 ***

伪R平方

$ModelsModel: "glm, Trials ~ Latitude, binomial(link = "logit"), Data"Null:  "glm, Trials ~ 1, binomial(link = "logit"), Data"      $Pseudo.R.squared.for.model.vs.null                             Pseudo.R.squaredMcFadden                             0.425248Cox and Snell (ML)                   0.999970Nagelkerke (Cragg and Uhler)         0.999970

模型的整体p值

Analysis of Deviance TableModel 1: Trials ~ LatitudeModel 2: Trials ~ 1  Resid. Df Resid. Dev Df Deviance  Pr(>Chi)   1         6     70.333                         2         7    153.633 -1  -83.301 < 2.2e-16 ***Likelihood ratio testModel 1: Trials ~ LatitudeModel 2: Trials ~ 1  #Df  LogLik Df  Chisq Pr(>Chisq)   1   2 -56.293                        2   1 -97.944 -1 83.301  < 2.2e-16 ***

标准化残差图

标准化残差与预测值的关系图。残差应无偏且均等。 

绘制模型

Logistic回归示例

Data = read.table(textConnection(Input),header=TRUE)

模型拟合

model

系数和指数系数

Coefficients:            Estimate Std. Error z value Pr(>|z|)(Intercept)  4.41379    6.66190   0.663    0.508Height      -0.05016    0.09577  -0.524    0.600                 2.5 %     97.5 %(Intercept) -8.4723648 18.4667731Height      -0.2498133  0.1374819  # exponentiated coefficients(Intercept)      Height 82.5821122   0.9510757 # 95% CI for exponentiated coefficients                   2.5 %       97.5 %(Intercept) 0.0002091697 1.047171e+08Height      0.7789461738 1.147381e+0

方差分析

Analysis of Deviance Table (Type II tests)Response: Insect          Df  Chisq Pr(>Chisq)Height     1 0.2743     0.6004Residuals 23

伪R平方

$Pseudo.R.squared.for.model.vs.null                             Pseudo.R.squaredMcFadden                           0.00936978Cox and Snell (ML)                 0.01105020Nagelkerke (Cragg and Uhler)       0.01591030

模型的整体p值

Analysis of Deviance TableModel 1: Insect ~ HeightModel 2: Insect ~ 1  Resid. Df Resid. Dev Df Deviance Pr(>Chi)1        23     29.370                    2        24     29.648 -1 -0.27779   0.5982Likelihood ratio testModel 1: Insect ~ HeightModel 2: Insect ~ 1  #Df  LogLik Df  Chisq Pr(>Chisq)1   2 -14.685                     2   1 -14.824 -1 0.2778     0.5982

标准化残差图

绘制模型

   Height Insect Insect.num1      62 beetle          02      66  other          13      61 beetle          023     72  other          124     70 beetle          025     74  other          1
   Height Insect Insect.num Insect.log1      62 beetle          0      FALSE2      66  other          1       TRUE3      61 beetle          0      FALSE23     72  other          1       TRUE24     70 beetle          0      FALSE25     74  other          1       TRUE

Logistic回归示例

Data = read.table(textConnection(Input),header=TRUE)modelCoefficients:            Estimate Std. Error z value Pr(>|z|) (Intercept) -66.4981    32.3787  -2.054   0.0400 *Continuous    0.9027     0.4389   2.056   0.0397 *Analysis of Deviance Table (Type II tests)Response: Factor           Df Chisq Pr(>Chisq) Continuous  1 4.229    0.03974 *Residuals  27                                               Pseudo.R.squaredMcFadden                             0.697579Cox and Snell (ML)                   0.619482Nagelkerke (Cragg and Uhler)         0.826303  Resid. Df Resid. Dev Df Deviance Pr(>Chi)   1        27     12.148                        2        28     40.168 -1   -28.02  1.2e-07 ***

将因子转换为数字变量，级别为0和1  

   Continuous Factor Factor.num1          62      A          02          63      A          03          64      A          027         84      B          128         85      B          129         86      B          1

将Factor转换为逻辑变量，级别为TRUE和FALSE  

   Continuous Factor Factor.num Factor.log1          62      A          0      FALSE2          63      A          0      FALSE3          64      A          0      FALSE27         84      B          1       TRUE28         85      B          1       TRUE29         86      B          1       TRUE

随机文章
本站知识点必读
最近更新