如何选择合适的统计学方法-Blog of yabanyue

背景知识

很有必要了解的一些理论基石：

中心极限定理：怎样理解和区分中心极限定理与大数定律？[17]
组间、组内、变量个数等的判别：要分析组间的差异，该如何选择正确的统计方法？[19]
统计学意义等：判断是否有统计意义/差异具有显著性/具有显著差异/零假设（希望证明为错误的假设）/卡方检验[22]
实验设计：一文读懂医学实验设计方法的类型和选择[23]

统计学万变不离几件事，即搜集，整理，总结，分析，推断。基本步骤包括：设计→收集资料→整理资料→分析资料。其中，掌握数据规律窥破天机的是分析资料这一步。统计分析主要包括两个部分，也是统计学最厉害的两个点，统计描述和统计推断。[9]

统计描述：用统计指标以统计表和统计图，对资料的统计数量特征及分布规律进行测定和描述。
统计推断：用样本信息推断总体特征，又分为两个部分，参数估计和假设检验。
- 参数估计：由样本相应指标推断总体相应指标，包括点估计和区间估计。
  - 点估计：把样本数据的特征直接作为总体的数据特征。但这种情况未考虑抽样误差，可能抽样数据有偏差，不能代表总体的情况。
  - 区间估计：指在由样本数据特征估计计算给出一个区间，此区间包含了95%的总体数据，即置信度为95%，一般我们设置置信度为95%。
- 假设检验：用样本差异来估计总体之间是否存在差异。
  - 样本是否能代表总体？两个不同样本均数是否来自均数不想等的总体？等等，为了解决这些问题，我们假设它成立或假设它不成立，用小概率反证法来证明样本来自总体或是其他问题。
  - 具体方法例如：t检验，u检验，方差分析，卡方检验，秩和检验等等。

分析方法集合可见下图[2]：所有的数据分为三种，定量资料、定性资料和等级资料。[9]

定量资料（又称计量资料）变量值定量，一般有单位。例如一个班同学的身高体重，可测量得到具体数值的就是定量资料。
定性资料（又称计数资料，无序分类变量）变量值定性，一般无单位。例如家族史的有无（二分类），也可为多个变量如上图有三个色块，深紫色，浅紫色，蛋黄色，这些变量没有顺序关系，即又称无序分类变量，也是定性资料区别于等级资料的关键点。
等级资料（又称半定量资料，有序分类变量）：根据事物的某种属性分等级后计数，分类汇总观察的结果，可具有计数资料和计量资料两者的数据特征。例如观察鸭鸭血清反应可有－、＋、±、＋＋、＋＋＋五个等级或者是肿瘤的分期早中晚期，即时间不同，有时间顺序的一组资料。

几种数据类型可相互转换，如果考虑不同类型变量间可以降级转换。即定量资料→等级资料→定性资料（多项无序分类变量）→定性资料（二项分类变量），降级转换后可选用的方法增加了，但相应效能也会下降，所以我们在进行统计学设计时应尽量选择使用更加精确，效能更高的数据。[9]

变量间的关系，大致可以分为三类：影响关系、差异关系和其他关系（比如聚类、因子等）[5]。通过确认数据间的关系情况，再加上提前对数据类型的判断，可找出合理的数据研究方法。[2][8]

可细分为四个步骤。[10]

选择描述统计决策图；
选择评估处理条件之间或总体之间平均数不同的参数检验决策图；
选择用顺序或称名量表数据评估处理条件之间或总体之间的系统差别的非参数检验决策图；
选择评估变量间关系方法的决策图。

一、差异研究方法

在日常的研究中，差异研究涉及以下三类方法，分别是方差分析，T检验和卡方分析，涉及相关术语名词汇总如下表。[5]

进一步细分[6]

1.1 t检验

无论是单样本T检验、独立样本T检验还是配对样本T检验，都有几个基本前提[1]：

T检验属于参数检验，用于检验定量数据（数字有比较意义的），若数据均为定类数据则使用非参数检验。
样本数据服从正态或近似正态分布。正态性的检验方法有：正态图、正态性检验、P-P图/Q-Q图等。[11]

三种T检验法均属于参数检验法，是在总体分布已知的情况下使用的。[7]T检验适用于数据服从正态分布、但方差未知的情况，通过比较不同数据的均值，研究两组数据是否存在差异。适用于小样本数据。[11]

T检验分析步骤[5]

第一：分析X与Y之间是否呈现出显著性(P值小于0.05或0.01)；
第二：如果呈现出显著性；具体对比平均值大小，描述具体差异所在；
第三：对分析进行总结。

1.1.1 单样本T检验

单样本T检验用于比较样本数据与一个特定数值之间是否的差异情况。[1]用于比较一组数据与一个特定数值之间的差异情况，即检验这组数据的均值与已知的总体均值是否相等。[11]

其原理是运用样本数据的平均值与一个常数检验值相比较，以检验样本数据与检验值是否有差异，常用于检验样本数据是否符合标准值等研究目的，比如抽取样本身高值是否符合标准值、抽取的样本中含水量是否符合标准含水量等。[7]

比如问卷某题项选项表示为1分代表非常不满意，2分代表比较不满意，3分代表一般，4分代表比较满意，5分代表非常满意，当想分析样本对此题项的态度是否有明显的倾向，比如明显高于3分或者明显低于3分时，即可以使用单样本T检验。单样本T检验是比较某个题项的平均得分是否与某数字(例子是与3进行对比)有着明显的差异，如果呈现出显著性差异，即说明明显该题项平均打分明显不等于3分。此分析方法在问卷研究中较少使用，平均得分是否明显不为3分可以很直观的看出，而不需要单独进行检验分析。[6]

1.1.2 配对样本T检验

用于分析配对定量数据之间的差异对比关系。与独立样本t检验相比，配对样本T检验要求样本是配对的。两个样本的样本量要相同；样本先后的顺序是一一对应的。[1]用于检验有一定对应关系的两组样本的均值差是否等于某一个值，两组样本数量需要相等。[11]

独立样本T检验和配对样本T检验功能上都是比较差异，而且均是比较两个组别差异。但二者有着实质性区别，如果是比较不同性别，婚姻状况(已婚和未婚)样本对某变量的差异时，应该使用独立样本T检验。如果比较组别之间有配对关系时，只能使用配对样本T检验，配对关系是指类似实验组和对照组的这类关系。[6]

常见的使用场景有[11]：

同一对象处理前后的对比（同一组人员采用同一种减肥方法前后的效果对比）；
同一对象采用两种方法检验的结果的对比（同一组人员分别服用两种减肥药后的效果对比）；
配对的两个对象分别接受两种处理后的结果对比（两组人员，按照体重进行配对，服用不同的减肥药，对比服药后的两组人员的体重）。

此外，还需要注意[1]：

配对样本T检验要求两组样本量相等，而独立样本T检验对样本量没有要求；
配对样本T检验的数据格式与上文提到的独立样本T检验不同，两组配对数据需要分别成一列，具体参考下图：

1.1.3 独立样本T检验

独立样本T检验用于分析定类数据（X）与定量数据（Y）之间的差异情况。独立样本T检验除了需要服从正态分布、还要求两组样本的总体方差相等。当数据不服从正态分布或方差不齐时，则考虑使用非参数检验。[1]

独立样本T检验和单因素方差分析功能上基本一致，但是独立样本T检验只能比较两组选项的差异，比如男性和女性。相对来讲，独立样本T检验在实验比较时使用频率更高，尤其是生物、医学相关领域。针对问卷研究，如果比较的类别为两组，独立样本T检验和单因素方差分析均可实现，研究者自行选择使用即可。[6]检验两组样本的均值是否相等（可根据总体方差是否相等分类讨论），独立样本与配对样本的不同之处在于独立样本T检验两组数据的样本数量可以不等。[11]

独立样本T检验，除了要满足正态性，还需要满足方差齐性的前提条件。在方差齐性的情况下才可以使用独立样本T检验，如果方差不齐性，则应采用校正T检验。[11]

此外，还需要注意[1]：

独立样本T检验仅用于分析两组数据，比如性别，高分组低分组，实验组对照组等。如超过两组比较则使用方差分析；
独立样本T检验用于分析定类数据（X）与定量数据（Y）之间的差异情况。如果X、Y均为定类数据，则使用卡方分析；
在进行分析前，首先确保分析软件要求的数据格式正确，例如部分软件要求将进行对比的两组数据放在同一列中，同时有一列用来表示数据的组别，正确格式如下：

1.2 方差分析

方差分析用于定类数据（X）与定量数据（Y）之间的差异分析，例如研究三组学生（X）的智商平均值（Y）是否有显著差异。其中X的组别数量至少为2，也可以分析三个或三个以上组别的数据。[3]

注意[3]：

如果X为定类，Y为定量；且X分为两组，比如男和女；此时也可使用t检验进行差异对比。T检验与单因素方差分析的区别在于T检验只能对比两组数据的差异。
如果X和Y均为定类数据，想对比差异性，此时需要使用卡方分析。

根据X的不同，方差分析又可以进行细分。X的个数为一个时，我们称之为单因素方差；X为2个时则为双因素方差；X为3个时则称作三因素方差，依次下去。当X超过1个时，统称为多因素方差。[6]

单因素方差分析，用于分析定类数据与定量数据之间的关系情况。
- 在使用单因素方差分析时，需要每个选项的样本量大于30，比如男性和女性样本量分别是100和120，如果出现某个选项样本量过少时应该首先进行组别合并处理，比如研究不同年龄组样本对于研究变量的差异性态度时，年龄小于20岁的样本量仅为20个，那么需要将小于20岁的选项与另外一组(比如20~25岁)的组别合并为一组，然后再进行单因素方差分析。
- 如果选项无法进行合并处理，比如研究不同专业样本对于变量的态度差异，研究样本的专业共分为市场营销、心理学、教育学和管理学四个专业，这四个专业之间为彼此独立无法进行合并组别，但是市场营销专业样本量仅为20并没有代表意义，因此可以考虑首先筛选出市场营销专业，即仅比较心理学，教育学和管理学这三个专业对某变量的差异性态度，当对比的组别超过三个，并且呈现出显著性差异时，可以考虑使用事后检验进一步对比具体两两组别间的差异情况。
双因素方差分析，用于分析定类数据(2个)与定量数据之间的关系情况。
- 例如研究人员性别,学历对于网购满意度的差异性;以及男性或者女性时,不同学历是否有着网购满意度差异性;或者同一学历时,不同性别是否有着网购满意度差异性。
多因素方差分析，通常用于类实验式问卷研究。
- 比如研究者测试某新药对于胆固醇水平是否有疗效；研究者共招募72名被试，男女分别为36名，以及男女分别再细分使用新药和普通药物；同时高血压患者对于新药可能有干扰，因而研究者将被试是否患高血压也纳入考虑范畴中。因而最终，X共分为三个，分别是药物(旧药和新药)、性别，是否患高血压；Y为胆固醇水平。因而需要进行三因素方差分析即多因素方差分析。

在分析前首先需要按分析软件要求的正确格式录入/上传才能得到有效的分析结果。例如针对方差分析，部分软件要求的正确的录入格式如下图所示[3]：进行方差分析需要数据满足以下三个基本前提[3][15]：

各观测变量总体要服从正态分布；
各观测变量的总体满足方差齐；
待分析的因变量中的个案彼此独立也就是个案间不存在自相关并来自于同一个总体

这是方差分析的两个基本前提条件，理论上讲，数据必须满足以上两个条件才能进行方差分析，如不满足，则使用非参数检验。[3]

方差分析分析步骤[5]

第一：分析方差齐检验是否呈现出显著性(P值小于0.05或0.01)；
第二：如果没有呈现出显著性(P>0.05)；直接使用方差分析对比差异；
第三：如果呈现出显著性(P<0.05)；可考虑使用非参数秩和检验；
第四：对分析进行总结。

方差分析原理上认为，如果存在差异，可能来源于两个方面：一种差异是各个组别之间的差异(此类差异即是研究者进行研究的差异)，另一种差异是各个组别内部的差异(此类差异为干扰性差异)。针对干扰性差异，比较不同学历(本科以下，本科，硕士及以上共三组)样本对于满意度的差异时，可能本科以下，本科，硕士及以上分别三组样本内部人群满意度态度不统一，比如本科以下有100人，但这100个人本身就有非常不同的满意度态度(有的非常不满意，而有的非常满意，态度波动很大)，类似本科或者硕士及以上两组样本，组内样本并没有形成统一的态度时，此种现象称作方差不齐 (即出现干扰性差异)。进行方差分析前要先进行方差齐检验，确定满足使用方差分析前提要求。即说明如果最终三组样本有着差异性态度，那么此种差异一定是此三组样本的满意度态度不一致所致，不可能三组样本内部本身态度差异(干扰性差异)所致。[5]

当两样本尤其是小样本（样本量小于50），不符合正态分布或是近似于正态分布，不符合方差齐性检验时我们可采用对对数变换、平方根变换、反正弦变换、倒数变换等等方法进行数值变换后，再进行正态性检验。[9]

现实研究中，数据多数情况下无法到达理想状态。正态性检验要求严格通常无法满足，实际研究中，若峰度绝对值小于10并且偏度绝对值小于3，或正态图基本上呈现出钟形，则说明数据虽然不是绝对正态，但基本可接受为正态分布，此时也可使用方差分析进行分析。[3]

同样的，方差分析前也需要进行方差齐性检验。方差齐性检验即两组或多个总体之间的方差进行齐性检验，可以理解为检验多组数据间的离散程度的大小，反应在频数直方分布图为曲线的胖瘦程度不一。[9]我们常用的方差齐性检验为F检验[12]。[9]

方差齐性检验是用于判断不同组别下的数据波动情况是否一致，即方差齐。若P值呈现出显著性（p <0.05）则说明，不同组别数据波动不一致，即说明方差不齐；反之p值没有呈现出显著性（p>0.05）**则说明方差齐。理论上数据进行方差齐检验没有呈现出明显显著性（即P>0.05），才可使用方差分析，但一般来讲如果不满足方差齐条件，检验性能也较好，因而多数时候并没有进行方差齐检验就直接使用方差分析。[3]

方差分析可用来多组数据的比较，如果不同水平下X对Y确实存在显著差异，此时还想进一步了解两两组别间数据的差异，该如何操作呢？事后多重检验正是解决这一问题的方法。[3]

例如与T检验不同，方差分析的结果只能检验出三个以上的总体均值是完全相同呢？还是不完全相同？注意是不完全相同，至于是哪个或哪些总体均值与其它总体均值不同则是不能获知的。因此方差分析结束以后还需要做事后多重检验，分析出到底是哪个或哪些总体均值与众不同。[4]

为什么方差分析一定要进行事后多重比较呢？直接用独立样本T检验进行多次两两比较不是也可以吗？我们可以用一个例子说明这个原因：以方差分析为例，假如有5个样本，如果要进行多次均值的两两比较，那么两两比较的次数多达10次。设每次比较的显著性水平等于0.05，那么10次比较都不犯“弃真”错误的概率为(1-0.05)的十次方，也就是0.60左右，也就是说犯“弃真”错误的概率高达0.40，这远远大于原先设定的显著性水平0.05。不仅如此，随着比较组数的增多，犯“弃真”错误的概率也会越来越大。[4]

事后检验的方法有多种，但功能均一致，只是在个别点或使用场景上有小区别。[3]以下8种是常用的事后多重检验方法（各水平样本的方差齐性）。除此之外，在各组样本方差不齐时，还有其他事后多重检验的方法，但从方法的接受程度和结果的稳健性讲，尽量不要在方差不齐时进行方差分析甚至两两比较，采用变量变换或者非参数检验往往更可靠。[4]

两两比较的方法【灵敏度从高到低排列，LSD法>Sidak法>Bonferroni法>Scheffe法>Dunnett法】
- LSD法
  - 最小显著性差异法(Least Significance Difference)，是最简单的比较方法之一。它是t检验的一个简单变形，并未对检验水准做出任何校正，只是在标准误（注意不是标准差）的计算上充分考虑了所有总体水平的样本信息，估计出了一个更为稳健的标准误。
  - 因为单次比较的显著性水平a保持不变，所以LSD法是最灵敏的事后多重比较法。
- Sidak法
  - Sidak校正在LSD法上的应用。通过Sidak校正降低每次两两比较的“弃真”错误概率，以使最终整个比较的“弃真”错误概率保持为显著性水平a。这也就是说每次比较的显著性水平a会随着比较次数的增多而减小。
  - 显然，Sidak法比LSD法的灵敏度低。每次进行Sidak比较的显著性水平为：
- Bonferroni法
  - 与Sidak法类似，它的每一次比较实际上是Bonferroni校正在LSD法上的应用。Bonferroni法修正后每次比较的显著性水平比Sidak法的更小，也就是说Bonferroni法比Sidak法的灵敏度更低。
- Scheffe法
  - Scheffe法的实质是对多个总体均值间的线性组合是否为0进行假设检验。多用在两组样本含量不同的情况。
- Dunnett法
  - 常用于多个试验组与一个对照组间的比较。因此在指定Dunnett法时，还应当指定对照组。
形成同质亚组的方法
- SNK法
  - 全称为Student-Newman-Keuls法。它实质上是根据预先指定的准则将各组均值分为多个亚组，利用Studentized Range分布来进行假设检验，并根据所要检验的均值个数调整总的“弃真”错误概率不超过设定的显著性水平a。
- Tukey法
  - 全称为Tukey’ s Honestly Significant Difference法。应用这种方法要求各组样本含量相同。它也是利用Studentized Range分布来进行各组均数间的比较，与SNK法不同地是，它控制所有比较中最大的“弃真”错误概率不超过设定的显著性水平a。
- Duncan法
  - 其思路与SNK法相类似，只不过检验统计量服从的是Duncan’ s Multiple Range分布。

需要注意的是，事后多重比较是基于方差分析基础上进行的，因此首先要满足方差分析确实存在显著性差异，接着才来比较两两的差异。如果本身只有两组数据做比较或者方差分析显示P值大于0.05各个组别之间没有差异性，此时则不需要进行事后检验。[3]

方差分析如果呈现出显著性差异(P<0.05)，可通过平均值对比具体差异，同时还可使用效应量(Effect size)研究差异幅度大小。偏Eta方表示效应量，偏Eta方值介于0~1之间，该值越大说明差异幅度越大，比如Eta方为0.1，即说明数据的差异有10%是来源于不同组别之间的差异，一般情况下Eta值非常小，通常只需报告该值即可，没有固定标准。[3]

1.3 卡方检验&其他非参数检验

参数检验，就是假定数据服从某种分布，通过样本信息对总体参数进行检验。因而在分析前，先要检验数据是否符合该类型的分布，如果数据无法满足检验假设的情况不符合分布情况，则可以考虑选择使用非参数检验。[14]

非参数检验用作参数检验的替代方法，当数据不满足正态性时，将使用非参数检验。因此，关键是要弄清楚是否具有正态分布。如果数据大致呈现"钟型"分布，则可以使用参数检验。[14]

凡是在分析过程中不涉及总体分布参数的检验方法，都可以称为“非参数检验”。因而，与参数检验一样，非参数检验包括许多方法。[14]

卡方分析是研究定类数据与定类数据关系的分析方法，比如性别和是否戴隐性眼镜之间的关系。卡方分析是用来研究两个定类变量间是否存在差异关系的最常用的方法[5]卡方是通过分析不同类别数据的相对选择频数和占比情况，进而进行差异判断，例如单选题或多选题均可以使用卡方分析进行对比差异分析。[6]

卡方检验是一种分析类别数据差异性（独立性）的方法。是一种通过频数进行检验的方法。[11]

常见的使用场景有[11]：

卡方检验对一列数据进行统计检验，分析单个类别变量实际观测的比例与期望的比例是否一致。
交叉表卡方研究两组类别变量的关系：如性别与看不看直播是否有关系。
配对卡方研究实验过程中，用不同方法检测同一批人，看两个方法的效果是否有显著差异。

SPSS软件之中，有两处均可以实现卡方检验，让初学小白们有点纳闷，为啥都是卡方，却要放到不同的菜单模块中，其中的缘由是啥呢？其实卡方是一家，因为功效而分家，交叉卡方负责组间比，非参卡方负责单组找比例！[13]

交叉表的卡方
- 分析-描述统计-交叉表中的卡方：为分类变量独立性检验的卡方。
- 其用途为：多组分类找差异。就是为了比较组间差异性的。
- 得到的结果为Pearson卡方、似然比卡方、线性趋势卡方，对于四格表资料还可以自动计算Fishert确切概率法。
非参数卡方
- 非参数-卡方，为拟合优度卡方，反映单组分类变量是否符合某种特定比例的分布。
- 可以简称为：单组分类看比例。

卡方分析分析步骤[5]

第一：分析X分别与Y之间是否呈现出显著性(P值小于0.05或0.01)；
第二：如果呈现出显著性；具体对比选择百分比(括号内值)，描述具体差异所在;
第三：对分析进行总结。

卡方分析的注意事项[11]：

需要随机样本数据
理论频数不能太小

二、影响研究方法

回归分析和相关分析都是研究变量间关系的统计学课题，它们的差别主要是[16]：

在回归分析中，y被称为因变量，处在被解释的特殊地位，而在相关分析中，x与y处于平等的地位，即研究x与y的密切程度和研究y与x的密切程度是一致的；
相关分析中，x与y都是随机变量，而在回归分析中，y是随机变量，x可以是随机变量，也可以是非随机的，通常在回归模型中，总是假定x是非随机的；
相关分析的研究主要是两个变量之间的密切程度，而回归分析不仅可以揭示x对y的影响大小，还可以由回归方程进行数量上的预测和控制。

两者最显著的不同在于：相关分析的目的在于检验两个随机变量的共变趋势（即共同变化的程度），回归分析的目的则在于试图用自变量来预测因变量的值。[20]

变量之间的关系可以分为两类，一是确定性关系，如函数关系；二是不确定性关系，即某个变量与另一个变量或几个变量存在一定关系，但又不能完全解释。两个变量相关并不代表在回归分析中有意义，相关性分析是没有考虑其他变量的影响，回归分析则考虑了这种影响。如一个人在河边走，走累了会喝河水，但河水有致病菌，因此会腹泻，我们做相关性分析时则会发现“在河边走”和“腹泻”相关，但调整其他变量：腹泻~河边走+喝河水+性别+年龄，我们发现“河边走”和“腹泻”之间并不显著，这是因为这种相关性可以通过“喝河水”来解释了，所以不相关了，所以这种现象很正常。[18]

需要指出的是，变量之间是否存在“真实相关"，是由变量之间的内在联系所决定的。相关分析和回归分析只是定量分析的手段，通过相关分析和回归分析，虽然可以从数量上反映变量之间的联系形式及其密切程度，但是无法准确判断变量之间内在联系的存在与否，也无法判断变量之间的因果关系。因此，在具体应用过程中，一定要注意把定性分析和定量分析结合起来，在定性分析的基础上展开定量分析。[21]

2.1 相关分析

相关分析与回归分析的逻辑关系为:先有相关关系,才有可能有回归关系。[15]

相关分析是研究两个及以上随机定量数据之间的相关关系情况，以及相关分析是研究有没有关系。相关分析是回归分析的前提条件，首先需要保证有相关关系，接着才能进行回归影响关系研究。因为如果都显示没有相关关系，是不可能有影响关系的。如果有相关关系，但也不一定会出现回归影响关系。[15]

从资料所具备的条件来说，作相关分析时要求两变量都是随机变量（如：人的身长与体重、血硒与发硒）。[16]

相关系数的计算有两种，一种叫Pearson相关系数（默认）；另外一种叫Spearman相关系数（使用非常少）。从理论上讲，数据分布呈现出不正态时则使用Spearman相关系数，但无论是Pearson或者Spearman相关系数，其实际依旧是研究相关关系，结论上并不会有太大区别；并且数据正态分布通常在理想状态下才会成立。因而现实研究中使用Pearson相关系数的情况占绝大多数。[15]