《Statistics in Medicine》:Sandwich Variance Estimation in Scale Mixture of Skew-Normal Linear Mixed Models
编辑推荐:
线性混合模型常被用于分析随时间重复测量的研究数据,此类数据中同一观测对象的多次观测之间存在相关性。然而,使用这些模型的主要挑战之一在于正确定义与误差和随机效应相关的协方差结构。为克服这一挑战,研究人员在偏态正态混合尺度线性混合模型(scale mixture
线性混合模型常被用于分析随时间重复测量的研究数据,此类数据中同一观测对象的多次观测之间存在相关性。然而,使用这些模型的主要挑战之一在于正确定义与误差和随机效应相关的协方差结构。为克服这一挑战,研究人员在偏态正态混合尺度线性混合模型(scale mixture of skew-normal linear mixed models,SMSN-LMM)中引入三明治方差估计量(sandwich variance estimator,SVE),作为估计标准误的稳健替代方案。根据定义,SMSN-LMM能够容纳偏态和重尾分布,而通过采用所提出的方差估计量,模型在允许协方差成分误设的情况下获得了更高的灵活性。研究人员给出了该估计量的定义、在该模型中的推导过程及其实际实现方法。此外,通过模拟研究,研究人员在不同场景下评估了其表现,证明了即使在模型或协方差结构被误设的情况下,该估计量仍能提供可靠的统计推断。
论文解读:偏态正态混合尺度线性混合模型中的三明治方差估计
一、研究背景与问题
线性混合模型(linear mixed models,LMM)是分析纵向数据及具有组内相关性的重复测量数据的标准工具。此类模型通过固定效应刻画变量的期望值,并利用随机效应捕捉各抽样单元内部的依赖性与变异性。然而,在实际应用中,正确设定误差与随机效应的协方差矩阵往往十分困难。经典假设的违背,如随机效应与误差分布假设的偏离,或协方差结构的误设,可能导致不恰当的统计推断以及标准误估计的偏倚。
针对这一问题,统计学家提出了多种稳健标准误估计方法。Eicker提出了异方差与相依误差模型下的渐近结果;Huber发展了处理违背同方差性或观测独立性等经典假设的稳健估计方法;White正式确立了后来被称为三明治方差估计量(sandwich variance estimator,SVE)或稳健方差估计量的方法,该方法即使在协方差结构误设时仍能提供一致的标准误估计。三明治估计量在纵向数据分析中尤为有用,其优势包括对误差结构误设的稳健性以及在异方差存在下的一致性。然而,该方法在小样本条件下可能表现出较大的变异性,且无法修正模型误设时回归系数的潜在偏倚。
在此背景下,本研究旨在基于White的研究成果,为灵活的偏态正态混合尺度线性混合模型(SMSN-LMM)开发三明治方差估计量。SMSN分布族涵盖偏态正态(skew-normal,SN)、偏态t(skew-t,ST)、偏态slash(skew-slash,SSL)和偏态污染正态(skew-contaminated normal,SCN)等分布及其对称版本。研究人员通过不同场景下的模拟研究,考察了该估计量的表现,以明确其在何种情况下能够提供可靠的估计,并识别其潜在局限性。
二、主要研究方法
本研究涉及的核心技术方法包括以下几个方面。首先,基于SMSN-LMM的似然函数框架,研究人员采用ECME算法实现最大似然估计。其次,为构造三明治方差估计量,需要计算得分函数外积的期望与海森矩阵的期望,由于这些表达式较为复杂,研究人员采用蒙特卡洛(Monte Carlo,MC)方法进行数值近似,并设计了相应的算法流程。此外,在正态混合尺度(scale mixture of normal,SMN)模型的特殊情形下,对于固定效应部分,研究人员推导了期望的闭式表达式,其中Student-t分布情形下应用了Matos等提出的命题结果,而Slash与污染正态分布则仍采用蒙特卡洛近似。模拟研究使用R软件中的skewlmm包完成模型拟合,并比较了渐近方差估计量(asymptotic variance estimator,AVE)、自助法(bootstrap)、三明治方差估计量(SVE)及蒙特卡洛标准差(MC-SD)等多种方法。
三、研究结果
3.1 模拟研究一:方法比较
研究人员生成了500组蒙特卡洛样本,在两种参数化场景下比较AVE、bootstrap与SVE方法的表现。结果表明,随着样本量的增加,所有方法的置信区间长度均缩短,覆盖率保持在接近95%的水平。在小样本条件下,渐近方法倾向于产生比其他方法更长的置信区间。SVE方法在较小样本中与蒙特卡洛方法更为接近,但对部分参数仍存在偏差。值得注意的是,对于某些参数,SVE的渐近收敛性可能未能实现,这可能是由于估计值接近边界时影响了得分函数的矩或海森矩阵的非奇异性,导致数值不稳定。在计算效率方面,AVE方法最快,SVE仅考虑固定效应时能显著减少计算时间,而bootstrap方法的计算成本最高。
3.2 模拟研究二:正态混合尺度模型
在此研究中,研究人员比较了固定效应三明治方差估计量使用精确期望(SVEF)与蒙特卡洛近似(SVEMC)的结果,并与AVE和Fisher信息逆(IF)方法进行对比。结果表明,SVEF与SVEMC的估计结果非常接近,且SVEF的值与Fisher信息逆方法计算的结果完全一致。在小样本下,AVE方法倾向于高估标准误,而随着样本量增加,各方法趋于收敛。在计算时间上,使用精确期望的SVEF和IF方法显著快于蒙特卡洛近似的SVEMC。
3.3 模拟研究三:误设情形考察
该研究考察了随机效应分布误设和误差协方差结构误设两种情形下三明治方差估计量的表现。在分布误设方面,数据由AR(2)-T-LMM生成,分别用T-LMM、N-LMM和ST-LMM拟合。结果显示,在误设存在时,AVE方法倾向于高估标准误,其中N-LMM拟合时高估最为明显;而SVE方法即使在样本量较小时也能提供更接近MC-SD的估计,表现出更强的稳健性,但在N-LMM拟合时仍存在轻微高估。在协方差结构误设方面,数据由AR(2)-T-LMM生成,分别用UNC、AR(1)和AR(2)结构拟合。SVE方法在结构误设时仍能提供接近MC-SD的估计,而AVE方法在小样本下倾向于高估标准误。误设的影响在小样本中更为显著,随着样本量增加,各方法间的差异逐渐减小。
四、实例应用与结论
研究人员使用skewlmm包中的miceweight数据集进行实例分析,该数据集来自一项评估两种饮食处理与对照组相比是否促进小鼠更快增重的临床试验,涉及52只小鼠,在10周内每周记录体重。研究采用AR(1)-SSL-LMM模型进行拟合。结果表明,bootstrap和SVE方法得到的置信区间比AVE方法更窄,且在对处理2与时间交互作用不显著的假设检验中,SVE和bootstrap方法得出相似结论,而渐近方法给出不同结果,这与其在小样本中高估标准误的倾向一致。Mahalanobis距离分析显示,AR(1)-SSL-LMM下所有距离均低于理论99%分位数,而AR(1)-N-LMM下存在超出该分位数的观测,体现了SSL分布在容纳异常观测方面的稳健性。计算时间方面,AVE方法最短(不足0.001分钟),bootstrap方法为9.96分钟,SVE方法为1.99分钟。
五、讨论与结论
研究结论指出,标准误估计是混合模型分析中的基本问题,直接影响对固定效应的推断。本研究提出的三明治方差估计量为SMSN-LMM提供了一种稳健的标准误估计途径,在协方差成分误设时仍能保持推断的可靠性。模拟研究证实,与渐近方法相比,三明治方差估计量在模型或协方差结构误设时具有更好的表现,尤其在样本量较小时优势更为明显。然而,研究也揭示了三明治方法在部分参数上可能存在的渐近收敛问题,提示在实际应用中需要结合具体情境谨慎选择推断方法。