时间序列中基于最小二乘法的置换检验

《Journal of Statistical Planning and Inference》:Least squares-based permutation tests in time series

【字体: 大 中 小 】 时间:2026年09月27日 来源:Journal of Statistical Planning and Inference 1.1

编辑推荐:

   • 研究了在弱依赖条件下时间序列设置中回归参数及时间序列趋势的置换检验。 • 尽管置换会破坏依赖结构,但研究证明置换检验提供了一种有效的方法。 • 我们编写了一个R包 permixOLS,实现了第3节和第4节的方法。该包公开可用,地址为 https://github.com/

  

• 研究了在弱依赖条件下时间序列设置中回归参数及时间序列趋势的置换检验。
• 尽管置换会破坏依赖结构,但研究证明置换检验提供了一种有效的方法。
• 我们编写了一个R包 permixOLS,实现了第3节和第4节的方法。该包公开可用,地址为 https://github.com/mtirlea/permixOLS ,可以在R中直接通过 remotes::install_github("mtirlea/permixOLS", build_vignettes = TRUE) 安装。论文中的检验以普通R函数的形式提供,返回标准的 htest 对象。

## 引言

在所有定量科学领域中,评估解释变量与响应变量之间关系的问题至关重要。最常用的经典方法是普通最小二乘法(OLS)回归,该方法涉及构建特征矩阵 X 和响应向量 Y,并计算样本回归系数 β? 作为协变量 X 与响应变量 Y 之间非条件线性回归系数 β 的估计值。计算 β? 通常伴随着对零假设 H0: β=0 的检验,因为确定哪些回归系数显著不同于0往往是极其重要的。一般地,这类检验将残差平方和与参考零分布进行比较,在此过程中对样本对 (Xi, Yi) 做出参数化分布假设——通常假设 (Xi, Yi) 是联合高斯的——并且通常假设样本对是独立的。在时间序列分析的背景下,这两个假设通常都不成立,因此由此类假设检验得出的任何推论都可能是完全错误的。

此外,OLS回归还常用于在时间序列分析中检验单调趋势:即对于一个序列 {Xi: i∈[n]},将序列 {Xi: i∈[n]} 对索引 {i: i∈[n]} 进行回归,并执行单变量t检验来评估所得回归系数是否显著不同于0。然而,在零假设下存在一个隐含假设,即 Xi 是独立同分布的,因此这样的检验可能因为独立性被违反(而非因为确实存在某种单调趋势)而导致拒绝"无单调趋势"的零假设(对于某种定义而言)。

在这篇论文中,我们提出了非参数检验方法,用于检验经典的回归非显著性零假设 (1.1) 以及线性回归的无单调趋势零假设 H0(m): {Xi: i∈[n]} 不表现出单调趋势,其中无单调趋势的定义将精确陈述。

上述问题在不同背景下已被广泛研究。Durbin(1960)在时间序列设置中估计回归参数,Tsay(1984)考虑了一个误差服从自回归过程的线性模型,Tran等人(1996)考虑了在具有时间依赖误差的回归设置中恢复回归函数的问题,Kedem和Fokianos(2002)讨论了时间序列背景下回归的几种不同方法,而Wang等人(2008)和Wang与Keilegom(2007)考虑了时间序列回归分析背景下的非参数检验。

在线性回归基于置换的检验设置中,Anderson和Robinson(2001)提出了一种基于偏相关系数的置换检验,Nyblom(2015)讨论了几种基于回归的置换检验,DiCiccio和Romano(2017)讨论了相关性检验和回归系数检验,而在一个更偏经验性的设置中,Hemerik等人(2021)对高维线性回归问题中的置换检验进行了经验分析。在Romano和Tirlea(2022)中,为时间序列设置中检验自相关系数开发了置换检验。

这些论文都没有考虑观测值可能具有时间依赖性的最小二乘回归问题。事实上,在线性模型中,置换检验仅在误差独立同分布时才被考虑。相比之下,我们允许相当一般的时间依赖平稳过程。不用说,独立同分布过程的类(即使误差分布不是参数化建模的),相比此处考虑的平稳过程类来说要小得多。因此,技术论证比DiCiccio和Romano(2017)中考虑的独立同分布情况更具挑战性。或许更令人惊讶的是,置换检验完全破坏了观测值的时间顺序,但在此类一般背景下仍可使用。其他重采样方法,如块自举法或平稳自举法,需要生成新数据集,这些数据集隐含地捕捉了观测值的基础依赖结构。然而,我们将在弱条件下获得渐近有效性,并得到在误差独立同分布时成立的精确有限样本方法。

因此,本文的目标是开发一个框架,将置换检验作为检验上述两个假设的有效方法,该框架在随机化假设下保持精确性属性,但对于大量弱依赖序列也是渐近有效的。置换检验(作为随机化检验的一个特例)在随机化假设成立时提供精确的α水平检验;参见Lehmann和Romano(2022),第17章。因此,它们为在某些复杂的半参数和非参数设置中进行有效推论提供了一种手段。然而,问题在于如果随机化假设不成立,它们通常会失效。例如,当检验回归系数为0的零假设时,随机化假设对解释变量的置换成立的条件是解释变量与响应变量独立。但当然,即使在存在依赖性的情况下回归系数也可能为0,在这种情况下I型错误率可能会严重膨胀,甚至渐近地如此。但正如Romano和Tirlea(2022)第1节所述,越来越多的文献表明,对于某些(学生化的)检验统计量的选择,可以恢复渐近有效性,同时在随机化假设成立时保持有限样本中的精确性。本文语境下的挑战在于,我们允许解释变量和响应变量依赖,同时也允许跨时间的观测值依赖。在这样的设置下,置换是否应提供有效的推论方法并不明确,但我们的发现确实是积极的。

为了对结果提供一些直觉,考虑一个在零假设下具有某种极限分布(记为F0,当然可能依赖于未知参数)的检验统计量。置换分布(正式定义见后文(2.5))是在协变量 X 的所有置换上重新计算的检验统计量的经验分布。由于置换检验在 X 和响应 Y 独立时的独立同分布情况下是精确的,因此合理预期在这种情况下的置换分布将(至少渐近地)逼近F0。但我们要考虑的是 X 和 Y 依赖以及可能存在序列依赖性的设置。在这种情况下,置换分布破坏了 X 和 Y 之间的任何关系,因此置换分布的行为将大约像基于独立同分布数据 (X?, ?) 那样,其中 X? 与 X 具有相同的分布,? 与 Y 具有相同的分布,但 X? 和 ? 是独立的。一般来说,极限置换分布可能与真实的极限分布不同,因为 (X, Y) 和 (X?, ?) 下的极限分布通常不同。然而,如果无论依赖关系如何,检验统计量的构造都具有不依赖于任何未知参数的极限分布(这有时称为渐近枢轴量),那么置换分布将逼近这个共同分布,无论依赖关系如何(在弱假设下)。构造渐近枢轴检验统计量的一种方法是考虑一个渐近正态的估计量,并将其学生化(即除以一个适当的标准差估计量),只要它是在一般依赖条件下有效估计即可。这将是我们的方法,技术结果支持这一直觉。

第2节提供了几个有用的初步定义和结果。与零假设 H0 相关的主要结果给出在第3节,其中我们给出了当 {Xi: i∈[n]} 是满足相对标准矩条件和技术混合条件的平稳α混合序列时,置换检验渐近有效的条件。应用包括回归参数、自相关系数和互相关系数的推断。第4节给出了无单调趋势假设下置换检验渐近有效性的主要结果。使用回归估计量来检测趋势已被广泛建议;参见Good(1994)和Rajaratnam等人(2015)。然而,此处的问题和某些技术方面与第3节有很大不同,因此这些结果不是先前结果的特例。特别是,索引回归量不是平稳的和有界的。更重要的是,替代假设的类现在是非平稳的,这可能导致置换检验出现困难;参见例4.1。然而,通过对替代假设的类施加一个共同的限制,我们确实获得了一些积极的结果,尽管该类的范围仍然相当大。第5节提供了模拟结果以说明这些发现。由于上述各节中证明结果的性质是技术性的,证明被推迟到补充材料中。第3节(检验回归系数)和第4节(使用最小二乘法检验单调趋势)的方法已在R包 permixOLS 中实现,可用地址为 https://github.com/mtirlea/permixOLS ,其中包含了在小型数据集上复现回归检验中每个量的工作示例。

### 章节摘要

**预备知识**

在本节中,我们建立将在第3节中使用的记号和定义,此外还提供一个有用的中心极限定理。我们从对α混合的简要讨论开始。设 {Xn, n∈Z} 是一个平稳随机变量序列,适配于滤子 {Fn}。设 Gn = σ{Xr: r≥n}。对于 n∈N,令 αX(n) 为Rosenblatt的α混合系数,定义为 αX(n) = sup_{A∈F0, B∈Gn} |P(A∩B) ? P(A)P(B)|。如果当 n→∞ 时 αX(n)→0,我们称 {Xn} 是α混合的。对于一个关于 (Ω, F, P) 可测的取值于Rd的随机变量……

**检验回归系数**

在本节中,我们考虑检验零假设 (1.1) 的问题,其中 β=β(Y,X) 是 (2.3) 中定义的非条件回归系数,在序列 {(Yi, Xi): i∈N}?R×Rp 是平稳且α混合的设置下。如第2节所述,当随机化假设成立时,可以构造零假设 H0 的置换检验,在有限样本中具有精确的α水平。然而,如果随机化假设不成立,检验可能即使在……情况下也不有效。

**使用最小二乘法检验单调趋势**

在本节中,我们考虑非参数回归模型 Yn,i = Xn,i + λn,i,其中 {Xn,i: n∈N} 是逐行平稳的α混合实值随机变量的三角阵,{λn,i: n∈N, i∈[n]} 是实值常数的三角阵,使得 λn,i = g(in) 对于某个(未知)连续单调函数 g。只有 Yn,i 被观测到。我们专注于检验三角阵 {Yn,i} 不表现出任何单调趋势的零假设,即 H0(m): g(x)≡C 对所有 x∈[0,1] 成立,使用一个……

**模拟结果**

在本节中,我们提供了Monte Carlo模拟以说明我们的结果。特别地,本文的结果是渐近的。因此,我们寻求模拟在回归设置和趋势检验设置下各种零假设情景的有限样本拒绝概率,并将其与名义水平α进行比较。第5.1节提供了多元最小二乘置换检验在非条件下……的性能模拟结果。

## 结论

当可交换性这一基本假设不一定成立时,除非对问题底层参数满足严格条件,否则置换检验是无效的。例如,基于标准OLS样本回归系数的零假设 H0: β=0 的置换检验,只有当 ΣX?1ΓΣX?1(如 (2.6) 中定义的)等于 σY2ΣX?1 时才是渐近有效的。因此,必须正确解释对零假设的拒绝,因为用此置换检验拒绝零假设并不意味着……

## 生成式AI和AI辅助技术在稿件准备过程中的声明

在准备本工作过程中,作者使用了Claude(Anthropic)来协助开发配套的R包 permixOLS,并核查稿件陈述与该实现是否一致。所有数学内容、证明和模拟设计均为作者原创。作者审查和编辑了所有产生的文本和代码,并对发表内容承担全部责任。

## 致谢

两位作者均获得了美国国家科学基金会拨款MMS-1949845的支持。

Joseph P. Romano | Marius A. Tirlea
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号