《Systems》:A Multi-Agent Regional Traffic Signal Control System Integrating Traffic Flow Prediction and Graph Attention Networks
引言
道路基础设施在交通荷载和环境应力作用下不可避免地发生退化,及时维护对安全性和成本效益至关重要。路面管理系统依靠定期状况调查来测量路面损坏指标,如裂缝率、表面平整度和车辙深度等,以识别病害并确定维修优先级。准确、最新的数据对于及时指导维护决策至关重要,然而在大规模国家数据库中,数据缺失是常见问题。传统方法如丢弃不完整记录或应用简单插补(如插值、均值或回归估计)可能会损害数据完整性并导致后续分析偏差。
幸运的是,道路状况数据表现出强烈的空间模式,这为智能数据插补提供了机会。相邻路段在交通荷载、建设历史和气候条件上具有相似性,导致其退化速率相互关联。因此,如果某一路段的裂缝率缺失或不可靠,相邻路段(已知数据)可提供信息线索。虽然基础设施研究人员早已认识到利用空间依赖性可以改进路面建模,但先前尝试在范围和成功程度上均有限。简单的空间插值或区域平均通常无法捕捉路网中的细粒度依赖关系,许多路面管理系统仍缺乏利用空间信息处理缺失数据的稳健机制。
相关研究工作
传统插补方法依赖于简单的统计策略,如均值/中位数插补、回归插值、K近邻(KNN)方法和多重插补链式方程(MICE)。这些技术简单直接,通常适用于小型或独立同分布数据集,但通常忽略数据的空间或复杂依赖结构。随着数据集变得复杂,能够捕捉非线性模式并执行插补的机器学习方法应运而生。集成树模型,特别是随机森林,构成了MissForest算法的基础。梯度提升树(如基于XGBoost的插补)也被应用于直接预测缺失值。另一个发展方向是使用矩阵分解和低秩模型,它们假设数据存在潜在的全局低维结构。在过去十年中,深度学习技术越来越多地应用于插补,如去噪自编码器(DAE)、变分自编码器(VAE)和生成对抗网络(GAN),例如生成对抗插补网络(GAIN)。这些深度模型擅长建模时间或特征维度的依赖性,但并未固有地考虑空间依赖性。
方法论
整体框架
本研究采用专门为裂缝率插补问题定制的专家混合(MoE)框架,重点在于建模路面状况的空间异质性。工作流程始于原始路面管理系统(PMS)数据库,应用标准预处理步骤(包括特征构建和变量转换),然后进行空间聚类将道路网络划分为几个地理上连贯的簇。基于这些簇数据集,根据预定义的MCAR、MAR和MNAR机制诱导缺失值,从而为每个簇创建受控的训练场景。插补模型使用复合目标函数在这些数据上进行训练,该目标函数结合了目标裂缝率变量的均方误差(MSE)和一个对门控函数进行正则化的交叉熵项。最后,通过比较插补值与真实值来评估模型,并使用生成的误差指标来量化跨簇和缺失场景的插补性能。
该框架的核心是空间门控专家混合模型(SG-MoE)。它不依赖于单一的全局训练模型,而是采用一组专门的专家模型,其贡献由门控网络自适应地加权。对于每个路段,门控机制根据路段的空间和上下文特征确定最相关的专家。其基本直觉是,路面退化模式,特别是裂缝形成,由于气候、交通荷载和维护实践等因素在不同地理区域存在显著差异。因此,一个空间感知的集成模型可以比统一的全局模型更准确地估计缺失的裂缝率值。
为了促进稳定有效的模型训练,首先进行了特征工程和数据标准化。每个路段由特征向量x表示,包括修补量、平整度指数、曲率和观测到的裂缝率y(百分比,0到100%)。对裂缝率应用logit变换将其映射到无界连续域:z = logit?(y) = log((y + ?) / (1 - (y + ?))), ? = 10-6,以确保数值稳定性。在推理时,预测值通过逆logistic函数变换回原始尺度:? = logistic?(?) = 1 / (1 + exp(-?)) - ?。此外,还构建了强度特征,通过对修补区域进行聚合并应用对数变换来减少偏度(强度 = log(1 + 面积))。分类标识符(如路线ID、调查ID)通过目标编码进行编码,嵌入每个类别的历史平均裂缝率。在此编码过程中使用交叉验证以防止数据泄露。具有缺失值的连续特征(如平整度、车辙深度)使用其中位数进行插补,确保所有专家都有完整的特征矩阵。
为了融入地理上下文,使用路段的地理坐标通过K均值聚类将其划分为K个空间簇(区域)。在本研究中,设置K=5,得到五个不同的空间区域。这些区域作为裂缝率行为空间变异的先验指标。SG-MoE模型由两个组件组成:(1) 一个门控网络,根据输入特征为每个专家i输出权重或责任αi;(2) 一组K个专家模型f1, f2, …, fK,每个模型预测给定输入的裂缝率(在logit空间中)。门控网络被训练来学习从路段特征f(x)到K个空间簇上的概率分布的映射,有效地回答“这个路段最可能属于哪个空间区域?”。每个专家模型专门针对数据中的特定区域或模式;在训练期间,每个专家主要使用属于其区域(由门控函数确定)的路段数据。通过将它们的预测与门控权重相结合,MoE可以使其输出适应不同的条件。
在插补过程中,每个数据实例(路段)通过门控网络获得一组权重α1, …, αK,同时从所有专家模型获得预测。最终的裂缝率估计是专家输出的加权混合。门控权重类似于注意力分数,告诉我们信任每个专家的程度。对于具有特征向量f(x)的实例,如果zi= fi(x)是专家i预测的裂缝logit,则MoE在logit空间中的组合预测为zmix= ∑i=1Kαi(x) zi。这个zmix最终被变换回原始百分比尺度上的裂缝率?。我们仅用这些预测替换缺失值,任何最初观测到的裂缝率保持不变(确保不改变已知的真实值)。
空间门控MoE
SG-MoE架构通过利用基础设施数据中固有的区域特定空间依赖性来插补缺失值。该方法扩展了传统的MoE框架,在门控机制中明确嵌入了空间领域知识。概念上,SG-MoE包含多个专家模型,每个专家针对一个 distinct 的空间区域进行专门化,并由一个门控网络协调,该网络根据位置相关特征自适应地分配专家权重。通过将门控函数锚定到空间簇,该模型有效地捕捉了单一全局模型可能忽略的局部变异。
设x ∈ Rd表示给定实例的输入特征向量(包括空间坐标和其他解释变量),y表示相应的目标值(例如,传感器衍生的或基于检查的测量值),该值可能部分缺失。应用预处理变换T(·)来稳定目标分布,例如对数或z分数变换,产生变换后的目标。SG-MoE被训练来从x ∈ Rd预测变换后的值z;一旦获得预测?,逆变换将恢复原始尺度上的插补值。
SG-MoE模型由两个主要组成部分:(1) 一组K个专家预测器{E1, E2, …, EK},和(2) 一个决定它们各自贡献的门控网络G。每个专家Ei是一个回归模型(例如,神经网络或梯度提升树),产生其对变换后目标的自己的预测:?i(x)。门控网络输出专家上的概率分布,π(x) = (π1(x), π2(x), …, πK(x)),其中πi(x)表示给定输入特征向量x分配给专家i的门控概率。因此∑i=1Kπi(x) = 1。如果ai(x)表示专家i的未归一化门控logit,则通过softmax函数获得归一化权重:πi(x) = exp(ai(x)) / ∑j=1Kexp(aj(x)), i=1,2,…,K。门控网络可以实现为轻量级多层感知器(MLP)或任何其他可微分的分类器,它以输入特征向量x(特别是空间属性)作为输入。给定门控概率和专家输出,变换后目标的最终混合预测表示为?(x) = ∑i=1Kπi(x) ?i(x)。原始尺度上的最终预测为?(x) = T-1(?(x))。
模型参数通过最小化?(x)与观测z之间的均方误差(MSE)进行优化:Limpute= (1/N) ∑n=1N(zi- ?i)2。
SG-MoE的一个主要创新在于其空间锚定的门控机制,这使其与传统的MoE架构有根本区别。在标准MoE中,门控网络仅基于预测误差进行优化,从而在没有显式空间指导的情况下隐式划分特征空间。相比之下,SG-MoE通过将专家与预定义的或数据驱动的空间簇对齐,引入了显式的空间监督。
假设研究域被划分为K个空间簇,这是通过使用聚类算法(如k-means或DBSCAN)或利用行政分区获得的。让c(x) ∈ {1,2,…,K}表示与输入x相关的簇索引。然后每个专家Ei被分配给一个特定的簇i,使其专门学习该区域内的数据分布。在训练期间,门控网络通过这些簇标签进行引导,通过一个辅助的交叉熵损失函数:Lgating-cluster(x) = -log πc(x)(x),该损失鼓励门控网络将更高的概率分配给与实例自身空间簇对应的专家。SG-MoE的整体训练目标因此整合了插补准确性和空间一致性,表示为Ltotal= Limpute+ λ Lgating-cluster,其中λ控制了预测性能和空间一致性之间的权衡。
模型实现与超参数
门控网络实现为一个轻量级多层感知器(MLP),将每个输入特征向量映射到K=5个空间专家上的分布。具体来说,MLP包含两个隐藏层,分别有64和32个神经元,每个后面跟随ReLU激活和0.1的dropout率。输出层应用softmax产生专家权重g(x) ∈ Δ(K-1)。选择此架构是为了(i) 使路由计算相对于专家推理可忽略不计,以及(ii) 减少过拟合,因为路由由粗粒度空间簇监督。
每个专家fk(·)是一个LightGBM回归器,训练用于预测变换后的裂缝率。采用梯度提升决策树作为专家,因为它们在大型表格数据上提供最先进的性能,自然处理非线性特征交互,并能高效扩展到数百万行数据集。除非另有说明,所有专家共享相同的超参数以隔离空间路由的影响:learning_rate = 0.05, num_leaves = 64, max_depth = -1, n_estimators = 300, subsample = 0.8, colsample_bytree = 0.8, L2正则化 = 0.001。
SG-MoE目标结合了插补回归损失(观测裂缝率在logit空间上的MSE)和一个将门控输出与k-means空间簇标签对齐的辅助交叉熵损失。基于初步敏感性检查设置权衡系数λ=0.1,并使用Adam优化器(learning_rate = 0.001)优化门控网络。
性能指标
为了评估插补准确性,报告平均绝对误差(MAE)、均方根误差(RMSE)和对称平均绝对百分比误差(sMAPE),在掩膜的裂缝率条目上计算并平均超过五个随机种子(平均值±标准差)。
MAE测量误差的平均幅度,单位与裂缝率相同,定义为MAE = (1/N) ∑i=1N|yi- ?i|。MAE直观且对异常值稳健,提供了典型插补误差的可靠度量。
RMSE是平均平方误差的平方根,由RMSE = √[(1/N) ∑i=1N(yi- ?i)2]给出。通过对误差项进行平方再平均,RMSE更严重地惩罚较大的误差,使其成为当大的偏差特别不受欢迎时的保守指标。
sMAPE以百分比评估相对误差,用于尺度无关的评估,定义为sMAPE = (100/N) ∑i=1N[ |yi- ?i| / (( |yi| + |?i| ) / 2) ],表示为百分比。该指标计算每个点的绝对误差,通过实际值和插补值的平均值进行归一化,确保误差贡献相对于yi和?i是对称的。
由于维护优先级由严重病害驱动,还报告了尾部聚焦的误差:(i) 插补条目上绝对误差分布的P90和P95,量化最坏情况行为,和(ii) 严重性加权的MAE,wMAE = (∑iwi|yi- ?i|) / (∑iwi),其中wi= 1 + γ · (yi≥ τ) 对严重裂缝进行加权(例如,τ = 20%裂缝率,γ = 4)。
实验设计与结果
数据描述
研究使用来自2022年路面管理系统的道路状况数据集。每条记录代表一个特定的路段及其相应的状况数据。数据集包括空间属性,如纬度、经度、路线标识符和链距。路面状况指标包括左右轮迹的车辙深度(mm)和国际平整度指数(IRI)。路面病害指标涵盖线性裂缝长度、修补面积、鳄鱼裂缝面积和坑洞面积。其他变量包括交通量以及几何特征,如横坡、纵坡(百分比)和曲线半径(米)。这些多样的特征共同为预测或插补路面裂缝率提供了必要的空间和结构上下文。
数据集总共包含约2,430,759个路段观测值,跨越多条路线和地理区域。目标变量裂缝率(%)的分布呈现强烈的右偏,低裂缝率值高度集中,并向严重退化方向有长尾。这种不平衡对于解释模型行为很重要,因为高裂缝区域的误差在标准聚合指标中可能相对代表性不足,尽管在实际中至关重要。
数据划分
为了确保插补模型的稳健开发和评估,将总共2,430,759个路段观测值的数据集划分为训练集、验证集和测试集,遵循70:15:15的比例。训练集(70%)约1,701,531条记录,用于训练专门的专家和空间监督的门控网络。验证集(15%)约364,614条记录,用于超参数调优(如确定权衡系数λ)和估计验证误差以优化基线比较中的集成权重。测试集(15%)剩余的364,614条记录作为独立测试集。在每个实验运行中,该集合中的裂缝率值根据规定的缺失机制进行掩膜,作为插补的目标。然后将模型的预测与这些记录的真实值进行比较以计算准确性指标。
实验设置
设计实验来评估在三种不同缺失数据机制下缺失裂缝率值的插补性能。每种情况下,数据集中一部分裂缝率条目被人工移除(视为缺失),模型的任务是使用剩余的特征预测这些缺失值。三种缺失场景如下:(1) MCAR,裂缝率值完全随机缺失(即,在所有路段上均匀移除,独立于任何特征);(2) MAR_intensity,一种随机缺失机制,其中值缺失的概率受一个观测特征影响,即“修补强度”(具有较高修补面积的路段其裂缝率更可能被省略,反映了数据可能优先缺失于具有某些观测特征的场景);(3) MNAR,一种非随机缺失场景,其中缺失取决于裂缝率本身的真实值(具体来说,具有更严重裂缝的路段其裂缝率值更可能缺失)。这种MNAR设置尤其具有挑战性,因为缺失条目偏向于最高的裂缝率,这些值极端且可能最难预测。对于每种机制,测试了三个缺失水平:移除10%、30%和50%的裂缝率值。对于MNAR机制,将缺失概率建模为裂缝严重性的logistic函数,p(M=1|y) = σ(α · zy+ β),其中zy是裂缝率的标准化logit,σ是sigmoid函数。然后从M~Bernoulli(p)中抽取以选择缺失条目。这产生了一个原则性的值依赖机制,其中高严重性路段更可能缺失。
除了单一的全局LightGBM基线外,还包括三个更强的比较器以隔离空间门控的效果:(i) 硬簇级LightGBM(Hard-Cluster):为每个空间簇训练一个LightGBM,并确定性地将每个路段分配给其簇专家;(ii) 单一LightGBM + 空间特征(Single + Spatial):一个单一的LightGBM,增加了纬度/经度和簇ID特征;(iii) 无空间监督损失的MoE(MoE-noCE):相同的MoE架构,但在训练时没有将门控输出与空间簇对齐的辅助交叉熵损失。还通过重复K ∈ {3, 5, 8, 10}的实验来评估对专家数量(K)的鲁棒性。
实验结果
SG-MoE首先得到定义其区域特定专家的空间聚类结果的支持。通过将空间聚类应用于所有路段的经纬度坐标,将国家道路网络划分为五个空间连贯的区域。这种分区减少了路面状况和退化模式的簇内异质性,并作为在SG-MoE中将观测分配给专家的结构基础,从而使门控机制能够利用大规模空间结构。
在此基础上,接下来检查门控机制是否以与预期设计一致的空间结构化方式行为。可视化五个专家的平均门控权重的空间地图表明,专家贡献是地理局部化的,而权重在区域过渡附近平滑变化,与边界区域的软混合一致。
为了验证所提出的基于学习的模型得到适当训练和验证,报告了训练和验证收敛诊断。门控网络跨周期的学习曲线,分解为预测损失和交叉熵监督项,以及LightGBM学习曲线显示了全局基线和代表性专家的训练和验证损失随提升迭代的变化。这些结果说明了优化行为,并通过比较训练和验证轨迹促进了对泛化能力的评估。
然后将SG-MoE的插补性能与基线单一LightGBM模型在三种缺失数据机制(MCAR、MAR和MNAR)下进行比较,每种机制在10%、30%和50%的缺失率下进行评估。误差指标(MAE、RMSE、sMAPE)在每种场景和缺失率组合下超过五次独立运行的平均值和标准差。
在MCAR场景下,数据完全随机缺失,提出的SG-MoE模型表现出相对于单一基线持续更优的插补准确性。在10%缺失率下,MoE实现了平均MAE为6.02±0.01,略低于基线的6.07±0.01。它还获得了 marginally 更低的RMSE和sMAPE。值得注意的是,将缺失比例增加到30%和50%并不会显著降低任一模型的性能,MAE和sMAPE在这些水平上几乎保持不变。MoE在每个缺失率下保持其优势,尽管差异不大。五次运行中的最小变异进一步证实了MoE性能的稳定性,并强调了其对随机缺失的鲁棒性。
在MAR场景下,缺失与观测到的强度特征相关,两种模型实现了非常相似的性能,MoE与基线匹配,甚至在某些指标上提供了轻微改进。跨所有缺失率(10%、30%、50%),两种模型的误差水平保持在一个狭窄的范围内。观察到的小差距(通常sMAPE<0.5%)落在运行间变异性内,表明在MAR下MoE和基线之间没有统计学上显著的性能差异。
MoE模型的优势在MNAR场景下最为明显,其中缺失取决于目标裂缝率值(一个特别具有挑战性的情况)。仅有10%的数据缺失,集中在最高裂缝率的实例中,基线表现出非常高的误差。相比之下,MoE有效地将误差降低到更低的水平,在sMAPE上实现了约0.8个百分点的改进(约1.1%的相对减少)。这种优越的性能在更高的缺失率