《British Actuarial Journal》:Privacy preserving neural network predictive modelling in insurance using horizontal federated learning
编辑推荐:
为解决保险公司在数据稀缺与隐私保护双重压力下无法协同建模的难题,研究人员针对“隐私保护的神经网络预测建模”这一主题,利用水平联邦学习(FL)技术开展研究。他们创建了一个模拟的10家保险公司汽车保险市场,发现通过FL构建的集体模型,在未共享任何敏感客户数据的前提下,其预测精度(暴露加权泊松偏差解释率5.34%)接近数据完全共享的集中式模型(5.57%),显著优于各公司独立建模(最高3.82%)。该研究为保险业在严格数据监管下实现安全协作、提升模型性能提供了创新性解决方案。
在“大数据”时代,保险公司却常常陷入一种窘境:一方面,精准的预测模型,例如用于评估理赔频率的神经网络,需要海量数据“喂养”才能茁壮成长;另一方面,这些数据——客户的历史理赔记录、健康状况、驾驶行为等——恰恰是公司最核心的商业机密,也受到诸如欧盟《通用数据保护条例》(GDPR)等严格法规的保护。保险公司之间既渴望合作“共享数据红利”以提升模型精度,又对数据泄露风险、合规成本以及商业机密外流充满担忧。这种矛盾在面临新兴风险、推出新产品或数据稀缺(如预测超高龄人群死亡率)时尤为突出。传统的做法,要么是“闭门造车”,各自用有限的数据训练效果欠佳的模型;要么是寻求一个可信的第三方(如再保险公司、行业协会)来集中汇总数据,但这又带来了新的信任、安全和合规负担。有没有一种“鱼与熊掌兼得”的方法,能让保险公司在不移动、不泄露原始数据的前提下,共同训练出一个强大的预测模型呢?
这篇发表在《British Actuarial Journal》上的论文给出了一种充满前景的答案:联邦学习(Federated Learning, FL)。这项最初由谷歌为智能手机文本预测而开发的技术,其核心理念是“送模型到数据边”,而非“送数据到模型边”。研究人员巧妙地将这一理念应用于保险行业,旨在破解数据隐私与协同建模的悖论。
为了验证联邦学习在保险领域的可行性,研究人员开展了一项系统的实证研究。他们利用公开的法国汽车保险理赔频率数据集(freMTPL2freq)模拟了整个保险市场的理赔经验,并将其随机分配给10家虚拟的保险公司,以模仿数据分散且私有的市场现状。研究设定了三种对比场景:1. 全局模型场景:理想情况下,所有公司无私共享数据,集中训练一个模型;2. 局部模型场景:现实中最保守的情况,各公司仅用自己的数据独立训练模型;3. 联邦模型场景:各公司保留数据,但通过FL协议协作训练一个共享模型。研究的关键在于比较这三种场景下模型在未见测试集上的预测性能,评估指标为暴露加权泊松偏差解释率(%PDE)。
本研究主要应用了以下几项关键技术方法:首先是水平联邦学习(Horizontal FL)框架,它要求参与方(保险公司)拥有相同的特征集,但不同的数据样本(客户)。其次是联邦平均(Federated Averaging)算法,即由中央协调方(如监管机构)初始化全局模型,分发给各公司本地训练,然后聚合(平均)各本地模型更新后的参数,形成改进的全局模型,如此迭代。最后,为了进一步提升安全性,研究提出并采用了一种基于成对掩码(Pairwise Masking)的安全聚合策略,该策略灵感来自粒子物理的“粒子-反粒子”湮灭概念,确保中央方在无法解密的情况下仍能正确计算模型参数的平均值,从而防止参数本身在传输和聚合过程中泄露信息。
联邦学习理论基础与框架
研究首先阐述了FL与传统机器学习的根本区别。传统方法需要将分散各处的数据集中到一处进行训练,而FL则将模型发送到数据所在地。具体流程包括:中央服务器初始化全局模型;各参与方在本地用自己的数据训练模型,得到本地模型参数;各方向中央服务器上传加密后的参数更新;中央服务器聚合(如平均)这些更新,生成新的全局模型并下发。如此循环,称为“通信轮次”。这个过程使得原始数据始终保留在本地,只有模型参数(或经过加密的更新)被传输,极大地保护了数据隐私
面向保险业的安全聚合策略
尽管FL不传输原始数据,但直接传输的模型参数仍可能隐含敏感信息。为此,论文提出了一种适用于保险公司的安全聚合改进方案。其核心是“成对掩码”技术:在每轮通信中,每个保险公司会为其他每个公司生成一个随机数(称为“粒子”)并安全发送给对方。每个公司随后计算一个“掩码后模型参数”,即在自己的真实模型参数上加上自己发送给所有人的“粒子”之和,再减去自己从所有人那里收到的“粒子”(称为“反粒子”)之和。这个掩码后的参数被发送给中央聚合方。由于“粒子”和“反粒子”是成对生成且数值相反,在中央方对所有掩码后参数求和时,它们会相互抵消,从而正确得到真实参数的总和与平均值,而中央方自始至终都无法得知任何一家公司的真实参数值。
实验设计与关键发现
研究通过在freMTPL2freq数据集上的模拟实验,验证了FL的有效性。将数据分割后,80%作为训练集(进一步模拟分给10家公司),20%作为统一的测试集。使用前馈神经网络进行理赔频率预测建模。结果表明:在全局模型场景下,即数据完全共享时,模型能达到最佳的5.57% PDE。在局部模型场景下,任何一家公司仅用自己的数据训练的最佳模型,其PDE不超过3.82%,平均仅为3.20%。而在联邦模型场景下,通过FL协作训练出的共享模型,取得了5.34%的PDE。这一结果清晰地表明,联邦学习使得保险公司在完全不共享客户数据的前提下,能够构建出预测能力远超独立建模、并接近理想化数据共享水平的模型。
联邦学习的优势、考量与挑战
论文不仅展示了FL的成功应用,也客观讨论了其优势与适用范围。FL的优势包括:提升模型准确性、丰富数据多样性、有效缓解风险、促进合规、提升企业伦理形象以及推动行业进步。同时,研究也指出了应用FL时需考虑的几点:监管限制、特征同质性要求(水平FL要求所有参与方使用完全相同的特征集)、变量异质性、数据贡献不平衡、信任与安全忧虑以及增加的复杂性与时间成本。例如,市场主导者可能认为自己的数据贡献多而获益少,需要建立奖励机制。此外,FL的训练时间通常比集中式训练更长。
研究结论与意义
本研究的核心结论是,水平联邦学习为保险公司在严格遵守数据隐私法规的前提下,进行有效协作与联合建模提供了切实可行的技术路径。通过模拟实验证明,该方法能够在不泄露任何敏感原始数据的情况下,训练出与数据集中化训练相媲美的预测模型,显著优于任何单一参与方独立训练的模型。这项研究的意义在于:首先,它为解决保险业长期存在的数据孤岛与建模需求之间的矛盾提供了创新解决方案。其次,研究提出并演示的定制化安全聚合策略,增强了FL在商业环境中的应用可行性与安全性。最后,它展示了将最初为消费级设备(如手机)设计的隐私计算技术,成功适配并应用于受严格监管的金融保险行业的潜力,为行业在数字化时代利用数据价值同时履行隐私保护责任指明了方向。尽管存在部署复杂性和协调成本等挑战,但联邦学习无疑为保险业的未来协作模式开辟了一条充满希望的新道路。