《Frontiers in Public Health》:Advancing health equity in proactive health management: from data underrepresentation and algorithmic bias to a closed-loop governance framework
主动健康管理(PHM)依赖可穿戴设备、移动健康应用及人工智能(AI)技术对个体健康状况进行持续监测,从而支持风险分层与早期干预。此类技术效力的根本前提是训练数据能否充分代表目标人群。由社会健康决定因素(SDoH)与数字鸿沟所驱动的患者生成健康数据(PGHD)结构性缺口,导致高风险群体在训练数据中出现系统性代表性不足。该代表性不足逐级渗透至模型开发与部署阶段,引发预测偏差、脆弱人群风险遗漏以及卫生资源错配。为整合该领域现有证据,研究人员开展了一项叙述性综述,检索PubMed、Web of Science及Scopus数据库中2015年1月至2026年2月间发表的同行评议文献,检索词涵盖主动健康管理、人工智能、算法偏见及健康公平等。最终纳入并主题化综合分析108篇符合预设纳入标准的文献。本综述分析了PHM中数据代表性不足的驱动机制,并追溯预测偏见如何在模型开发与部署过程中逐级累积,进而导致健康不公平。研究人员识别出PHM中的公平风险源于三类因素的交互作用:社会不平等结构、数据收集机制与预测目标设计。由于上述驱动因素贯穿PHM全生命周期,解决公平问题需要系统性、全链条的治理而非孤立的技术调整。因此,本文提出了一套涵盖定向数据采集、公平性约束机制、部署前亚组审计及部署后持续监测的综合闭环治理框架。通过将公平性从技术条件提升为核心系统性原则,该框架旨在保障PHM全生命周期中的健康公平。
3 主动健康管理中预测偏差的形成机制
PHM中算法偏见及由此产生的健康不公平风险并非源于孤立的技术错误,而是在数据收集、模型训练与临床部署过程中逐渐累积。将预测偏见重新概念化为累积性生命周期轨迹,该框架展示了上游数据采集阶段代表性不足如何不仅被直接传递,更在模型开发阶段被主动放大,最终通过临床部署决策实现制度化。通过将数据基础设施不平等、经验风险最小化(ERM)及错位的预测目标进行结构性关联,该视角完整捕捉了社会结构性劣势如何转化为差异化的预防性照护。
3.1 代表性不足:PGHD中的非随机缺失
PHM依赖由患者持续生成的生理与行为数据。PGHD数据流的缺失很少是随机的,而与社会健康决定因素及数字鸿沟直接相关。不同群体在设备拥有率和基础数字素养方面存在差异,移动健康应用的持续使用也因收入水平、地理位置和教育背景而异。问题不仅在于样本量小,更在于目标人群覆盖不全:最需要临床干预的患者往往最不可能出现在训练队列中。
数据差距不仅体现在获取层面,测量质量本身在不同群体间也存在差异。基于光电容积脉搏波描记法(PPG)的心率估算可能因黑色素对光学信号采集的干扰,在肤色较深个体中产生降低的准确性。长期监测还受信号噪声、传输中断和患者依从性下降的影响,纵向风险评估的稳定性被削弱。数据连续性与技术可靠性和初始采集同等重要。
一个具体的国际性案例是脉搏血氧测定,其与共基于PPG的监测技术共享光学传感原理。近期系统综述显示,脉搏血氧仪可能在肤色较深个体中高估动脉血氧饱和度,增加未被识别低氧血症的风险。该问题在COVID-19大流行期间尤为凸显,当时居家氧监测和远程脉搏血氧测定被广泛应用。在英国,来自居家监测及国家医疗服务体系(NHS)临床环境中使用的脉搏血氧仪证据引发特别关注:肤色相关的测量误差可能导致对种族多样化人群呼吸恶化识别的不平等。该案例与PHM直接相关,因为有偏差的生理测量可从临床监测设备传递至可穿戴传感器和远程监测平台,在数据生成的最早阶段即嵌入不平等性。
当多种社会劣势叠加时,这些差距被进一步拉大。电子健康记录(EHR)为这一过程增添了额外复杂性:记录反映的是既往医疗服务获取和诊断路径的差异,而非客观的生物学需求。在中低收入国家,EHR衍生标签可能特别容易受到偏见影响,因为高血压、糖尿病和慢性肾病等慢性病常被漏诊、治疗不足、编码不一致或仅在数据来源或仅在疾病晚期才被记录。近期全球证据显示,主要非传染性疾病的诊断、治疗和控制覆盖率在不同国家和收入群体间仍高度不均衡,尤其是高血压和糖尿病。结构性不平等通过训练数据嵌入算法系统,历史偏见在模型中持续存在。
3.2 偏见放大:模型开发中的分布错配
上游数据缺口进入模型开发阶段后不会自我纠正,反而被进一步放大。现实世界中的健康数据分布很少稳定,基于稳定行为模式训练的模型可能在资源受限或数据波动的环境中无法泛化。性能下降、敏感性降低、校准不良、风险分层不可靠。当跨区域部署或算法从三级医院转移至基层诊所时,这些问题更为突出。同一决策阈值在不同临床环境中的实际意义并不相同。
现实世界验证研究表明该问题并非仅停留在理论层面。在英国,包括源自弗雷明汉风险评分传统的心血管风险预测工具在内的早期模型,主要从不能完全代表当代英国初级保健种族多样性的人群中开发。随后在多种族英国队列中的评估显示,该模型在白种欧洲人、南亚人和英国黑人群体间存在可变的校准。QRISK系列算法(包括QRISK3和QR4)的迭代开发纳入了种族、剥夺状况和合并症等变量并明确评估亚组校准,这不应被理解为分布偏移已被消除的证据。相反,它表明源自大型但人口分布不均数据集上的模型需要主动进行亚组验证和重新校准,方能安全应用于多样化人群。连续算法更新的必要性反映了PHM的一个持续性挑战:当患者特征、合并症模式、文档实践和数据完整性与衍生队列不同时,同一模型在不同群体间可能产生系统性差异的误差水平。
脓毒症预测中也报告了类似问题。机器学习脓毒症预测模型的外部验证研究表明,在一家医院或卫生系统中开发的算法转移至其他临床环境时,可能出现判别力或校准的下降。这些发现表明,生理基线、疾病负担、临床工作流程、文档实践和数据基础设施的差异如何产生分布偏移并损害模型的可迁移性。
多数群体优势加剧了这一问题。ERM训练在整个训练人群上优化平均性能,意味着来自多数群体的高频模式获得不成比例的权重,而少数群体或代表性不足群体特有的风险信号可能对学习到的决策边界影响有限,被降格为统计噪声。近期关于公平经验风险最小化和医疗AI公平性的研究进一步表明,当训练数据不平衡或亚组风险未被充分代表时,仅聚合优化不足以保障可靠的亚组性能。模型在整体评估中可能显示较高的受试者工作特征曲线下面积(AUROC),但对于长尾人群中的个体,同一模型可能伴随高假阴性率(FNR)和不良校准。总体性能指标掩盖了这些公平性缺口和公平风险,亚组层面的评估构成PHM系统的必要条件。
偏见放大程度因具体临床任务而异。在稳定环境中执行的简单预测任务亚组差异有限;连续行为监测和长期依从性模型更容易出现问题。技术偏见受部署条件约束,并非静态的模型缺陷。
3.3 价值错位:代理变量与预测目标中的假设
预测目标的定义也会引入偏见。研究人员常以医疗支出或服务利用频率等代理指标衡量健康状况,而难以实际测量真实健康状况。此类指标反映的是经济能力和保险覆盖范围,而非真实疾病负担。脆弱群体即使面临同等或更大的健康风险,医疗支出更少、就诊次数更少。因此,预测系统可能系统性低估这些人群的实际临床需求。Obermeyer等人证明,使用医疗成本作为风险指标将系统性低估贫困患者的疾病负担,并将资源重新分配给实际健康状况更好的患者。
英国境外的一个平行案例涉及估算肾小球滤过率(eGFR)方程。在英国,肾功能估算中历史使用的基于种族的校正因子受到质疑,因为它可能改变黑种人群的肾功能估算值,影响临床解读、转诊阈值以及专科护理或移植的资格审查。该案例说明了价值错位如何源于嵌入代理变量构建中的临床惯例,独立于数据量或模型复杂性。换言之,偏见不仅可通过缺失数据或模型优化引入,也可通过用于定义算法被要求预测内容的临床假设引入。
临床阈值的设定也需要关注。基于一般人群数据校准的风险阈值,在特定年龄、性别或社会经济群体中的效果不理想。不同人群采用统一决策规则,结果分布将不平等。偏见的根源出现得更早,源于标签定义和代理变量选择阶段,这些常被视为常规方法学惯例而未得到充分审视。
上述三个环节——代表性不足、偏见放大和价值错位——揭示了预测偏见如何贯穿PHM整个生命周期。
4 算法偏见对健康公平的影响:从个体差异到系统性不平等
预测偏差在现实世界部署中表现为健康结果不平等。其后果远超出统计下降——它们改变了临床资源的分布,并破坏了长期监测所依赖的社会信任。PHM将连续数据采集与基于阈值的临床干预结构性关联,将标准算法应用于本质上不平等的社会数据,从而产生系统性不平等的临床结果。因此,PHM中算法偏见的影响不应被仅理解为预测准确性的降低,而应理解为代表性不平等的数据如何被转化为不平等的预防机会、不平等的资源分配和被削弱的制度合法性。
4.1 健康结果的差异:风险识别与预防机会之间的失衡
PHM的核心目标是在不良临床事件发生前识别高风险个体。脆弱群体中的高FNR阻碍了公平的早期干预机会。此类错误分类反映的是训练数据中代表性不足,而非真实生物学风险的缺失。风险被低估的患者错失强化临床随访、生活方式指导或自动预警的机会。就此而言,预测偏差不仅产生错误的数值分数;它决定了预防性照护能否获得,以及当获得时其时机和强度。
亚组错误校准的后果可通过心血管风险预测加以说明,这是临床风险分层中研究最广泛的领域之一。心血管风险预测工具的外部验证研究表明,模型性能在不同人群亚组间可能存在显著差异。使用英国生物银行数据对QRISK3进行的独立外部验证发现,该模型系统性高估了心血管疾病风险,尤其在老年参与者中高达20%,表明风险工具可能无法在具有不同人口统计和健康特征的人群中均匀迁移。类似地,SCORE2在荷兰一个种族和社会经济多样化人群中的外部验证发现,模型性能在不同亚组间存在变异,强化了在风险评估应用于临床决策时需要考虑人口统计和社会异质性的必要性。无论错误校准表现为系统性低估还是高估,对临床决策的后果相同:预测风险与实际风险负担偏离的患者可能无法获得其临床状况所保证的预防性照护。这直接重要,因为心血管风险评分用于确定患者是否达到他汀治疗、血压管理、生活方式咨询、强化随访和专科转诊的阈值——意味着亚组错误校准直接转化为被放弃或错位的预防机会。
潜在危害因此不限于统计错误分类。如果女性、老年患者、少数民族患者或社会经济弱势患者的风险被低估,该患者可能在携带具有临床意义的风险负担时仍低于干预阈值。对于PHM,这一问题尤为严重,因为系统的价值取决于在恶化发生前采取行动。一旦高风险患者被错误分类为低风险,早期预防的机会可能在健康系统认识到病情严重性之前即已丧失。
4.2 资源错配:预防服务的集中与累积优势
预测偏差在群体层面塑造风险分层的结果,进而影响卫生系统中预防资源的配置方式。具有完整连续电子病历记录的患者更可能被识别并纳入疾病管理项目;数据稀疏或碎片化的高风险群体因此被遗漏。差异化的数据代表性转化为差异化的预防医疗保健服务获取。预防服务集中于已经具备健康管理能力的群体。
这产生了累积优势效应。已经数字化连接、定期随访、有保险和良好记录的个体对PHM系统更具可见性,而医疗服务获取不稳定、记录碎片化、存在语言障碍、数字素养较低或设备获取受限的个体在算法上可见性较低。结果,预防性照护可能集中于已经处于更有利地位以从中受益的人群。
大型数据库如英国生物银行中存在"健康志愿者效应"——接受数字监测的队列参与者往往比实际目标人群具有更好的健康状况、更高的依从性和更大的经济资源,意味着在这些数据上训练的PHM模型可能系统性服务不足最需要的人群。相关扭曲通过代理变量选择产生:经济障碍降低低收入人群的医疗保健利用,从而人为压低其预测风险评分。Obermeyer等人的研究表明,该代理机制系统性将照护管理资源重新导向实际健康状况更好的患者,而非临床需求更大的患者。
资源错配因此通过数据可见性和目标定义双重机制运作。与医疗系统频繁互动的患者产生更多数据,更可能被选入预防项目,而面临结构性照护障碍的患者可能正因为其需求较少被记录而显得风险更低。资源错配最终导致可预防住院和急诊就诊的增加——这正是PHM系统旨在预防的结果。
4.3 信任侵蚀与数据贫困的自我强化
PHM系统的持续运行依赖用户的长期积极参与。患者需要持续数年与可穿戴设备和算法平台互动。当边缘化群体获得的风险评估与其实际健康状况或生活状况不匹配时,对相关机构的信任下降。在反复经历不可靠的评估结果后,这种不信任演变为对AI工具的普遍拒绝。患者脱离表现为设备依从性降低、症状报告减少和退出长期监测项目。
关于医疗AI接受度和数字健康采用的研究支持这一动态。近期研究将信任确定为AI医疗系统接受度的核心条件,尤其当患者和临床医生被要求依赖不透明或部分可解释的算法建议时。对于历史上被边缘化的群体,这一问题尤为突出:既往不平等待遇或被排斥于医疗保健之外的经历可能提高对不准确或解释不力算法输出的敏感性,使信任更加脆弱且一旦失去更难重建。
超出机构信任,AI系统的具体设计属性也塑造用户是否将算法输出视为合理。可解释性、公平性、隐私保护、鲁棒性和可问责性已被确定为可信医疗AI的核心要求。当这些属性缺失或被认为缺失时,患者可能质疑系统是否服务于其利益——这种质疑可直接转化为脱离参与。
在PHM中,信任因此不仅是对技术的态度;它是数据生成的前提条件。患者被期望佩戴设备、报告症状、响应警报并同意纵向健康数据的再利用。如果患者认为系统不能代表他们或产生与其生活经验冲突的建议,其参与意愿可能下降。每种脱离形式都减少了边缘化群体向PHM系统贡献的数据质量和完整性。
行为流失直接削弱数据基础设施。设备依从性下降和退出率上升限制了少数群体的有效数据纳入。模型性能进一步下降,促使更多患者脱离。形成自我强化的反馈循环:不平等的数据代表性导致有偏预测;有偏预测产生不可靠或不公平的用户体验;不可靠体验侵蚀信任并降低参与;降低的参与加深数据贫困;数据贫困进一步固化最初引发该循环的代表性不足。
5 系统性应对:数据、算法和治理层面的公平干预
孤立的算法调整无法解决PHM中的系统性公平挑战。预测偏见源于数据生成阶段,并在模型开发、临床部署和部署后监测中持续累积。单点孤立干预通常无效。有效应对需要建立覆盖技术全生命周期的治理框架:在数据采集阶段解决代表性不足,在模型开发阶段约束偏见放大,在临床应用中建立明确问责机制。
5.1 数据层面:从被动积累到目标代表性
预测偏见主要由PGHD中的非随机缺失驱动,单纯增加样本量难以解决这一问题。边缘化群体健康记录中的监测不完整和随访中断很常见。无差别的数据扩展主要增加优势群体的采样频率,这种不平衡增长扩大了代表性不足亚组的数据差距。推进健康公平需要数据采集模式从被动积累转向目的性抽样,将有限的质量控制资源精准配置给代表性不足的亚组。
定向代表性策略与随机抽样原则并不冲突。在保障基线人群代表性的基础上,为特定易发生校准漂移的亚组引入专门的验证队列以增强模型鲁棒性。处理与SDoH相关的缺失数据需谨慎,常规统计插补难以弥合深层差距。该缺失模式反映数字获取障碍或特定就业制度等结构性不平等,超出随机技术故障范畴。主动学习可识别预测不确定性高的亚组,合成数据增强则通过纳入罕见临床模式强化模型表征多样化人群的能力,但合成数据应谨慎使用。
5.2 算法层面:亚组的临床效用与约束优化
仅关注优秀的整体性能指标掩盖了亚组层面的性能恶化。在非独立同分布(Non-IID)条件下,ERM训练优化多数类性能,同时因少数特定风险信号的稀疏表征而压制其影响。评估框架超越单一整体指标,聚焦于特定人口统计学亚组间的临床效用分析。分层敏感性、假阴性率差异和决策阈值内的净效益,与自动化干预中脆弱患者的安全性评估直接相关。
公平约束可直接嵌入训练阶段。正则化技术或平等机会约束可减少亚组间假阴性率差异,抑制多数群体驱动的偏差。此类干预可能引入性能权衡,表现为整体准确性降低或少数群体性能改善不均。这些权衡应被明确记录并在临床上加以论证,确保公平约束与医学推理而非纯粹统计优化对齐。
算法并非盲目消除所有群体差异。部分观察到的差异反映真实的生物学异质性或环境暴露,其成因独立于结构性歧视。移除缺乏临床依据的群体信息会损害具有诊断价值的信号。开发过程整合Shapley可加性解释(SHAP)等可解释工具,帮助流行病学家区分需要缓解的结构性偏差和需要亚组校准的合理临床异质性。
5.3 治理层面:从伦理倡导到生命周期监管
[^105^][^106^]
数字医疗保健中的健康公平需要适应不断变化的人口结构、技术合规性和政策背景的持续治理机制。人口结构变化、设备依从性波动和政策调整持续影响预测模型的临床效能。机构治理超越一次性伦理认证,建立具备持续监测和审计能力的自我纠正机制。
部署前评估不限于单一准确性指标。监管审查开展亚组分析,关注特定决策阈值下的校准和临床实用性。代理变量的选择必须纳入监管范围。历史医疗成本等代理与反映社会健康决定因素而导致系统性偏差的分析有密切联系,相关性而非实际健康需求的系统性编码偏差。部署后,健康公平指标——包括亚组层面的公平性指标和健康结果差异——应整合入持续上市后监测。当特定人群出现校准偏移或漏诊率时,自动触发结构化临床审查。高风险分诊场景仍需保持人在回路(HITL)监督;然而由于临床医生自身存在认知偏见,系统性文档记录和审计追踪对于约束人为判断偏差至关重要。
维持PHM队列研究的长期参与关键在于确保贡献数据的个体能够从中获得有意义的收益。应设计公平的收益共享机制以鼓励脆弱群体的持续参与。实现这一目标需要将抽象的公平原则转化为具体的、可审计和可执行的工作流程,以解决算法偏见并防止数据稀缺和健康不平等的自我强化循环。
5.4 实施障碍
尽管上述数据、算法和治理干预为PHM中的算法偏见提供了结构化应对,但其在现实世界卫生系统中的实施面临重大实际约束。公平导向的PHM需要方法学改进作为基础,但成功实施还取决于充足的机构能力、可互操作的数据基础设施、可持续资金和明确分配的责任——这些条件在资源受限环境中往往无法满足。
在数据层面,收集更具代表性的PGHD需要对代表性不足人群进行主动外展,但这些群体常面临数字获取有限、隐私担忧、语言差异和较低机构信任等复合障碍。公平审计所必需的变量——如种族、民族、收入或住房不稳定——可能不完整、法律敏感或在机构间记录不一致,即使存在意愿也限制了亚组监测的可行性。隐私保护要求可能与公平审计产生紧张关系,因为公平评估常依赖于收集和分析社会敏感特征。解决这一紧张关系并非需要放弃公平审计,而是设计在保护隐私的同时实现公平评估的治理框架。
在治理层面,问责碎片化仍是核心障碍。PHM系统通常由技术供应商开发、由医疗机构采购、由临床医生使用、由外部机构监管。当有偏预测导致预防遗漏或资源分配不均时,责任可能在多个行动者间分散。有效治理因此应在模型生命周期——从数据采集、模型开发到部署、监测和患者沟通——中明确问责,并将公平监测嵌入现有质量改进系统,明确升级程序。