《Research in Social and Administrative Pharmacy》:Responsible implementation of artificial intelligence across the medication-use process: an evidence-informed framework for medication safety
编辑推荐:
负责任地在用药流程中实施人工智能(artificial intelligence, AI):面向用药安全的循证框架。
• 用药安全的人工智能(AI)需要社会技术工作流(sociotechnical workflow)。
• 七个拟议域将临床证据与负责任实施相连
负责任地在用药流程中实施人工智能(artificial intelligence, AI):面向用药安全的循证框架。
• 用药安全的人工智能(AI)需要社会技术工作流(sociotechnical workflow)。
• 七个拟议域将临床证据与负责任实施相连接。
• 阈值应平衡严重漏诊、警报负担和复核能力。
• 临床可操作信息比单独的解释方法更重要。
• 治理、公平、隐私、韧性和监测贯穿全生命周期。
用药流程(medication-use process)中的人工智能(artificial intelligence, AI)正用于风险检测、优先级排序、分类和临床决策支持(clinical decision support, CDS)。用药安全覆盖处方、转录、调配、发药、给药、核对、监测、事件学习和随访。数字系统可预防伤害,但设计不良的决策支持也可造成警报负担、自动化偏倚、不公平可及性和新失效模式(failure modes)。因此,关键问题不只是模型是否预测事件,而是其输出能否改善真实用药决策且不把风险转移到别处。研究人员因此提出“用药流程人工智能安全与实施框架”,将一般临床人工智能指导转化为用药特异性实施问题,并把人类因素与公平作为跨领域关切。其意义在于把临床证据、阈值后果、警报负担、复核能力、处方集/药品目录(formulary)依赖、安全网(safety net)和运行韧性连接到同一实施结构。
关键技术方法不超过250字:研究采用预定检索窗口 2020-01-01 至 2026-06-30,保留源验证记录,以可重复 PubMed/MEDLINE 策略为基,并准备 Embase、Scopus、Web of Science 平行检索;后经 PubMed Central、期刊页面和引文追溯,更新至 2026-07-28、2026-09-06、2026-09-17。纳入评估含学习型 AI 组件且位于人类用药流程、报告临床目标/性能/验证/解释/工作流或安全性影响的研究,排除非临床药物发现/生产/仅规则自动化。识别 34 个潜在记录,排除 21 个,13 个候选,10 个可源验证核心,最终 17 项临床研究;单作者筛选,无第二评审。框架由 16 个候选概念归纳合并为 7 域,并与报告、翻译、实施、治理和药学指南演绎比较。样本队列来源包括法国、美国、中国台湾/美国、加拿大、中国、土耳其、马来西亚、瑞典、乌兹别克斯坦、比利时等临床研究。
研究结果:
2. 证据基础与框架开发。2.1 证据识别方法:通过预定窗口、源验证记录和后续更新,形成最终 17 项临床研究证据集,并说明初始识别、排除和可源验证核心研究数量。2.2 选择、范围与证据图表化:通过纳入标准和单作者图表化,记录每项研究设计、设置、样本量、事件或患病率、临床目标、参考标准、比较、判别与精确-召回指标、阈值、校准、内部/时间/外部验证、解释方法、前瞻或模拟工作流、患者结局及实施局限,保留 17 项研究。2.3 来源验证的含义:通过核对文献标识和主要数值定义“源验证”,结论是其不代表方法学高质量或低偏倚风险。2.4 框架推导与域间互联:通过归纳编码识别 16 个候选概念并合并为 7 域,人类因素与公平升为跨领域关切;再与报告、翻译、实施、治理和药学指南演绎比较以测试覆盖和定位,不称独立验证。域间为操作互联而非严格顺序。2.5 结构化研究层面证据评价:因研究异质,研究人员不用单一合并偏倚评分,而以设计无关证据轮廓描述目标/参考标准直接性、验证水平、校准报告、比较质量、前瞻工作流测试、直接临床结局和主要方法学问题;该评价不是验证偏倚工具。
3. 临床证据显示什么。3.1 当前最可靠角色是分诊与增强,而非无限制自主:多项系统用于对处方或患者排序以供专业关注,保留专业判断;药师-AI 工作流证据提示 AI 辅助时机可影响信任,但未确立患者结局获益。分诊会形成低优先组,安全取决于假阴性率、漏诊严重度、复核覆盖和未入选者的兜底路径。3.2 外部验证、校准与阈值报告仍不均衡:许多研究使用内部拆分、同地验证或回顾队列;跨国家、时间、独立外部、多中心和随机证据仍少见。用药模型易受本地处方集、处方界面、人力、文档、患者组合和药师干预阈值影响,固定阈值转移后可能产生不同警报量、阳性预测值和严重漏诊。3.3 可解释性应与可理解性、透明度和临床可操作信息分开:可理解性指模型本身是否易理解;透明度指目的、数据、来源、版本和局限;技术解释包括特征归因或替代模型;临床可操作信息是用户验证信号并安全决策所需的患者特异信息。事后解释可能看似合理却不忠实,核心要求是足够可靠信息以验证药物、剂量、途径、实验室值、相互作用、时机和缺失数据等。3.4 前瞻性结局证据改变实施问题:通过 Shakarbaev 多中心随机试验,研究人员发现 2022 年 1 月至 2023 年 8 月在四家教学医院中,成人 1:1 随机至 AI-CDSS 辅助或标准照护,随访 12 个月;用药错误率为 3.47 对 6.83/1000 patient-days,均差 ?3.36(95% CI -4.01 to ?2.71);ADE 发生率为 4.7 对 8.9/100 admissions,差 ?4.2(95% CI -5.6 to ?2.8);警报接受率 73.6%。结论是结果鼓舞人心,但不能证明可转移至其他卫生系统、处方集、EHR 或人力模型,仍需独立重复和可迁移性评估。
4. 提出的用药流程 AI 安全与实施框架。4.1 与现有临床 AI 框架和药学指南的关系:该框架补充而非替代 SALIENT、DECIDE-AI、WHO、MedinAI、ASHP 和 2026 年框架;其用药特异贡献是把原则转化为关于事件标签、严重度加权假阴性、处方集和工作流依赖、警报负担、药学复核能力、低风险抑制和安全网的操作问题。4.2 有临床意义的目标与标签:药物错误、差异、ADE、非典型医嘱、药学干预和事件分类相关但不互换;目标应由用药阶段、时间范围、严重度、可预防性和参考标准定义,代理标签(proxy label)与患者伤害的因果距离应明确;参考标准应使用培训临床审核者、可重复判定规则和评分者间一致性;公平从这里开始。4.3 可迁移验证:内部判别不等于变更后的安全性能;验证应从时间测试到外部站点测试,可行时前瞻沉默评价;报告患病率变化、缺失模式、校准、亚组表现和本地医嘱集或干预编码依赖;可能需要重校准、阈值调整或重开发。4.4 校准与阈值论证:阈值把预测转化为工作;选择阈值应结合校准、患病率、敏感度、精确度、事件严重度、人员时间和延迟或漏诊后果;至少考虑安全聚焦阈值与容量受限阈值,并将决策曲线或净获益转化为每分母的警报数、真事件和漏诊数;患病率、工作流或容量变化时重新估计。4.5 临床可操作信息与解释:输出应识别可验证信息,如药物、剂量、途径、频率、重复治疗、过敏、肝肾功能、相互作用、时机、年龄、体重、近期变化、来源证据或缺失数据;界面应区分事实与模型推断;技术可解释性不等于临床有用或忠实;评价应关注理解、验证时间、行动适当性、信任校准和模型错误检测。4.6 工作流整合与人类监督:工作流应从一开始影响目标、阈值和信息设计;输出需足够早、到达命名专业组并支持可行行动;监督协议应定义复核者、响应期望、升级、覆盖、记录和无行动时处理;低风险抑制需谨慎,保留随机审计、高严重度规则、临床请求复核和漏分诊检测;算法沉默不等于安全证明。4.7 前瞻性临床评价:应从沉默前瞻测试到有限 live 部署和比较研究;结局超越准确性,包括用药错误率、ADE 率、严重度、可预防性、干预时间、警报接受、复核覆盖、临床工作量、用户体验、公平和意外后果;比较设计应使用真实本地工作流而非回顾模型基线,优先随机或阶梯楔形设计,不可行时用中断时间序列、控制前后或实效队列并考虑趋势和并行干预;遵循 DECIDE-AI、CONSORT-AI 和 SPIRIT-AI。4.8 生命周期治理、韧性、公平与失效监测:治理从问题定义贯穿全周期,需命名临床和技术负责人、批准用途边界、数据治理、隐私、网络安全、访问管理、审计日志、变更控制、更新后验证、供应商责任、再训练触发、事件调查和回滚;供应商透明应覆盖模型目的、版本、数据依赖、变更、已知局限及监测支持责任;本地部署减少数据传输但不替代控制;韧性应在 go-live 前计划停机、网络故障、数据流中断、网络安全事件、模型召回或供应商不可用时的传统规则或手工 fallback、沟通和恢复后对账。公平跨领域,偏倚可进入目标定义、训练标签、缺失数据、外部验证、阈值、工作流可及性、临床反应和部署后监测,应同时监测模型性能和下游行动。
5. 在用药流程中的应用:框架有意任务独立,但风险平衡随阶段不同;处方监测需警报量和交互设计,用药核对依赖准确用药史和可行访谈路径,给药风险模型需在准备或给药点提供信息,监测模型需及时实验室和临床数据,事件分类需语言敏感验证和质量保证;同一算法在不同阶段或专业工作流中可能需不同阈值、显示、保障和治理。
6. 研究与实施议程:下一阶段应优先临床有用性而非增量回顾准确性;需要多中心外部验证、校准操作点、前瞻比较设计、可重复人类因素评价和透明部署后监测;研究报告应提供足够信息以估计警报量、人员需求、严重事件检出、严重事件漏诊和 fallback 要求。具体包括:使用临床判定和严重度感知标签并明确代理结局;在声称通用性前跨站点、时间、处方集、药物系统和相关患者亚组验证;报告临床可行阈值下的校准和操作后果而非仅判别;与药师、处方者、护士、信息学家和患者共同设计信息显示、阈值和工作流;前瞻评价直接临床结局、工作量、警报负担、采纳、公平和意外效果;发布模型版本、数据依赖、供应商责任、更新、监测、停机、应急和回滚安排。6.1 框架自身验证路径:该框架应作为实施工具评价而非假定为标准;第一步为正式 Delphi 过程,涉及用药安全药师、处方者、护士、信息学家、卫生系统领导者、患者安全专家、供应商或技术领导以及患者或代表,检查域完整性、措辞、可行性及哪些标准必需、可选或情境依赖;共识后由独立评审者应用于真实或历史 AI 实施案例,以评分者间一致性评估可靠性,以认知访谈和可行性测试识别模糊条目,并评估框架发现是否预测或解释实施问题;前瞻多中心测试可确定使用框架是否改善实施决策或结局;在此之前,各域应称为拟议实施标准而非最低要求。
7. 局限:本文为 Proposed Model,基于靶向关键证据扫描,不是系统或范围综述;保留源验证记录提供可用来源验证阶段的透明计数,但不应解释为所有计划订阅数据库的穷尽 PRISMA 分母;证据集后经靶向检索和引文追溯扩展至 17 项研究,可能仍存在其他合格研究;研究选择、提取、框架编码和结构化证据评价由单一作者完成,无独立第二评审;框架尚未进行 Delphi 共识、前瞻验证或作为 readiness 工具测试;结构化证据轮廓不是验证偏倚工具,不替代 PROBAST 或 RoB 2;纳入研究在目标、设置、比较和结局方面仍异质,直接定量比较不合适。
研究结论翻译:用药流程人工智能(AI)安全与实施框架提出了一个面向用药流程中负责任 AI 实施的用药特异性结构。它连接七个相互关联的域——有临床意义的目标与标签、可迁移验证、校准与阈值论证、临床可操作信息与解释、工作流整合与人类监督、前瞻性临床评价,以及生命周期治理与韧性——同时将人类因素与公平视为跨领域关切。其主要贡献是将一般临床 AI 指导转化为用药特异性实施问题,涉及严重漏诊、警报负担、复核能力、处方集/药品目录依赖、安全网和运行韧性。该框架应首先接受利益相关者共识、可靠性测试和前瞻性评价,之后任何要素才可被定义为经过验证的最低要求。