《Antioxidants》:Bioactive Extracts and Constituents from Taraxacum mongolicum: Antioxidant, Anti-Inflammatory, Enzyme-Inhibitory, and Molecular Docking Studies
背景:人工智能(AI)和机器学习(ML)技术,例如对话代理,正成为多个行业(尤其是医疗保健)中日益重要的工具。本文对移动健康教练系统(MHCS)中的对话代理(CAs)进行了一项范围综述(PRISMA-ScR)。研究人员审查了MHCS的现有应用,重点关注开发策略、使用情境、对用户的影响、益处和研究空白,并强调了可解释人工智能(XAI)在使健康指导和决策支持建议变得透明、可信和可解释方面的能力(如果适当整合)。本范围综述确定了最大化利用对话代理、可解释人工智能和移动技术以使移动健康教练系统更可及和可信的机会,以及值得进一步探索的研究空白。目的:本范围综述绘制了MHCS中CAs和基于XAI技术的证据,识别了与信任相关的设计标准,对报告的结果进行了分类,并强调了在移动健康背景下可解释对话代理(XCA)的机会,特别是在解决服务不足环境中常见的医疗状况方面。资格标准:报告评估、设计或概念性分析现有CAs、XAI技术和MHCS、AI支持的医疗对话系统、电子教练系统和移动健康应用程序的合格资源。研究人员仅考虑了与医疗保健、健康教练、信任、可解释性或患者参与相关的来源,这些来源发表于2006年至2025年之间。证据来源:在IEEE Xplore、Google Scholar、Springer、ScienceDirect/Elsevier、ProQuest和ACM Digital Library中进行了检索,并辅以有针对性的网络检索和反向引文检查。图表方法:数据按系统类型、通信模式、健康背景、操作模式、所用技术、XAI/信任特征、自动化程度、研究设计和结果分类进行图表化。研究人员应用了修订后的结果分类:产生期望结果(GDO)、部分产生期望结果(P-GDO)和未产生期望结果(DN-GDO)。结果:共收集了201份资源。图表研究集中在健康领域的CAs、针对慢性病和压力管理的MHCS、XAI方法(如LIME、SHAP、Prospector和反事实解释)以及信任相关要素(如语音质量、沟通风格、外观、社会智能、隐私和性能质量)。大多数健康CAs和MHCS针对慢性病、心理健康或行为改变;少数涉及一般医疗诊断或自主的基于移动的初级护理支持。结论:现有证据表明,CAs和MHCS可以支持参与、教练、教育和选定的决策支持任务,但关于安全、自主、可解释的全科功能证据仍然有限。未来的工作应优先考虑临床监督下的XCA设计、核心安全性评估、具有透明解释的界面、数据保护、文化和语言响应式实施以及在服务不足的移动健康环境中的前瞻性综述。
**1. 引言**
可解释对话代理(XCAs),尤其是在移动健康教练系统(MHCS)中,代表了包括AI和健康技术创新在内的研究领域的融合。机器学习与知识提取的持续进步,以及人机交互(HCI)的发展,使得与AI系统的对话变得更加容易,特别是通过使用对话代理(CAs)。对话代理的概念描述了一种计算机系统,它尝试使用文本、语音或其组合与用户进行自然交互[1]。这个定义既包含了对话的一般概念,也包含了系统与人类用户之间的交互。
例如,Wutz等人[2]和Allouch等人[3]将CA分类为能够模仿人类对话并以自然语言提供信息和帮助的计算机程序。最近,这些代理在教育、金融和医疗保健等领域得到了广泛采用[3]。在医疗保健环境中,CAs已被整合到移动技术中,为医疗保健提供者和患者提供教育辅助和参考资料。
移动健康(mHealth)通常可以定义为使用移动和无线技术(如智能手机、平板电脑和可穿戴设备)来提供健康相关信息和服务[4,5,6]。这些技术的使用已被证明通过各种可穿戴健康设备(包括健身监测器、智能手表和便携式心电图监测器)在管理慢性病方面有益,因为mHealth应用有助于这些疾病的早期检测和预防性治疗[3,7]。现代mHealth应用主要被推广为可以与医疗保健服务协同工作的支持性工具,而不是替代医疗保健专业人员。尽管有前景的应用,基于AI的系统在医疗保健中的部署率目前受到对信任、可解释性和问责制的担忧的阻碍。
一些聊天机器人是使用由数据输入驱动的复杂算法(称为黑箱算法)开发的。这些算法缺乏透明度,无法解释其输出是如何生成的[8,9]。对这些算法缺乏清晰理解可能会在用户群体中引发怀疑,尤其是在需要透明、可靠和值得信赖的建议的医疗保健环境中。在这方面,XAI已成为最突出的研究领域之一,致力于增强与AI工具相关的可解释性、理解性和易懂性[8,10]。
最初的综述包括从六个数据库和补充来源收集的201份学术资源,并通过证据表、图表和叙述性综合对领域进行了总结。为提升提交准备状态,手稿已被重构为符合PRISMA-ScR标准的范围综述,具有更清晰的目标、资格标准、数据图表程序、综合方法、局限性以及PRISMA-ScR检查表。
**1.1. 理由**
本范围综述的相关性在于文献跨越多个学科,如技术类型、结果类型和研究设计。其目的是确保研究人员不是评估单一干预措施,而是绘制已研究的内容,彻底分类现有系统的功能和情境,阐明信任和可解释性是如何被操作化的,并最终确定未来研究和设计的空白。
**1.2. 问题陈述**
全球的医疗保健设施由于人员有限、健康需求增加和突发健康紧急情况而承受着巨大压力。COVID-19大流行的现实更加凸显了医疗保健设施在人力资源方面未能充分装备以应对极端工作量,导致它们在为所有医疗保健相关需求提供即时关注方面效率低下。即便如此,不同地区也在实施紧急解决方案以最小化人员短缺的影响。
尽管各种数字健康创新为超越传统医疗保健环境扩展健康支持提供了有希望的途径,但其有效使用面临挫折。这些包括不愿意通过创新遵循健康相关建议、缺乏隐私和数据安全、这些系统的不灵活性以及这些创新的伦理和法律边界的模糊性[2]。在本研究中确定为使用涉及AI算法的健康创新的挑战的挫折中,缺乏透明度和信任是其中之一。在此背景下,移动设备上的CAs在健康教练、教育和自我管理方面的潜在益处正在显现。然而,由于使用CAs作为沟通工具的存在影响,它们的使用也引发了对信任、权威和系统边界的担忧。本研究强调了系统综合现有研究以阐明在移动健康CA背景下如何解决可解释性和信任概念的重要性。
**1.3. 目标**
本综述的目的是审查用于MHCS的XCAs,特别强调信任、进展和未来机会。具体来说,目标是:
- 审查XCAs的概念和功能特征及其在非临床移动健康教练和决策支持背景下的作用。
- 识别并分析影响用户对移动健康应用中XCAs的信心、接受度和持续使用的关键信任相关因素。
- 审查可解释性、可靠性和伦理考量如何塑造用户对XCAs提供的指导和建议的接受度,而不将这些系统定位为自主临床诊断或治疗提供者。
- 综合文献中的见解,阐明CAs、XAI和移动技术如何有效整合以支持透明、以用户为中心且可扩展的MHCS。
**1.4. 研究问题**
RQ1: 在医疗保健和移动健康教练背景下研究了哪些类型的CAs?
RQ2: CAs和MHCS涉及哪些健康状况、用户群体和交付情境?
RQ3: XAI技术和信任相关设计元素如何被整合到CAs和MHCS中?
RQ4: 报告了哪些结果,如何使用透明的结果框架对其进行分类?
RQ5: 在设计足够能力支持安全、值得信赖、移动优先的健康教练和自主全科医疗决策支持系统的XCAs方面,还存在哪些空白?
**2. 综述方法**
本综述按照PRISMA范围综述扩展(PRISMA-ScR)的准备。采用的综述方法遵循范围综述原则:确定问题、相关资源、来源选择、数据图表化、整理、准备结果摘要以及报告对纳入研究、设计和实践的启示。完整的检查表见补充材料表S1。
**2.1. 方案与注册**
在进行本综述之前,起草了一份范围综述方案以指导综述的资格标准、检索策略、研究选择、数据图表化和综合过程。研究人员未正式注册方案。最终的综述将使用PRISMA-ScR检查表进行报告。
**2.2. 资格标准**
表1详细显示了本范围综述使用的完整资格标准。
**2.3. 数据来源**
采用全面且结构化的文献检索策略,以确保对XCAs和MHCS的技术和医疗保健导向研究进行广泛覆盖。这涉及对六个主要学术数据库的系统查询:ACM数字图书馆、IEEE Xplore、Elsevier ScienceDirect、SpringerLink、ProQuest和Google Scholar。选择这些数据库是为了捕获AI、HCI和数字健康领域的同行评审研究。此外,权威在线来源如Merriam-Webster在线词典仅用于关键概念的澄清。非学术来源,如博客和一般网络文章,最初仅用于支持背景理解,但被排除在最终综合之外以确保学术严谨性。
**2.4. 检索策略**
检索策略使用了受控词汇和自由文本关键词的组合,包括:对话代理;聊天机器人;具身对话代理(ECAs);可解释人工智能;信任;可用性;伦理;移动健康;数字健康;健康教练系统。应用布尔运算符如“AND/OR”和数据库特定过滤器来细化结果,如下所示:(“对话代理*” OR 聊天机器人* OR “对话系统*” OR “具身对话代理*” OR “虚拟代理*”)AND(“移动健康” OR mHealth OR “健康教练” OR 电子教练 OR “数字健康”)AND(信任 OR 可解释* OR 可解释* OR 透明度 OR “可解释人工智能” OR XAI)AND(医疗保健 OR 诊断* OR “慢性病” OR “一般医疗状况*”)。表2显示了该检索字符串中的四个主要概念。
此外,检索重点放在2006年至2025年间发表的研究;这个时间跨度涵盖了CAs和XAI在医疗保健和健康背景下的出现。完整的检索产生了初始语料库,从中选择了201篇学术出版物进行详细分析。在筛选阶段应用了明确的纳入和排除标准以确保相关性和学术质量;见表3。
**2.5. 研究选择与分析**
研究选择包括根据预定的纳入和排除标准进行标题、摘要和全文筛选。选定的试验进行了定性主题分析,重点关注系统的目的、促进对话的设计、解释机制、评估方法以及与信任相关的结果。分析重点在于模式、概念相似性和研究空白,而不是性能基准测试和系统验证。这使得能够对可解释性和信任如何在移动健康教练的CAs中被处理进行受控综合。
**2.6. 数据提取与图表化**
数据图表化使用为本范围综述开发的结构化提取框架进行。研究人员的框架涵盖了书目数据、研究设计、技术类型、健康领域、通信模式、自动化水平、可解释性方法、信任相关要素、评估方法、结果测量、关键发现、局限性以及与MHCS中XCA的相关性。完整的综述研究见补充材料表S2。
每个纳入的来源还根据其是否产生期望结果进行编码。研究被分类为产生期望结果(GDO)、部分产生期望结果(P-GDO)或未产生期望结果(DN-GDO)。此编码用于支持跨CAs、MHCS和XAI赋能系统的分析比较。见表4提取的变量。
**2.7. GDO/DN-GDO结果分类框架**
在本综述中,研究人员根据最终结果对文章进行分类:当研究显示系统完成其任务的任何证据(从改进的诊断支持、可用性、参与度、用户体验到健康行为)时,分配GDO(产生期望结果)。当证据有希望但存在局限性(如评估受限、临床验证有限或可解释性有限)时,分配P-GDO(部分产生期望结果)。当系统未能达到预期结果(如无法提供特定诊断、缺乏信任证据、严重依赖人类专家等)时,分配DN-GDO(未产生期望结果)。此框架旨在支持有组织的综合并提高可重复性;详情见表5。
**2.8. 数据分析与综合**
使用主题分析和分析综合对研究进行分析。研究根据主题维度进行比较,包括:
- 可解释对话代理在移动健康教练系统中的功能角色。
- 可解释性的层次和形式。
- 信任和接受度决定因素。
- 伦理和监管问题。
- 评估实践与方法论的严谨性。
与系统评价或荟萃分析统计聚合结果不同,本范围综述综合了跨异质性研究的模式、趋势和研究空白。
**3. 结果**
**3.1. 来源选择**
检索从数据库和补充来源中确定了201条记录。表6显示了来源选择的详细分类。
**3.2. 可解释对话代理的概念与功能**
**3.2.1. 对话代理**
CAs已被用于不同领域的许多应用中,通过自然语言处理协助用户执行任务[11,12]。CAs通常可以根据要执行的任务的性质分为目标导向型[13]和非目标导向型(开放域)[14]。例如,目标导向型CAs包括客户服务聊天机器人,而非目标导向型代理依赖机器学习以更开放式的对话方式进行对话。著名的开放域系统示例包括Apple的Siri、Amazon Alexa、Google Assistant和Google Meena[15,16]。这些系统主要充当通用个人助理。它们并非专门针对医疗保健。尽管迄今为止进行了许多研究,但这些系统没有普遍接受的定义。各种定义主要关注自然语言处理、交互模式的适应性以及支持功能,而不论应用领域[13]。本综述针对的是在健康相关、支持性和信息性角色中使用的CAs,认识到一些系统是面向应用的,而其他系统则更为通用。关键的是,本文综述不会将CAs评估为自主医疗保健系统,而是作为健康生态系统中的辅助系统。最后,一些代理仅用于通信,而另一些则可以通信并执行虚拟和物理任务。图1显示了CAs的基本分类。本综述审查了对话AI技术的实用性和效率,该技术正越来越多地在生活的各个领域实施。在所审查的代理中,一些对独立的医疗保健交付有用,而另一些则更为通用。
**3.2.2. 医疗保健中的对话代理**
关于医疗保健中CAs的研究主要集中在慢性病、心理健康、教育和行为干预。大多数具有文本界面,旨在以互补方式使用,作为可访问医疗保健交付的额外途径,而不是作为主流医疗实践系统的一部分[12,17]。表7显示了当前CAs按照在疾病管理中的角色的分类,其中许多专注于慢性健康状况;只有少数(如Ada Health)涉及一般健康问题。此外,许多使用基于文本的通信,主要促进锻炼和其他体育活动作为额外的治疗形式。Milne-Ives等人[18]进行的系统综述和Tudor Car等人[12]进行的范围综述强调了可用性和用户满意度的积极方面,但强调了对安全性和伦理标准进行彻底检查的重要性。其他研究,如Abdulrahman[17]和Richards[19],表明可解释性和个性化可以增加用户在执行提醒和管理药物等任务时的参与度和依从性。著名的系统如Woebot[20]证明了自动心理健康支持系统的可行性,且对治疗结果没有不利影响,从而重申了透明度和限制披露的必要性。上述讨论表明CAs可以是有用的工具。在应用大型语言模型(LLMs)改进对话对话的自然性和理解方面取得了重大进展。尽管如此,研究反复强调需要在明确界定的限制和监督下使用这些工具,尤其是在临床环境中[21,22,23,24]。
**3.2.3. 影响用户对MHCS中XCA信心和接受度的信任因素**
**医疗保健中对话代理的可接受性与信任**
信任CAs可被描述为用户相信其能够正确、一致且适当地执行指定任务[25]。信任对CA系统的采用和使用率有重大影响[26]。影响CA信任度的主要因素包括准确性、可靠性、透明度和感知完整性。这是因为当CAs行为一致、有效沟通其能力和限制、并提供稳定、可理解的信息时,用户会感到舒适地信任它们。此外,系统透明度至关重要;用户应意识到他们正在与机器交互。然而,这需要他们完全了解机器的能力和限制[27]。除了类人特征(如同理心、礼貌和理解)外,它们可能会增加感知信任的价值。另一方面,来自CAs的不准确信息和冷漠回应会破坏信任的发展,且可能迅速恶化[28]。在医疗保健环境中,信任尤为重要,因为这些系统处理用户的敏感数据并提供医疗决策指导[29]。诚信、有效性和安全问题是在CAs中培养信任的关键因素。CA用户需要意识到这些系统是医疗保健专业人员的补充,而不是替代品;通过强调其局限性和非人类特性可以明确这一点。遵守数据法规(如欧盟的GDPR和美国的HIPAA法案)对于确保用户信任也很重要[30]。因此,医疗保健环境中CAs的信任主题在于技术可靠性和医疗保健责任的成功融合。研究表明,用户接受度和信任度因CA系统的实施而异。例如,支持哺乳期母亲和医疗保健提供者的支持代理Tanya Bot,在可用性和用户参与度方面获得了积极反馈[31]。其他CAs已被发现有助于优化某些行政和信息收集任务,如患者数据输入和症状报告,以及增强工作流程,但不一定减少人类专家的控制[32]。早期的CAs,如Eliza,已证明交互式模式匹配技术可以吸引用户,但作为学习平台而非决策者[3]。在专业环境中进行的CA辅助干预,如在诊断为ASD的儿童中使用的社交机器人,突显了CAs作为行为和教育支持辅助工具的潜力,其中信任与社交存在和CA互动相关。此类系统的示例包括Ada Health,它探索了CAs提供关于患者数据的信息指导的能力。结果表明,提供视觉/社交线索的CAs可能会增强用户信心,并且此类系统应用于指导而非诊断。比较ECAs和面对面访谈的研究,特别是在重度抑郁症(MDD)患者中,表明用户对系统的信任程度可能因年龄、教育程度和先前经验等人口统计因素而异[33]。然而,用户特征以及其他变量(如准确性)的重要性已被强调,以在AI支持的医疗保健系统中建立信任[34]。
**可能增加用户对AI技术信任的其他因素**
黑箱AI技术(如许多CA系统)常常因缺乏透明度和可解释性而受到怀疑[35]。诸如语音参数、沟通风格、视觉外观、社交智能和感知性能质量等设计元素已被确定为CA系统的信任增强因素。尽管最先进的AI模型在输出生成任务上表现良好,但它们通常无法为其输出提供任何解释[36,37]。对CA语音特征的研究表明,语音质量、性别和语调可能影响可信度判断。例如,Brummelen等人[38]表明,用户在通过CA系统通信时会被某些成年男性和女性声音所吸引。Elkins和Derrick也发现,尽管音高本身不是用户对信任和语音感知的直接因素,但它可能是信心的临时指标。然而,当考虑具身系统时,面部情绪表达(如微笑、悲伤和愤怒)可以增加对信任和真诚度的感知[38,39]。
**3.2.4. 信任XCAs:用户对诊断、治疗、可靠性和伦理的可接受性**
**移动健康教练系统**
MHCS利用创新技术(如AI系统)来满足个人的独特健康需求。这些系统使用可穿戴传感器、智能手机和基于云的应用来维持持续的用户参与度。MHCS的目标包括促进健康行为、管理慢性病以及遵守健康计划[40]。这些系统的有效性完全取决于其收集和分析来自各种来源(尤其是传感器技术和用户交互)信息的能力。这些数据用于创建针对每个用户需求的个性化支持,通常借助AI技术。例如,MHCS可以在饮食、锻炼和药物依从性等方面指导用户,但必须注意这些系统不提供独立诊断。
心电图(ECGs)、血压监测器、活动追踪器和智能手表已用于MHCS以识别健康问题的早期预警信号并促进慢性病的管理。研究表明,这些技术显著提高了依从性和生活方式追踪[41,42]。现有系统如iCardia、BeSmart、Walking with JITAIs和Telemonitoring已证明其在管理糖尿病、高血压、心血管疾病和中风等慢性病方面的有效性[43,44]。尽管有前景,但在这些系统与人类用户之间的通信方面仍然存在挑战。一些研究表明,自动化MHCS可以减少对面对面咨询的依赖,但对隐私和透明度的担忧仍然普遍存在。大多数系统促进健康行为并管理慢性病[45],并解决情绪健康问题,只有少数涉及一般医疗状况。此外,很少有系统作为完全自主的系统能够在没有监督的情况下诊断和治疗患者。解决这些差距可以为更全面和有效的健康管理解决方案铺平道路。表8和图1提供了现有MHCS基于流行技术和其针对的健康状况类型的综述和分类。
**3.2.5. CA在MHCS中的重要性**
在MHCS中,CAs可以充当收集和审查信息的研究人员或交互式支持系统。它们可以帮助用户进行症状探查、治疗或预防实践[46,47]。它们可以促进用户参与、提醒用户或协助与医疗机构内外医疗保健提供者的沟通。这些应用包括智能手机上使用的Apple Siri或Google Assistant,据报道它们有助于防止可能升级为紧急情况(包括心脏病发作和心理健康危机)的情况[39]。研究表明,CAs提供的这些托管教练活动可以增强用户参与度和参与度,特别是当系统考虑个人建议、情绪健康和生活模式时[19,48]。因此,CAs通过提高可访问性、可用性和用户参与度来补充MHCS系统,而不削弱人类判断。
**3.3. 差距证据**
即使有这些发展,一些因素阻碍了XCAs的潜力:
- XCA自动化的不完整/有限证据:各种平台无法自动响应或适应目标人群的健康需求[49]。
- 不信任和可靠性担忧:用户可能对AI建议持怀疑态度,即使有XAI;因此,AI系统需要对用户更可解释。
- 信任、可解释性和结果成功操作化的不一致。
- 由于与电子健康记录和实时监控的整合有限,可能发生延迟干预。先前研究报告,早期基于警报的系统可以在专业监督下支持及时升级[19,49]。
- 可穿戴技术访问受限:高昂的成本和可用性限制可能阻碍广泛采用,尤其是在资源匮乏的环境中。
- 用户参与挑战:缺乏共情交互、个性化不足和有限的预测能力可能会降低参与度。例如,共情AI干预已被证明可以减轻印度学生的压力相关风险[9,50]。增强可解释性、个性化和情感响应能力可以改善持续参与度和依从性。
- 应用功能不足:当前技术状态(Ada Health)能够基于症状进行推荐,但并非完全诊断性,且不具备对话界面、语音识别或直观GUI[2,35,51]。
- 数据治理、隐私、偏见、临床问责制和不良事件管理的报告有限。
- 需要与多样化用户、语言、健康素养水平和文化背景进行评估。
**4. 简化医疗保健应用**
**CA和MHCS中的可解释AI/ML**
对AI系统底层技术的透彻理解对于培养系统与用户之间的信任至关重要。这种理解将促进与系统的无障碍交互。XAI技术提高了AI系统提供的结果的可解释性、可追溯性和问责性[52]。这确保了公平性、安全性和减少偏见。诸如Prospector、Shapley加法解释(SHAP)和局部可解释模型无关解释(LIME)等XAI方法已在基于AI的医疗保健系统中得到应用[53]。LIME通过提供局部可解释的解释来帮助更好地理解特定结果而无需完全访问底层解决方案,因此在解释黑箱模型方面很受欢迎[54]。Prospector和SHAP都是解释特征对模型结果贡献的有用方法,每个工具都有独特的可视化技术来证明AI结果并提高用户群体的透明度和信心[55]。Abdulrahman等人[17]证明了XAI在具身“虚拟顾问”应用中的有效性,改善了用户在与AI驱动的教练系统交互时的行为意图。SHAP和Prospector算法已被用于预测结果(例如,急性心肌梗死)和解释调查结果,提供了XAI在健康研究中解释AI结果有效性的证据[36,37,55]。
关于公平、透明度和信任,用户能够理解AI生成的建议至关重要。当用户能够理解AI产生的建议时,基于伦理的AI技术使用中的知情交互和问责制变得可行[34]。尼日利亚成年人在手机使用率高的中低收入经济体中超过84%的成年人中移动渗透率最高[56]。将XAI整合到MHCS中具有提高采用率和用户信心的巨大潜力。透明的系统能够解释建议、设定边界和正确决策,从而促使与医疗专家提供的专业健康服务并行的用户采用。
**5. 结果的分析综合**
**5.1. 可解释对话代理的概念、演变与功能范围**
XCA可以被概念化为一种AI驱动的对话系统,将XAI技术直接融入自然语言交互中。XCA不仅仅是作为通信接口,而是在对话过程中明确操作可解释性,通过呈现透明、可解释且以用户为中心的对其决策的解释。这一转变反映了一个日益增长的认识:仅仅有效沟通是不够的;相反,用户还必须理解系统行为背后的基本原理,以建立有意义的信任并做出明智的决策[57]。因此,XCA的价值不仅在于其沟通的潜力,还在于其促进更平衡和负责任的AI交互的能力。当前文献传统上将CAs视为依赖自然语言处理来支持跨不同应用领域的信息检索、决策制定和任务执行的AI系统[11,12,14,58]。然而,这种立场主要强调功能潜力,而较少关注透明度和用户理解。例如,对ECAs的研究强调其通过口头和非口头交互模式充当咨询、教育和辅助代理的能力[19]。尽管这些研究展示了参与度和交互质量的改进,但它们很少涉及用户如何解释或评估系统响应背后的推理过程。此外,最近的综述区分了目标导向和非目标导向的代理,后者由于在可预测性、可靠性和安全性方面的担忧(尤其是在医疗保健背景下)而经常被边缘化。这种分类隐含地强调了需要更大的透明度,而不仅仅是改进的功能。机器学习和大型语言模型(LLMs)的最新进展进一步扩展了CAs的能力,超出了简单的任务执行,包括上下文推理、自适应交互和更自然的人类通信[24,59]。尽管有这些技术改进,基于医疗保健的CAs仍然主要局限于高度受控的领域,如症状检查、健康教育、患者监测和行为改变[12,58,60]。这种限制反映了对安全性、伦理问责制和用户信任的持续担忧。在此背景下,XAI技术的整合不仅是一种技术增强,而且是解决这些限制的必要设计策略[34,61]。基于这一观点,XCAs代表了传统对话接口的重要概念演变。通过将上下文感知解释、反事实推理、多模态反馈和自适应解释策略嵌入到交互中,XCAs有潜力在保持通信有效性的同时改进可解释性和用户信任[30,57]。XCA范式不是将可解释性视为事后特征,而是将解释定位为核心交互机制,从而表明未来的研究不仅应关注改进对话性能,还应系统评估解释驱动的交互如何在实践环境中影响信任、参与度和用户决策。
**5.2. 医疗保健和健康背景下的对话代理**
跨医疗保健领域的CA应用完全旨在克服劳动力短缺、日益增长的慢性病负担以及持续患者支持的需求[62,63]。系统和范围综述表明,大多数医疗保健CAs应用于慢性病管理、心理健康支持、生活方式改变和健康教育,而不是用于急性或自主临床诊断[12,18]。经验证据表明,当ECAs被用作支持性工具而非临床医生的替代品时,在心理健康素养、治疗依从性和用户参与度方面取得了积极成果[14,17,19,20]。
当前模型(如AMIE和Med-PaLM)在临床推理和对话质量的受控评估环境中实现了与专家基准相当的性能[24,25,64]。尽管这些工作因可解释性、偏见、专业人员间的问责制以及专业人员处理机器介导交互的不适应性而警告不要立即在临床使用,但此处报告的组合揭示了支持性且值得信赖的AI辅助对话系统(而非完全自给自足的诊断工具)的发展清晰路径。
**5.3. XCAs的信任、可接受性与伦理基础**
在本综述中,信任已被揭示为医疗保健环境中用户接受和持续使用CAs的最重要决定因素之一[26,27,36]。经验性发现清楚地表明,信任受准确性、透明度、可预测性、同理心以及与用户价值观的一致性影响,而不仅仅是技术专长[26,28]。在医疗保健背景下,信任的重要性因健康信息的机密性和错误建议的后果而进一步放大[29,65]。可解释性建立了有充分根据的信任[34,37]。根据[61],当系统清晰传达其弱点、非人类相似性和决策逻辑时,用户更倾向于接受和使用CAs。尽管伦理和法律问题影响信任感知,但数据隐私、安全性和监管问题在医疗保健背景下是现有文献中长期存在的关注点[65]。遵守隐私保护设计和数据治理实践已被证明对用户信任和采用有积极影响。因此,在XCA背景下的信任应被概念化为一种社会技术现象,产生于设计、可解释性、伦理和用户变量的交叉点。
**5.4. 可解释AI作为可信XCAs和MHCS的赋能因素**
最近的研究已承认XAI技术是开发医疗保健应用可信AI系统的关键要素[34,37,66]。此外,它们在AI驱动的医疗保健应用中的整合和使用已导致更好的理解、感知公平性和行为意图[17,67]。诸如LIME、SHAP和Prospector等工具用于解释AI驱动医疗保健应用的全局和局部结果,以应对机器学习应用中的“黑箱”问题[46,52,53,68]。综合强调了可解释性如何不仅促进透明度,还促进伦理责任、偏见减少和知情同意方法[34,66]。随着智能手机和可穿戴设备的日益普及,使用启用了XAI的CAs进行移动健康应用的前景具有巨大的潜力来解决医疗保健相关的不平等问题,例如医生负担和在资源匮乏环境中的不良健康结果[17,41,42,45]。
**5.5. 综合总结**
这一综合明确了XCAs在专家和AI之间起着重要的中介作用。结果支持它们作为可解释、值得信赖且以用户为中心的医学和MHCS辅助系统的实用性。尽管通过大型语言模型和多模态AI的持续进步,其能力不断增强,但仍必须确保适当的以用户为中心的设计[69]、明确界定的角色边界以及一套安全和伦理考量[70]。
**6. 讨论**
**6.1. 医疗保健中的可解释对话代理(XCAs):管道**
作为范围综述,本研究不试图评估CAs的临床有效性或安全性。相反,它批判性地综合了信任、可解释性和伦理考量如何在现有研究中被设想、操作化和讨论,同时识别未解决的挑战和未来研究的方向。在此背景下,XCAs可以理解为CAs和XAI的新兴融合,将类人通信与透明、可解释的决策过程相结合[61,62]。然而,当前文献通常将对话能力和可解释性视为独立的设计目标,而不是统一系统的相互强化组件。从逻辑方法来看,XCAs的重要性不仅在于其技术能力,还在于其重塑医疗保健环境中信任关系的潜力。通过为建议提供明确和可理解的理由,XCAs可能改进医疗保健专业人员和患者对AI支持决策的可解释性,从而增强对临床决策支持、健康指导和患者随访过程的信心[61]。尽管如此,这些主张在很大程度上仍是概念性的,因为相对较少的研究系统地考察了解释机制如何在实践医疗保健环境中影响用户行为或决策质量。这表明XCAs的感知价值具有有限的经验验证和更多的理论假设。此外,文献通常强调XCAs的可扩展性,尤其是在医疗资源有限的地区。它们在专业监督下分析患者数据、监测症状和提供决策支持的能力通常被视为关键优势。然而,这一观点也引发了对问责制、可靠性以及用户愿意依赖自动化决策的条件的担忧。证据表明,当决策支持系统提供透明且可解释的解释时,医疗保健专业人员更可能信任它们。然而,这些解释如何转化为持续信任和行为依从性的机制仍未得到充分探索[61]。基于这些观察,本综述提出基于可解释性的信任代表了XAI与人类行为依从性之间的关键概念联系。本研究不是假设可解释性直接改善健康结果,而是认为可解释性主要作为一种信任构建机制,塑造用户如何解释、接受并基于AI生成的决策采取行动。尽管MHCS中的可解释性通常被视为独立的设计特征,本综述的发现表明,将CAs、XAI和MHCS整合在一个概念框架内提供了对信任如何形成和维持的更清晰理解。然而,在此框架中,可解释性并不直接改善健康结果;相反,它培养信任,进而可能增加对对话指导的依从性,并最终支持更好的健康实践和结果。
**6.2. 健康教练中XCAs的进展**
由于大型语言模型(LLMs)和机器学习算法的持续进步,XCAs已显示出显著发展[23,24,25,59,64]。现代XCAs(如Woebot、TanyaBot和AMIE)通过AI聊天机器人为有医疗保健需求的人提供全天候支持。从基于规则的人类医疗保健任务模型到融合情感理解并提供医疗保健建议能力的多模态智能医疗保健模型的发展是显著的[18,48,60]。例如,通过医生和患者之间的模拟对话,AMIE AI辅助软件应用自我博弈技术来改进诊断技能,支持了其性能与Med-PaLM 1和Med-PaLM 2相当的说法[23,24,25,64]。虽然纳入XAI技术将使解释决策过程成为可能,且移动技术支持全天候遵守用药方案、体育锻炼、心理健康咨询和慢性病管理[41,63,71],但整合这些技术带来了医疗保健的彻底转变,促进持续、预防和以人为中心的护理[42,72]。基于本范围综述,对XCA设计的启示包括:
- 使用临床验证的知识库和检索增强生成模型,而不是使用无约束的生成响应。
- 提供解释层,以帮助正确理解。
- 对未来系统的安全性、可接受性、公平性、可用性和临床结果进行彻底评估。
- 优先考虑设计隐私同意、数据加密、合规性和最小化。
- 设计用于信任校准而非盲目信任。清晰沟通限制以及何时寻求专业帮助。
- 在诊断、处方、紧急情况、怀孕、复杂合并症和不确定情况下保留人类监督。
**6.3. 未来发展的机会**
尽管取得了显著进展,但仍有各种机会增强MHCS中的XCAs。
- 多模态整合:整合语音、图像和可穿戴传感器数据以实现风险意识、监测和个性化健康指导,可放大生理和行为变化的早期检测[45,65,73]。
- 视觉和文本可解释性:以逐步可视化或文本解释形式呈现的推理有助于非专家用户更好地理解医学逻辑,并增加依从性和信任[46,52,68]。
- 行为和动机建模:整合动机和习惯形成的心理学模型,可根据用户情境、情绪和进展实现自适应干预。
- 跨学科合作:AI研究者、医疗保健专业人员和行为科学家之间的协同作用可以产生社会与伦理负责任的代理,从而确保临床准确性与以人为中心的设计之间的对齐[26,27,36]。
**6.4. 对话代理、XAI和移动技术的整合**
综合表明,要有效,MHCS需要利用一套技术,包括移动技术、XAI和CAs。通过采取整体策略,可能带来益处,包括帮助缓解医院拥挤并确保医疗保健在西非国家经济共同体(ECOWAS)及其他地区的公平分配[42,72]。对于MHCS的成功,协作和专业培训至关重要。它们不仅对确保分析准确性至关重要,而且对确保数据安全并进而获得公民信任至关重要。根据本综述的发现,研究人员提出的XCA-MHCS概念模型将包括:通过文本、语音或多模态症状捕获系统的用户输入;使用验证指南、患者既往病史和情境细节的临床知识和数据层;结合AI推理层、对话管理、风险分层和预测;使用XAI技术(如反事实提示、特征归因和简明语言临床情境)的可解释层集成;最后,包括安全性和治理层,包括审计日志、隐私控制、临床医生监督、升级和持续评估。
**7. 结论**
本综述概述了XCAs在MHCS中的作用和应用,以增强可访问性、建立信任并改善健康结果。XCAs是将XAI应用于健康指导并提供关于决策过程的透明解释的虚拟健康助理。论证这些建议、促进问责制和遵守公认医学标准的潜在能力构成了其性能的重要基础。培养信任和用户可接受性对于任何形式的采用仍然非常重要。这意味着如果用户确信准确性、可靠性、安全性和伦理完整性,他们可能会使用移动健康应用程序。系统的透明设计将有助于激发信任和依从性,尤其是在资源有限的地区(如ECOWAS国家),这些地区几乎没有可靠的数字健康服务。文化兼容性、可负担性、数字素养和社会责任进一步影响采用。开发者、医疗保健专业人员和政策制定者之间的合作对于确保XCAs以患者为中心且具有文化和社会责任感至关重要。对话界面、XAI和移动解决方案在XCAs中的整合为关键健康问题(如医院过度拥挤和健康基础设施超负荷)提供了创新解决方案。此外,本综述将可解释性(信任形成)视为通往数字健康信任和采用的认识论桥梁,并建议将对话系统和认知透明度整合到一个统一的、以信任为中心的架构中。鉴于以上讨论,XCAs具有巨大潜力,可作为确保数字健康支持系统补充医疗保健交付、透明且有用于医疗保健专业人员的有效方式,从而支持有效的医疗保健交付和患者参与。
**补充材料**
以下支持信息可在 https://www.mdpi.com/article/10.3390/make8060144/s1 下载。