《Frontiers in Artificial Intelligence》:A Peircean framework for explainable and human-centred artificial intelligence
编辑推荐:
本文通过查尔斯·桑德斯·皮尔士(Charles Sanders Peirce)的实用主义符号学(pragmatic semiotics),发展了一个用于重新思考可解释人工智能(Explainable Artificial Intelligence,XAI)与以
本文通过查尔斯·桑德斯·皮尔士(Charles Sanders Peirce)的实用主义符号学(pragmatic semiotics),发展了一个用于重新思考可解释人工智能(Explainable Artificial Intelligence,XAI)与以人为本人工智能(Human-Centred Artificial Intelligence,HCAI)的哲学—概念框架。该框架并未将可解释性仅仅视为算法透明性,而是将其概念化为一种社会情境化的认知过程(socially situated epistemic process),在此过程中,人工智能生成的输出在人类探究实践中被解释、评估、质疑与修订。研究借鉴皮尔士的符号过程(semiosis)、溯因推理(abduction)、探究(inquiry)、可错论(fallibilism)、实用主义(pragmaticism)以及探究共同体(community of inquiry)等概念,区分了人工智能系统执行的计算过程与其输出获得认知及实践意义所依赖的人类与制度实践。人工智能输出可作为符号(signs)发挥作用,并可生成功能上类似于溯因可能性的假设;然而,解释、证据评估、辩护、伦理判断与责任仍属于人类探究共同体的范畴。该框架进一步将皮尔士概念转化为可解释人工智能的实践原则,包括情境化解释、不确定性沟通、可争议性、人工审查、利益相关者参与、基于证据的修订以及持续评估。一个涉及生成式人工智能(generative AI)的实例说明,人工智能生成的解释如何经历解释、质疑、证据核查、争议与修订,而非被接受为最终的认知产物。因此,本文将皮尔士实用主义定位为对技术性可解释人工智能方法的补充,而非替代,通过阐明有意义解释、可信赖人工监督与负责任人工智能治理的认知条件,提供哲学与规范性框架。
论文解读:皮尔士实用主义符号学框架下的可解释与以人为本人工智能
一、研究背景与问题
近年来,人工智能已从单纯的计算工具演变为深度嵌入决策、知识生产、教育、医疗、治理与日常生活的社会技术基础设施。随着人工智能在关键社会实践中日益普及,核心哲学挑战已不再是系统能否执行复杂计算任务,而是其输出应如何被理解、解释和评估为知识形式。当代关于可解释人工智能(XAI)的研究虽已产生大量提升系统透明性的技术方法,但关于何为真正解释、人工智能输出如何获得认知意义,学界仍存在根本分歧。现有方法往往将可解释性视为算法的技术属性,而非意义被建构和评估的解释过程。这一哲学局限表明,需要一种替代性概念框架,将人工智能不仅理解为计算信息处理,更理解为解释与知识形成的过程。皮尔士的实用主义为此提供了宝贵的概念资源:与将知识视为理性认知固定产物的观点不同,皮尔士将知识理解为通过符号过程、探究、溯因推理与信念持续修订而涌现的动态自纠过程。
二、研究内容与结论
本研究旨在将皮尔士的实用主义符号学重构为可解释与以人为本人工智能的哲学框架,并阐明该框架为理解解释、知识生产与负责任人工智能治理提供的新认知洞见。研究通过整合符号过程、溯因、探究、可错论、实用主义与探究共同体等概念,论证可解释性是一个迭代过程:人工智能输出在人类与制度探究中被解释、依据证据与情境评估、必要时被质疑,并通过人类与制度探究予以修订。该框架因此通过提供有意义解释、人类监督、可争议性与负责任人工智能治理的哲学与规范性标准,补充了技术性可解释人工智能方法。研究强调,人工智能输出可作为符号并生成功能上类似于溯因可能性的假设,但解释、证据评估、辩护、伦理判断与责任仍属于人类探究共同体。该框架将皮尔士概念转化为可解释人工智能的实践原则,包括情境化解释、不确定性沟通、可争议性、人工审查、利益相关者参与、基于证据的修订与持续评估。一个涉及生成式人工智能的实例表明,人工智能生成的解释应经历解释、质疑、证据核查、争议与修订,而非被接受为最终认知产物。研究因此将皮尔士实用主义定位为对技术性可解释人工智能方法的哲学与规范性补充,而非替代。
三、主要技术方法
本研究采用哲学—概念方法论,结合描述性—分析性解释、比较哲学分析与概念重构。研究首先在哲学语境中解释皮尔士符号学的相关概念;其次区分其认知功能与当代人工智能系统执行的计算过程;再次将这些功能与当前可解释性、以人为本人工智能及可争议人工智能方法进行比较;最后将所得关系综合为规范性框架。研究并非对人工智能性能的经验调查,不涉及统计检验、用户实验或解释技术的比较评估。研究未使用样本队列。
四、研究结果
3.1 为何皮尔士适用于当代人工智能:通过历史分析表明,人工智能已从以自动化与数据处理为主的计算技术,演变为影响知识生产、决策、沟通与社会互动的复杂社会技术系统。皮尔士哲学将知识、意义与探究视为相互关联的过程,而非表征的静态属性,为评估人工智能如何参与意义建构提供了框架。研究强调,皮尔士哲学的价值恰在于提供概念区分,防止将人工智能输出等同于皮尔士式认知。
3.2 皮尔士实用主义与探究的发展:通过文本分析阐明,皮尔士的实用主义将意义与可探究的实践后果相联系,而非纯粹抽象定义。研究区分了实用主义与简单效用主义,强调概念、假设与信念始终受证据、批评、经验与修订的约束。皮尔士的探究概念与笛卡尔式基础主义形成对比,强调社会情境化的探究,信念与假设暴露于批评与纠正之中。
3.2.1 可错论、批判与知识的持续发展:通过概念分析表明,可错论不仅指人工智能可能犯错,更涉及知识主张的地位及使其保持可修订性的实践。研究将皮尔士可错论与波普尔批判理性主义进行比较,指出前者将可错论置于怀疑、溯因、经验、实验与共同体探究的更广阔过程中。
3.3 符号学与意义建构:通过皮尔士三元符号关系分析表明,人工智能生成的表征仅在特定语境中被解释时才获得实践意义。研究提出解释项(interpretant)概念是可解释性说明的核心:解释并非信息披露即完成,而须使输出、证据、用户语境与决策之间建立适当的解释关系。研究强调以人为本并非用户偏好自动决定适当性,而包括直接用户、受影响者、领域专家与合法制度或公众利益相关者。
3.4 溯因与知识生成:通过逻辑分析表明,溯因是提出可能解释的推理过程,构成科学探究的初始阶段。研究对溯因的哲学地位进行限定:人工智能系统可生成功能上类似于溯因假设生成维度的候选假设或解释,但并未实例化皮尔士描述的完整认知过程。人类探究仍须判断生成的可能性是否相关、有证据支持、实践上充分并值得进一步研究。
3.5 走向以人为本与可解释人工智能:通过综合论证表明,皮尔士哲学支持将人工智能输出置于解释、批评与集体探究中评估。可解释性、透明性、问责制与监督因此既是认知条件也是伦理条件。
3.5.1 可解释性与解释:通过文献比较表明,可解释性与可理解性并非概念等同,二者均不能脱离受众、目的与语境理解。研究区分内在可解释模型与事后解释方法,指出二者均不保证理解或合理依赖。皮尔士式可解释性扩展而非拒绝当代可解释人工智能,技术方法仍是探究中的资源而非自我验证的知识。
3.5.2 透明性与问责制:通过论证表明,透明性可促进合理信任,但并非充分或必要。信息在使用户与制度能够调查输出、评估证据与局限、修订判断时具有认知价值。问责制要求计算系统与人类责任之间建立明确关系,解释与伦理评估仍是人类责任。
3.5.3 人类监督与负责任人工智能:通过概念分析表明,皮尔士的探究共同体概念为负责任人工智能提供基础。知识通过批评、对话与共同体探究发展,人工智能应支持而非取代人类判断。研究强调探究共同体并非自动平等的过程,须有制度机制使相关证据可获取、提供质疑与上诉渠道、使受影响利益相关者有机会挑战重大人工智能输出。该概念与可争议人工智能文献汇合,将可争议性不仅与程序公平或治理相联系,还与可错知识保持开放修正的认知条件相联系。
3.5.4 皮尔士框架的社会应用:通过领域分析表明,该框架在医疗、教育、司法与公共行政等依赖解释与判断的领域尤为相关。人工智能辅助诊断应整合临床专业知识与情境知识;教育推荐应支持而非取代师生解释;司法与公共行政中人工智能应支持人类审议,同时接受公平、合法性与问责制的审查。
五、讨论与结论
讨论部分指出,皮尔士哲学为理解人工智能作为解释与认知实践提供了哲学框架。当代可解释人工智能包含可解释模型、事后解释、因果与反事实方法及以人为本方法,但剩余哲学问题是这些解释资源如何在特定探究实践中获得认知意义。该框架并非替代当代可解释人工智能技术,而是澄清其认知角色的哲学层。研究将解释重构为情境化探究,并确定有意义、可修订与可争议解释的条件,将解释、假设形成、不确定性、实践后果、人类监督与集体争议连接在一个认知模型中。研究强调,人工智能系统的适应与更新过程虽可能类似皮尔士探究的某些方面,但不应被解释为人工智能拥有真正理解或自主认知的证据;智能系统仍是认知工具,其输出须受人类解释、批评与修订。
结论部分翻译如下:本研究论证,查尔斯·桑德斯·皮尔士的实用主义符号学为超越纯粹计算视角重新思考人工智能提供了连贯框架。通过整合符号过程、溯因、探究、可错论、实用主义与探究共同体,研究表明人工智能输出通过人类解释、情境判断与集体评估获得认知意义。可解释性因此是探究中意义建构的动态过程。该框架将皮尔士符号学与当代可解释人工智能、可信人工智能与以人为本人工智能的辩论联系起来。它并不取代计算方法,而是识别其输出变得有意义、可理解、可修订与社会可问责的认知条件。分析进一步表明,人类监督、透明性、问责制与批判性评估可被理解为认知要求,而非仅伦理原则。可信人工智能因此依赖于使人们能够评估、质疑与修订人工智能支持主张的实践。未来跨学科研究可将该框架应用于生成式人工智能、临床决策支持、教育与公共部门系统,以检验皮尔士原则如何为解释、评估与治理提供信息。