《ADVANCED ENGINEERING INFORMATICS》:Agentic AI for assurance of maritime autonomy: A conceptual framework and research roadmap
编辑推荐:
研究人员提出了一种将代理式人工智能(Agentic AI)作为海事自主性保障基础的概念框架与研究路线图。该框架构建了一个由十一个面向生命周期的层次组成的代理式保障回路(agentic assurance loop),并设计了一种多智能体保障架构,涵盖组件级(c
研究人员提出了一种将代理式人工智能(Agentic AI)作为海事自主性保障基础的概念框架与研究路线图。该框架构建了一个由十一个面向生命周期的层次组成的代理式保障回路(agentic assurance loop),并设计了一种多智能体保障架构,涵盖组件级(component-level)、协调器级(coordinator-level)与系统级(system-level)智能体。研究还界定了一个用于自主航行系统(Autonomous Navigation System, ANS)保障的有界用例(bounded use case),并提出了朝向形式化(formalisation)、校准(calibration)、数字孪生验证(digital-twin validation)与工业相关性(industrial relevance)的研究路线图。
海事自主水面船舶(Maritime Autonomous Surface Ships, MASS)的快速演进正在重塑海事系统的设计、运营与评估范式。自主渡轮、无人水面艇及减员货船虽可提升安全、效率与可持续性,但如何使操作者、监管机构及船级社对自主船舶在复杂海事环境中持续维持安全、合规与韧性保持合理信心,成为核心挑战。海事自主性并非固定技术制品,其性能受交通密度、气象、传感器质量、通信链路、操作设计域、系统配置及海事规则解释等多因素影响,因此保障不能仅停留于部署前的设计验证,而需随船舶、自主栈、环境与监管语境变化持续维持。现有保障手段如仿真测试、规则检查、形式化方法、安全案例、运行时监控与人在回路评估等虽提供重要基础,却常分散于不同工具、生命周期阶段与组织之间,且偏向设计时证据与定期审查,难以适应自适应、数据驱动系统的保障需求。针对此缺口,研究人员提出以代理式人工智能(Agentic AI)作为组织保障流程的概念框架,强调其角色必须受显式契约、证据要求、验证规则、来源记录与人类权威约束,而非充当自主认证者。该研究发表于《ADVANCED ENGINEERING INFORMATICS》。
研究人员开展的核心工作包括四个方面:构建了由动态环境、感知、世界模型、推理、规划与决策、行动与执行、学习与泛化、工具使用、反馈与适应、人机协同、知识与数据这十一个层次组成的代理式保障回路,明确各层功能及信息对象;设计了基于层次化组合的三层多智能体保障架构,将保障职责分配至组件级、协调器级与系统级智能体,并保持证据、契约、置信与人工审查之间的可追溯性;实现了一个有界的自主航行系统(ANS)验证与确认(V&V)原型,展示子系统证据的收集、组合、经确定性PASS/FAIL/REVIEW逻辑路由,并通过事后基于大语言模型(LLM)的慎思向人类保障员解释结论;提出了分阶段研究路线图,指向形式化、置信校准、数字孪生与协同仿真验证、监管可追溯性、人类保障员评估及工业验证。
为开展研究,研究人员主要采用了以下关键技术方法:通过Web of Science文献计量学检索(2025年10月7日执行)归纳研究分布与空白;构建了包含十一层的保障回路,并用形式化方程刻画感知、世界模型更新、保障推断、决策与执行等过程;依据基于模型的系统工程(MBSE)与契约式设计(CBD)原则,制定了组件、协调器、系统三层次的多智能体协调架构,定义了智能体间消息模式、证据提升、冲突消解与升级策略;基于LangGraph StateGraph实现了十四节点与两个边界检查节点的ANS V&V原型,采用确定性判定与LLM解释分离的流程;利用数字孪生与协同仿真平台(如Open Simulation Platform)作为扩展验证环境。数据来源包括Web of Science文献数据及原型产生的仿真证据,不涉及生物样本。
研究结果方面,论文的主要章节及其结论如下:
3. Agentic assurance framework(代理式保障框架):该框架将保障视为受治理的生命周期过程,而非一次性认证。3.1 Dynamic environment(动态环境)指出环境状态及其扰动可能导致先前假设失效,需触发重新评估。3.2 Perception(感知)明确保障系统不仅直接感知物理状态,还从文档、日志、测试输出中提取保障相关观测。3.3 World model(世界模型)维护船舶、自主功能与环境不确定性的事态表示,支持风险场景传播推理。3.4 Reasoning(推理)区分保障推断与慎思,定义符号/形式、统计、因果及LLM四种机制,强调LLM输出仅具咨询性,不能覆盖确定性验证结果。3.5 Planning and decision making(规划与决策)生成建议性保障行动,但受人类权限约束。3.6 Action and execution(行动与执行)将授权行动转化为具体测试、仿真或操作风险控制措施,并生成可追溯证据。3.7 Learning and generalisation(学习与泛化)从经验中提出候选知识更新,但安全关键更新需经授权。3.8 Capabilities through tool usage(工具使用能力)通过受控工具集扩展智能体能力,包括仿真、形式化验证、数字孪生接口、统计模型与LLM工具。3.9 Feedback and adaptation(反馈与适应)引入外部保障证据(如事故报告、监管更新),驱动再评估与适应。3.10 Human-AI teaming(人机协同)通过人类权威门控实现“批准、修改、审查、预授权、拒绝”等行动授权模式。3.11 Knowledge and data(知识与数据)维护版本化的需求、契约、证据、假设、危害与历史案例,并控制安全关键知识更新。3.12 Integration and closure(集成与闭环)将各层整合为受选择治理的闭环过程,其中快速运行更新与较慢的知识更新在不同时间尺度上受控进行。
4. Multi-agent assurance architecture(多智能体保障架构):4.1 基于层次化组合的架构表明,组件级智能体负责局部子系统证据,协调器级合成跨组件证据,系统级评估船舶级保障声明,如此可避免单一单体的脆弱性并保持可追溯性。4.2 基于保障流程的架构定义了每个智能体遵循的六步流程:假设/契约检查、证据生成、评估、反馈与适应、泛化、数据管理与检索。4.3 多智能体协调细节规定了类型化消息模式,明确了安全关键契约违例优先、无效或陈旧证据不得自动接受、冲突证据触发额外测试、未解决矛盾升级至人工审查等策略。4.4 监管与船级社可追溯性提供了与IMO MASS规则、DNV和BV指南的非规范性映射,但明确未证明合规或批准。
5. Illustrative ANS V&V prototype(说明性ANS V&V原型):原型基于五个子系统(GPS、雷达、陀螺、操舵、推进)收集遥测与数据质量指标,经协调器合成与规则检查,输出保障置信指标与PASS/FAIL/REVIEW路由。仪表板展示子系统状态、安全门、ANS性能评分、保障置信评分及最终判定,并提供审计跟踪。该原型仅检查最小分离距离,不构成完整COLREG合规、全船动力学仿真或工业认证证明,其价值在于演示代理式保障如何组织证据、置信度、确定性判定与人类审查。
讨论部分指出,框架的真正价值在于将Agentic AI用作保障组织原则,而非自主认证权威。研究挑战包括:保障智能体自身也需要保障;置信度模型必须校准而非启发式;证据需跨供应商、工具、仿真、运行数据和人类决策保持可追溯;人机协同设计需避免自动化偏见或过度负荷;监管与船级社相关性需通过利益相关方协作建立。路线图六步为:形式化保障制品与接口;校准证据质量与置信度;验证单个保障功能;集成数字孪生与协同仿真;评估人类保障员交互;评估工业与监管相关性。
研究结论可翻译为:本文提出了面向海事自主性保障的Agentic AI概念框架与研究路线图,将十一层代理式保障回路与三层次多智能体架构相结合。一个有界ANS V&V原型展示了如何作为独立保障层实例化,收集子系统证据、计算可追溯保障指标、将确定性PASS/FAIL/REVIEW决策与LLM生成解释分离,并将不确定案例升级给人类保障员。主要贡献是架构性的:Agentic AI可组织保障为受治理、证据驱动、面向生命周期的过程,同时保留人类问责与确定性保障逻辑。未来工作应形式化保障制品与接口、校准置信模型、在数字孪生与协同仿真环境中验证保障功能、评估人类保障员交互,并与船级社和监管利益相关方共同评估该方法。