面向AI赋能智能家居的安全设计(Security-by-Design)与基于风险的分级认证

《Future Internet》:Security-by-Design and Risk-Based Certification for AI-Enabled Smart Home

【字体: 大 中 小 】 时间:2026年08月27日 来源:Future Internet 4.6

编辑推荐:

  人工智能(AI)与物联网(IoT)生态的融合推动了包括智能家电在内的先进信息物理系统(CPS)的发展,同时也引入了超出传统威胁模型范畴的安全、隐私与AI治理风险。现有方法常将网络安全、AI风险管理与法规合规孤立处理,制造商缺乏将已识别威胁转化为架构控制与认证需

  
人工智能(AI)与物联网(IoT)生态的融合推动了包括智能家电在内的先进信息物理系统(CPS)的发展,同时也引入了超出传统威胁模型范畴的安全、隐私与AI治理风险。现有方法常将网络安全、AI风险管理与法规合规孤立处理,制造商缺乏将已识别威胁转化为架构控制与认证需求的系统方法。为此,研究人员提出一种安全设计与基于风险的认证框架,将六层IoT-AI参考架构与扩展至AI特有威胁(含提示注入与数据投毒)的STRIDE威胁分析相结合。由此产生的跨层分析支撑一个四级认证模型(L1–L4),依据设备的自主程度与AI能力确定性地将每种家电配置映射到一组强制安全与治理控制。该框架通过实体智能冰箱原型实例化与评估,展示威胁识别如何被系统性转化为设计决策与认证需求。所提框架为制造商、认证机构及研究人员提供了一条可复现的工程路径,用于设计与评估安全且对齐治理要求的AI赋能IoT家电。
研究背景方面,智能家电正深度嵌入由计算智能、通信网络与物理过程通过闭环反馈耦合的信息物理系统(CPS),市场持续扩张但治理碎片化:网络安全、AI风险管理与GDPR、EU AI Act等合规要求常被分离处理,导致跨层漏洞传播至隐私、安全与合规的端到端管理薄弱。AI赋能尤其是生成式AI(GenAI)引入提示注入、数据投毒、模型抽取等新攻击面;以智能冰箱为例,内部摄像头与食材元数据经长期聚合可推断饮食偏好、家庭构成与健康状态,低层感知/通信妥协可向上传播为行为推理与隐私损害。现有安全设计多在单层评估控制,缺跨层传播建模,且ISO/IEC 27001、ISO/IEC 23894、NIST AI RMF、ETSI EN 303 645等标准未给出威胁跨硬件—通信—AI—隐私层级联的工程化映射。因此研究人员开展本研究,目标是建立统一把威胁建模、架构控制、AI治理与分级认证连起来的方法论。
关键技术方法上,研究人员构建六层IoT-AI参考架构(硬件基础、本地边缘处理、连接协议桥、智能后端、AI治理决策、固件与OTA信任),以扩展STRIDE(覆盖Spoofing、Tampering、Repudiation、Information disclosure、Denial of service、Elevation of privilege)刻画AI特有威胁;定义自主性分数A(0–3)与AI能力分数C(0–3),认证级取L=max(A,C)封顶L4;以实体智能冰箱原型(Nicla Vision+ESP32-CAM+DHT11,本地TinyML推理,MQTT over TLS上行结构化元数据,云端LLM推荐,HITL确认,签名OTA)作案例,实施重放攻击仿真与提示注入仿真验证控制有效性。
研究结果各节结论如下。第2节背景与相关工作指出AI家电从反应式设备演变为自治CPS,传统IoT安全框架未覆盖算法行为操纵,治理标准缺跨层传播机制,研究空白在于无系统把威胁翻译为架构决策。第3节所提安全设计工程方法中,3.1威胁识别覆盖摄像头/身份/MQTT/后端AI/OTA五域,表列STRIDE映射;3.2跨层风险传播提出传递性风险传播概念,低层传感器投毒可级联至AI层与行为推断,冰箱食材时序数据构成行为推断风险(behavioral inference risk);3.3六层参考架构把每层对应到威胁类别与防御纵深(defense-in-depth)。第4节AI治理与设计就绪模型给出L1–L4四级:L1无AI基础IoT,L2固定规则监督ML,L3生成式AI需人工回路(human-in-the-loop, HITL),L4具代理能力可外部执行动作;各级绑定ISO/IEC 27001、ISO/IEC 23894、NIST AI RMF、ETSI EN 303 645、EU AI Act、GDPR控制项。第5节智能冰箱案例评估得A=1(建议均需用户确认)、C=2(云端LLM生成空间不可枚举但不调外部工具),故定级L3;重放仿真显示30秒时间戳新鲜度窗口拒绝陈旧包,关闭则下层失败污染AI上下文产生错误膳食建议;代理提示注入仿真显示输入过滤与HITL互补,HITL为不依赖上游过滤精度的最终独立强制层。第6节讨论与结论翻译浓缩:框架推动从孤立组件到传递性风险传播的系统视角,AI放大低层漏洞下游后果;局限为传播模型偏概念定性、A/C评分未外部校验、仅冰箱单案例非工业/医疗广域验证;结论主张把设备自主性与AI能力绑定强制控制以实现标准在操作层落地,为制造商与认证体提供可复现路径。论文发表于《Future Internet》。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号