《Electronics》:NanoCNN: Minority-Aware Neural Architecture Search for Edge Arrhythmia Classification
Lamia Berriche
编辑推荐:
摘要:心律失常是一种危及生命的心血管疾病,若未及早检测则后果严重。尽管深度学习模型在心电图(ECG)心律失常分类中展现了强劲性能,但将这些模型部署于资源受限的可穿戴设备仍具挑战。本文研究人员提出一种量化兼容的神经架构搜索(NAS)框架,用于发现超紧凑型小样本感
摘要:心律失常是一种危及生命的心血管疾病,若未及早检测则后果严重。尽管深度学习模型在心电图(ECG)心律失常分类中展现了强劲性能,但将这些模型部署于资源受限的可穿戴设备仍具挑战。本文研究人员提出一种量化兼容的神经架构搜索(NAS)框架,用于发现超紧凑型小样本感知卷积神经网络(CNN)。研究人员将NAS建模为多目标优化问题,联合最大化平衡准确率与小样本类别召回率,同时最小化模型规模与计算复杂度。此外,研究人员将搜索空间约束为仅包含INT8兼容操作。研究人员在MIT-BIH心律失常数据库上评估了该框架,发现了用于二分类与多分类任务的NanoCNN模型。未使用数据增强训练的模型总体准确率分别达到98.7%与98.21%,超越了现有最先进技术。所发现的模型每次推理仅需38.3 K与51.5 K乘累加操作(MAC),使其能够部署于ARM Cortex-M4微控制器。通过数据增强及其他小样本感知干预,模型达到91.6%的平衡准确率。研究结果验证了所采用的搜索与训练技术对于心律失常筛查与诊断的有效性。
以下是根据论文内容撰写的1500汉字左右的论文解读文章:
### 研究背景与问题
心血管疾病是全球约三分之一死亡的原因,心律失常作为其中一种,因心脏电活动异常导致心跳过快、过慢或不规则,早期检测至关重要。传统诊断方法(如长期心电图监测、动态心电图记录、电生理研究)耗时、资源密集且需专家解读。近年来,基于人工智能(AI)的诊断工具通过从电子健康记录、心电图(ECG)测量数据中学习模式,成为有前景的替代方案。然而,AI模型开发面临模型选择、特征工程与超参数调优等挑战。自动化机器学习(AutoML)框架虽能自动处理这些任务,但现有神经架构搜索(NAS)方法多仅优化准确率或浮点操作次数(FLOPs),忽略部署中量化兼容性与小样本类别检测。同时,物联网(IoT)虽推动了远程患者监测,但云端架构存在延迟、依赖连接与隐私风险。边缘计算将数据处理移至靠近数据源处,但将复杂模型嵌入微控制器需压缩与优化管道。量化虽可降低模型规模与能耗,但并非所有浮点架构都能平滑量化。面向微控制器的TinyML技术使模型能在毫瓦级功耗下实时推理,但需专门优化。因此,研究人员提出一种量化兼容的小样本感知NAS框架,将部署约束显式纳入搜索过程,旨在为心律失常边缘分类自动发现超紧凑型CNN。
### 主要关键技术方法
研究人员采用以下关键技术方法:1)将NAS建模为多目标优化问题,联合最大化平衡准确率与小样本类别召回率,同时最小化模型规模与计算复杂度;2)将搜索空间约束为仅含INT8兼容操作(如ReLU激活、无偏置卷积、自适应池化),避免后量化转换失败;3)通过随机搜索在约束空间内生成候选架构,使用短时间代理训练(二分类5轮、多分类15轮)与多目标复合评分函数评估;4)利用MIT-BIH心律失常数据库(48份半小时间歇双通道ECG录音,来自47名受试者,含109446个心跳,15种心律失常标签),采用随机分层划分(70%训练、15%验证、15%测试)进行主要实验,并补充受试者感知五折交叉验证;5)对发现的最优架构进行全训练(二分类100轮、多分类500轮,含早停),并采用后训练量化将模型转换为INT8精度,通过Silicon Labs MLTK分析器提取闪存占用、运行时RAM与乘累加操作数(MAC)。
### 研究结果
**4.1 二分类心律失常分类**
- **4.1.1 NAS搜索阶段结果**:可行架构参数分布显示,单块结构占主导(42%),核大小3占64%,全连接层密集单元集中为16(42%)。各架构平衡准确率范围为34.0%~96.3%,闪存13.5±4.6 KB,MAC 42.8±8.9 K,RAM 6.1±1.5 KB。
- **4.1.2 全训练结果**:多随机种子验证显示标准差低于1.1%,正常类召回率标准差仅0.3%。从FP32到INT8量化未引起性能下降,平衡准确率97.4±0.6%,总体准确率98.0±0.5%。
- **4.1.3 最佳模型性能**:最佳架构含两个卷积块(每块两层4滤波器、核大小3、池化大小3)、全连接层32单元、0.4丢弃率,共5390个可训练参数。INT8量化后闪存14.3 KB、RAM 6.0 KB、MAC 38.3 K。正常类召回率99.5%、精确率98.6%、F1分数99.0%;异常类召回率97.12%、精确率99.0%,总体准确率98.7%、平衡准确率98.3%。
**4.2 多分类心律失常分类**
- **4.2.1 NAS搜索阶段结果**:可行架构多采用浅层卷积结构,核大小3和5占优,全连接层密集单元以16和32为主。可行模型平均复合评分0.444±0.101,平衡准确率20.9%~75%。硬件闪存14.2±5.1 KB,MAC 23.5~59.2 K。
- **4.2.2 标准训练结果**:多随机种子验证显示融合类标准差最大,正常类最低。FP32到INT8零退化。平衡准确率83.52±4.21%,总体准确率97.19±0.98%。最佳模型(一个1D卷积块、核大小5、池化大小3、32隐藏单元、0.2丢弃率)总体准确率98.21%、平衡准确率87.02%、宏F1分数90.2%,需MAC 51.5 K、闪存21.5 KB、RAM 4.9 KB。主要误分类模式为小样本类别被错标为正常。
- **4.2.3 小样本感知训练结果**:结合ECG数据增强(时间偏移、高斯噪声等)、平衡批次采样、焦点损失(γ=2.0)与自适应类别权重。多随机种子验证中,融合类标准差降低。最佳模型(三个卷积块,每块两层4滤波器、核大小3、池化大小2、32隐藏单元、0.3丢弃率)总体准确率95.73%、平衡准确率91.64%、宏F1分数81.74%,需MAC 53.4 K、闪存17.77 KB、RAM 7.52 KB。正常类召回率96.1%、精确率99.4%;心室性搏动召回率最佳;融合类召回率提升至84.3%但精确率降至40.5%。小样本感知训练提升了小样本类别召回率但降低了精确率。
**4.3 消融与验证研究**
- **4.3.1 评分权重影响**:比较三种权重配置(小样本聚焦、平衡、小样本感知)。小样本感知配置(w
BA=0.7, w
recall=0.2, w
HW=0.1)平均指标最高且稳定性最优(变异系数最低)。
- **4.3.2 搜索阶段训练预算影响**:随机抽取15个架构,代理指标与最终指标间斯皮尔曼等级相关系数0.857~0.888(p<0.001),前5架构在全训练后仍保持前列。
- **4.3.3 受试者感知交叉验证**:对最佳二分类模型进行五折交叉验证(同一受试者所有心跳在一折内),平衡准确率75.9±8.8%,总体准确率80.7±11.5%,异常类召回率68.2±4.8%,正常类精确率96.2±2.1%。
**4.4 与最先进方法比较**
二分类模型在所有评估指标上超越现有最先进TinyML方法。多分类中,标准训练NAS模型总体准确率98.21%优于TinyTNAS的97.40%,且资源消耗更低;小样本感知变体平衡准确率91.60%最高,虽总体准确率降至95.73%但增强了对临床关键小样本类别的敏感性。
### 总结与结论
**讨论部分总结**:研究人员讨论了小样本感知训练在提升罕见心律失常召回率时以降低精确率为代价的权衡,并指出这凸显了联合优化架构搜索与训练方法的必要性。框架需进一步扩展可解释性技术,并在更广泛数据集与部署场景中验证。此外,物理硬件部署将提供经实证的延迟与能耗测量。
**研究结论**:研究人员提出了一种新型NAS框架,自动设计资源高效的CNN用于边缘设备心律失常分类。通过将小样本类别关注与硬件效率指标直接纳入多目标评分函数,并在量化感知搜索空间中使用随机搜索,发现了在MIT-BIH数据库上达到最先进性能的NanoCNN架构。标准与少数类感知训练策略的比较表明,少数类感知变体以降低精确率为代价提升了罕见心律失常召回率,强调了开发稳健TinyML临床解决方案需综合优化。未来需扩展框架以纳入可解释性技术,并在多种数据集与部署场景中验证。