HIVE:面向害虫识别的视觉昆虫学分层鉴定(Hierarchical Identification in Visual Entomology for Pest Recognition)
《Ecological Informatics》:HIVE: Hierarchical identification in visual entomology for pest recognition
编辑推荐:
摘要:害虫识别是精准农业的关键环节,可实现更高作物产量与可持续害虫管理。现有基于深度学习的方法受限于数据集物种多样性不足、样本量少及缺乏有效训练所需的详细分类学层级标注。为解决上述局限,研究人员提出HIVE——一个大规模基准数据集(benchmark data
摘要:害虫识别是精准农业的关键环节,可实现更高作物产量与可持续害虫管理。现有基于深度学习的方法受限于数据集物种多样性不足、样本量少及缺乏有效训练所需的详细分类学层级标注。为解决上述局限,研究人员提出HIVE——一个大规模基准数据集(benchmark dataset),包含13,434个类别、2,106,735张昆虫害虫图像,标注涵盖19个分类学层级(taxonomic levels)。HIVE通过在多样物种间提供细粒度形态学线索(fine-grained morphological cues)实现更精准的害虫识别,并支持跨多个分层分类学层级的准确分类。此外,HIVE在现有害虫数据集上取得更优的下游任务(downstream task)性能,持续超越基于通用自然图像基准预训练的模型。HIVE还可从未见过的害虫图像中检索形态相似物种,为无专业分类学知识的非专家用户提供实用辅助。
论文解读:HIVE——面向害虫识别的视觉昆虫学分层鉴定大规模数据集研究
研究背景与立项依据
昆虫是动物界分类多样性最高的类群,其中约0.5%被视为农业、公共卫生或入侵害害生物。精准的物种水平(Species-level)鉴定是实施针对性害虫治理、减少广谱杀虫剂滥用及生态破坏的前提。近年深度学习推动了自动害虫识别的发展,但已有公开害虫基准数据集(如IP102、INSECT、Insect-1M、AP162等)普遍存在三大缺陷:①物种覆盖窄(通常≤1000种且多局限于农业害虫);②仅提供物种或科属单层标签,缺失完整的分层分类学(hierarchical taxonomic)结构;③图像质量参差、存在误标注且未系统纳入形态相似的非害虫物种,导致模型泛化性差。此外通用预训练集(ImageNet)缺乏昆虫专属形态学特征,域适配困难。为填补大尺度、分类学完备的害虫视觉基准空白,研究人员构建了HIVE(Hierarchical Identification in Visual Entomology)数据集并系统评估了分层与扁平分类范式在害虫细粒度识别中的表现。
主要关键技术方法
研究人员以FAO、EPPO、IRAC及CDC权威机构发布的害虫名录为基础,通过GBIF(Global Biodiversity Information Facility)API获取各物种唯一标识符及完整分类学谱系(至19个层级:Phylum、Subphylum、Class、Subclass、Superorder、Order、Suborder、Family、Subfamily、Tribe、Subtribe、Genus、Species及六个未命名中间亚级Subranks),并采集对应用户上传图像。图像经三级过滤剔除低质样本:拉普拉斯方差(阈值1)去模糊、ResNet-50特征余弦相似度(≥0.95)去近重复、感知哈希(pHash)结合结构相似性(SSIM≥0.9)去结构冗余,再由生物专家校验与订正学名。最终数据集按物种保证各层级均有代表的原则以8:1:1划分为训练/验证/测试集。研究人员采用HIVE–Flat(各分类层级独立交叉熵损失)与HIVE–Hierarchical(共享骨干网络,多分类头联合优化∑LCE)两种训练方案,在ResNet-50、EfficientNetV2、ConvNeXt、ViT(Vision Transformer)、DeiT、CoAtNet及SwinTransformer七种骨干网络上预训练与微调,并以Top-1/Top-5准确率(Accuracy@K)、精确率(Precision)、召回率(Recall)及F1值评估;下游迁移效果通过IP102与MosquitoLab数据集验证;特征判别性与可解释性借助Eigen-CAM可视化及图像检索(image retrieval,余弦相似度度量mAP与P/R@K)分析;长尾不均衡问题辅以分类器重训练(classifier re-training, cRT)策略缓解。
研究结果
3.1 Data collection and annotation(数据采集与标注)
经由害虫遴选→分类身份收集→图像采集→图像过滤→分类身份标注五步流程,HIVE收录13,434物种、2,106,735幅图像,覆盖农业、卫生及家居害虫害虫及其形态相近非害虫类群,所有图像经专家审定并赋予完整19级分类标签。
3.2 Hierarchical taxonomic levels and completeness(分层分类学层级与完整性)
HIVE对所有物种提供Phylum、Class、Order、Family、Genus、Species六大主层级及13个次要层级注释;次要层级因生物分类异质性而部分物种缺省。与现有数据集相比,HIVE在Order/Family/Genus/Species层级标注一致性接近100%,而其他数据集常混用俗名或不同层级标签。物种重叠分析显示HIVE与IP102、INSECT、Insect-1M、AP162等仅有极低细粒度重叠,因其系统性纳入少被覆盖的权威害虫名单及相关非害虫对照。
3.3 Pest image bias, quality and distribution(图像偏差、质量与分布)
HIVE图像分辨率高于IP102且具竞争性与ImageNet-1K相当的图像质量(更高CLIP-IQA、更低NIQE/PIQE)。样本呈典型长尾分布:23 Orders、79 Families、4,229 Genera、13,434 Species,符合真实生态观测偏态。
3.4 Training schemes on HIVE: Flat vs. Hierarchical(HIVE上扁平与分层训练方案)
HIVE–Flat对各层级独立做交叉熵分类;HIVE–Hierarchical共享特征提取器并联合优化四个主层级分类头之损失和。分层约束作为正则化项引导网络学习层级形态关联。
3.5 Dataset split(数据集划分)
全集按每物种均出现在三子集之原则划分为训练集1,651,537张、验证集222,875张、测试集232,323张(8:1:1)。
5.1 Pest recognition on HIVE(HIVE上害虫识别性能)
在HIVE测试集上,SwinTransformer整体最优,ResNet-50最低;从Order至Species精度递减(Order Acc@1最高约98%,Species约86–87% for SwinTransformer under Hierarchical)。HIVE–Hierarchical较HIVE–Flat显著提升Genus与Species层级之Acc@1、Precision及F1(如EfficientNetV2在Species层Acc@1由84.62%升至85.36%,F1由47.47%升至46.70%需注意此处原文数值——Hierarchical在多数模型Genus/Species的macro-F1优于Flat),尤其对轻量模型改善明显。Eigen-CAM显示HIVE–Hierarchical迫使模型注意力更集中于昆虫鉴别性部位而非背景。
5.2 Downstream task evaluation on additional benchmarks(额外基准上的下游任务评估)
以HIVE(Flat/Hierarchical)预训练再微调IP102与MosquitoLab,各项指标均优于ImageNet-1K预训练基线。IP102上SwinTransformer(Hierarchical)达Acc@1 75.82%(ImageNet基线72.42%);MosquitoLab上ConvNeXt(Hierarchical) Acc@1达90.23%(ImageNet基线84.41%),证明域特异预训练习得可迁移昆虫形态表征。下游Eigen-CAM同样证实HIVE预训练抑制环境噪声、聚焦虫体关键区。
5.3 Image retrieval analysis on HIVE(HIVE上图像检索分析)
基于池化嵌入的余弦相似检索,HIVE–Hierarchical在Order至Species各级之mAP、Precision@K与Recall@K均高于HIVE–Flat(Species mAP由39.49升至43.62),说明分层训练增强同类形态聚集度;极近缘种(如同属不同种白蚁)因微形态差异有限仍存检索混淆,提示需引入多模态信息。
5.4 Mitigating taxonomic long-tail imbalance with classifier re-training(利用分类器重训练缓解长尾不均衡)
在HIVE–Flat冻结骨干后对分类头做类别均衡采样重训练(cRT),大体参模型(SwinTransformer、ConvNeXt)Recall与F1明显提升,表明cRT有效改善稀有类识别;小模型因表征力受限整体略降,但尾部类别仍有受益趋势。
讨论与结论
研究人员指出HIVE虽规模大且分类完备,但仍面临长尾分布、部分物种图像过少、成虫阶段主导(缺幼虫/蛹/群体阶段)、极近缘种仅靠RGB难区分等挑战。未来拟扩充生活史阶段标注、引入检测/分割框、融入物种文本描述以支持视觉–语言模型(Vision-Language Model, VLM)。对于资源受限田间设备,轻量模型经HIVE预训练加cRT已具竞争力,可结合剪枝与知识蒸馏进一步压缩。长尾问题可探索logits调整、对比自监督及扩散增强生成以强化尾部表征。
结论翻译(研究结论部分):
本研究提出HIVE——一个面向害虫识别的大规模数据集,通过严谨预处理流程提供高质量图像与分层分类学标注。与先前数据集不同,HIVE含13,434个物种类别与2,106,735张图像,标注覆盖19个分类学层级,使模型得以学习害虫关键特征。以多种CNN及ViT架构在HIVE上训练之模型,在下游害虫识别任务中优于基于广泛使用的通用数据集预训练之对应模型。结果表明HIVE作为害虫识别领域专属资源具充分有效性。研究人员计划进一步扩展数据集,加入目标检测与实例分割标注及物种级文本描述。
发表于《Ecological Informatics》, 2025.