《Computational Biology and Chemistry》:Evaluation of protein sequence retrieval via protein language model embeddings and FAISS
编辑推荐:
•ProtFaiss:ESM2嵌入 + FAISS多索引检索(Flat、IVF-PQ、HNSW)。•向量搜索比BLASTp快~300,000×倍;包含PLM编码在内的端到端速度提升~200×倍;远缘同源物敏感性为7.7% vs 6.7%。•ESM2-650M第22层:Reca
- •
ProtFaiss:ESM2嵌入 + FAISS多索引检索(Flat、IVF-PQ、HNSW)。
- •
向量搜索比BLASTp快倍;包含PLM编码在内的端到端速度提升倍;远缘同源物敏感性为7.7% vs 6.7%。
- •
ESM2-650M第22层:Recall@10=0.78 vs 最终层0.43;35M在默认池化策略下表现最佳。
引言
蛋白质序列相似性搜索是计算生物学中的基本操作:它在数据库中发现与查询序列具有进化关系的同源物,从而实现对未表征蛋白质的功能、结构和进化历史的推断。其应用涵盖功能注释、药物靶点发现、宏基因组分析和分子进化研究等领域。高通量测序的推动使蛋白质序列数据进入快速增长阶段:截至2026年1月,UniProt知识库已收录超过2亿条蛋白质序列(The UniProt Consortium, 2023),而基于比对的方法在计算效率上已无法跟上步伐。核心挑战在于检索速度与检测灵敏度之间的权衡:速度决定了方法能否服务于对十亿级数据库的高通量查询,而灵敏度则决定了其能否在序列相似性已被严重侵蚀的"暮光区"中识别出远缘同源物。在分析蛋白质序列检索技术和基于深度学习的蛋白质表征研究的基础上,本文开发了一种基于PLM嵌入和FAISS近似最近邻搜索的检索方法。
数十年来,蛋白质序列相似性搜索一直由序列比对范式主导。BLAST(Altschul等, 1990)、HMMER(Eddy, 1998)和MMseqs2(Steinegger与Soding, 2017)等工具通过不同的算法策略在速度和灵敏度之间进行不同的权衡,但它们共享一个共同的瓶颈:当查询序列与目标序列之间的序列一致性降至约30%以下时(蛋白质序列比对的暮光区),区分真正的同源物与随机相似性变得不可靠(Rost, 1999),传统的加速策略也往往失效。因此,探索一种能同时提升速度并保持暮光区灵敏度的检索范式具有实际的学术和应用价值。
深度学习蛋白质表征与高性能向量搜索的结合提供了一条有前景的技术路线。蛋白质语言模型(PLM)通过在数亿条天然蛋白质序列上进行自监督预训练,将氨基酸序列编码为连续的向量表示,其中蕴含了进化信息(Rives等, 2021;Elnaggar等, 2022)。ESM2等PLM具备对检索至关重要的特性:进化上相关的蛋白质在嵌入空间中占据相邻位置,包括那些序列一致性已降至暮光区阈值以下的远缘同源物对。这表明PLM嵌入可能在基于比对的方法失效之处保留检测能力。同时,FAISS等向量搜索技术(Johnson等, 2021)提供了多种索引策略的GPU加速实现,并允许在检索精度、查询速度和内存占用之间进行可配置的权衡。将PLM嵌入与近似最近邻(ANN)搜索相结合,有望在检索速度和远缘同源物灵敏度两方面同时取得提升。
将PLM嵌入与向量搜索相结合用于蛋白质检索的概念已获得初步验证。ESM Metagenomic Atlas项目使用ESM2对2.7亿条宏基因组蛋白质序列进行编码并构建了FAISS索引(Meta AI, 2022),证明了其在大规模场景下的可行性。然而,现有工作存在两个显著不足。第一,缺乏对不同类型的PLM变体、索引类型和参数配置在统一基准上的系统性实验评估;其实际性能边界和最优配置空间仍然不明确。第二,模型容量与检索精度之间的关系尚未得到深入研究,不同规模PLM的性能差异和计算成本权衡仍有待系统阐明。为解决这些问题,我们设计并实现了ProtFaiss——一种基于ESM2嵌入和FAISS近似最近邻搜索的检索流水线。该流水线将ESM2嵌入与多种FAISS索引类型(Flat、IVF-PQ、HNSW)相结合,提供从序列编码和索引构建到检索的完整工作流程。在SCOPe40基准数据集上,我们从五个维度对ProtFaiss与BLASTp、MMseqs2、HMMER和Foldseek进行了比较:层次分类精度、排名质量、远缘同源物灵敏度、检索速度和索引存储占用。通过涵盖索引类型、模型容量、数据库规模、池化策略和中间层选择的消融实验,我们系统地刻画了操作设计空间,并探讨了模型容量与检索精度之间的关系。本文的主要贡献为:(1) ProtFaiss检索流水线,整合ESM2嵌入与多种FAISS向量索引类型;(2) 在SCOPe40上进行的五维度性能评估;(3) 消融实验揭示了中间Transformer层在检索任务上显著优于最终层,无需架构修改或微调即可恢复较大PLM的优势。评估范围仅限于SCOPe40上的单结构域蛋白质;其在多结构域蛋白质和功能分类任务中的适用性仍有待确立。
第1节介绍研究背景。第2节综述蛋白质序列检索方法、蛋白质语言模型以及PLM嵌入在序列搜索中的应用。第3节描述ProtFaiss方法设计,包括数据集构建、ESM2嵌入与FAISS多索引检索流水线,以及评估框架。第4节报告实验结果与分析。第5节讨论研究结果并展望未来工作方向。
章节摘要
基于比对的蛋白质序列检索
自1990年BLAST(Altschul等, 1990)问世以来,基于比对的方法一直是蛋白质序列相似性搜索的主导范式。BLAST采用种子-延伸启发式方法进行局部成对比对,通过搜索高得分片段对(HSPs)来评估相似性,时间复杂度约为。对于序列一致性高于30%的序列,它具有稳健的检测灵敏度,仍然是应用最广泛的蛋白质序列搜索
数据集与数据预处理
本研究使用两个公开蛋白质序列数据库:SCOPe结构分类数据库和UniProt Swiss-Prot注释数据库。
SCOPe40基准数据集。 SCOPe(蛋白质结构扩展分类)(Chandonia等, 2022)由加州大学伯克利分校维护,将蛋白质结构域组织为三级层次分类体系:Family(家族)、Superfamily(超家族)和Fold(折叠)。我们使用SCOPe 2.01版本和PLMSearch准备的ASTRAL汇编
基准性能评估
我们在SCOPe40数据集上从五个维度对ProtFaiss和基线方法进行了评估:层次分类精度、排名质量、远缘同源物灵敏度、检索延迟和索引存储占用。主要结果总结于表2。
ProtFaiss-Flat使用ESM2-650M嵌入上的精确L2搜索,在家族层级上实现了AUROC 0.526,超家族层级AUROC 0.404,折叠层级AUROC 0.302。所有三个层次分类指标均代表大幅
主要发现与分析
通过在SCOPe40上的系统性实验评估,本研究考察了将PLM嵌入与向量ANN搜索相结合用于蛋白质序列检索的可行性。我们从三个维度讨论了核心发现。
速度优势:来源与适用场景。 在ProtFaiss流水线中,FAISS索引搜索在每次查询中0.02毫秒内完成,而ESM2序列编码增加约30毫秒,端到端延迟约为30毫秒。作为参考,BLASTp完整
CRediT作者贡献声明
Wu Can(吴): 撰写——初稿,可视化,软件,方法学,调查,正式分析,概念化。Zhang Haoran(张): 撰写——审阅与编辑,验证。Chen Liqiong(陈): 撰写——审阅与编辑,指导,项目管理,资金获取,概念化。
利益冲突声明
我们声明,本出版物不存在已知的利益冲突,也没有对本研究结果产生影响的重大财务支持。
我们确认,所有署名作者均已阅读并批准本稿件,且不存在符合作者资格但未列入名单的人员。我们进一步确认,稿件中作者的排列顺序已获我们所有人批准。
我们确认,我们
致谢
作者衷心感谢华东理工大学范贵胜教授及其研究组,以及上海交通大学洪亮教授及其研究组慷慨提供的计算资源,使得本研究所报告的大规模模型部署、推理和实验得以实现。上海工程技术大学高性能计算中心也提供了计算资源支持。
Wu Can|Zhang Haoran|Chen Liqiong