.png){kind=icon}
返回
BarcodeBERT: transformers for biodiversity analyses
.png){kind=icon}
PRE
AI
DOI：10.1093/bioadv/vbag054.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
动机 在全球生物多样性表征的努力中，被称为DNA条形码的短物种特异性基因组序列能够实现同一生命界中不同生物间的精细比较。尽管专门为DNA条形码分析设计的机器学习算法正变得日益流行，但大多数现有方法仍依赖通用的监督训练算法。
结果 我们介绍了BarcodeBERT，这是一系列专为生物多样性分析定制的模型，并仅使用来自包含150万无脊椎动物DNA条形码的参考库的数据进行训练。我们在分类鉴定任务上对BarcodeBERT进行了评估，将其与一系列机器学习方法进行比较，包括经典神经架构的监督训练和通用DNA基础模型的微调。我们在领域特定数据上的自监督预训练策略优于微调后的基础模型，特别是在涉及较低分类阶元（如属和种）的鉴定任务中。与广泛使用的序列搜索工具BLAST相比，BarcodeBERT实现了相当物种水平分类准确率，同时速度提升了55倍。我们对掩码和标记化策略的分析也为构建定制化DNA语言模型提供了实践指导，强调了将模型训练策略与数据集特征和领域知识对齐的重要性。
可用性与实现 代码仓库可访问 https://github.com/bioscan-ml/BarcodeBERT。
Keyword:
ALIGNMENT
期刊
B
IF:
2.8
论文数:
131
被引数:
0
机构
引用论文
ONTbarcoder and MinION barcodes aid biodiversity discovery and identification by everyone, for everyone.png)
BMC Biology
OAAI
BMC BiologyIF0
OAAI分享收藏Fast and accurate short read alignment with Burrows–Wheeler transform使用Burrows-Wheeler变换快速准确的短读对齐
OAAI
OAAI分享收藏Validation of COI metabarcoding primers for terrestrial arthropods陆生节肢动物COI metabar编码引物的验证PeerJOAAI
PeerJIF0
OAAI分享收藏The Nucleotide Transformer: Building and Evaluating Robust Foundation Models for Human GenomicsOAAI
IF0
OAAI分享收藏DNABERT: pre-trained Bidirectional Encoder Representations from Transformers model for DNA-language in genomeDNABERT: 来自基因组中DNA语言的Transformers模型的预训练双向编码器表示OAAI
OAAI分享收藏DNABERT-S: pioneering species differentiation with species-aware DNA embeddingsDNABERT-s：开创基于物种感知DNA嵌入的物种区分BIOINFORMATICSOAAI
BIOINFORMATICSIF5.4
OAAI分享收藏
查看更多内容