arrow
返回

NucleicBERT interprets RNA sequence space through self-supervised language modelling

delete2026-09-03
delete0
delete
OA
AI
U
Utkarsh Upadhyay
J
Julian Herold
M
Markus Götz
A
Alexander Schug *
DOI:10.1038/s42256-026-01295-9delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
大部分人类基因组中非蛋白质编码部分通过RNA直接发挥作用,但这些序列中编码的结构和功能角色仍知之甚少。深度学习的应用因RNA结构数据稀少而受阻,且尚不清楚此类模型能否仅从丰富的RNA序列中直接恢复生物学约束。为解决这些挑战,我们开发了NucleicBERT,一种自监督掩码语言模型,它无需进化信息即可从单序列中学习上下文表示。可解释人工智能分析表明,该模型在潜在空间中对RNA序列进行组织并编码结构属性,表明生物学上有意义的约束仅从序列相关性中学习。当针对下游结构和功能任务进行微调时,NucleicBERT仅需单序列即可匹配或超越当前的RNA预测模型。这种无比对框架解决了注释3D RNA数据稀缺的问题,同时为实验技术提供了快速的计算补充。通过连接丰富的未标记序列数据和稀少的结构注释,NucleicBERT推动了RNA结构预测,并揭示了大型语言模型如何编码生物信息。尽管序列数据丰富,但RNA结构和功能难以推断,因为注释稀少。Upadhyay等人训练了一个自监督模型,在大规模RNA数据中从序列相关性中提取生物学上有意义的模式。

期刊

Nature Machine Intelligence 封面图
Nature Machine Intelligence
IF:
23.9
论文数:
1.3K
被引数:
1.5W

机构

K
karlsruhe institute of technology
学者数:
2.0W
论文数: 1.4W
被引数: 23
F
forschungszentrum jülich
学者数:
628
论文数: 250
被引数: 0
H
helmholtz ai
学者数:
3
论文数: 2
被引数: 0
学者 查看更多机构
引用论文

引用论文

err分享
err收藏
err分享
err收藏
NucleoSeeker-precision filtering of RNA databases to curate high-quality datasets
err2025-03-18
err0
errOAAI
errUpadhyay, Utkarsh; Pucci, Fabrizio; Herold, Julian; Schug, Alexander
err分享
err收藏
RNA contact prediction by data efficient deep learning
err2023-09-06
err3
errOAAI
errTaubert, Oskar; von der Lehr, Fabrice; Bazarova, Alina; Faber, Christian; Knechtges, Philipp; Weiel, Marie; Debus, Charlotte; Coquelin, Daniel; Basermann, Achim; Streit, Achim; Kesselheim, Stefan; Goetz, Markus; Schug, Alexander
err分享
err收藏
ViennaRNA Package 2.0ViennaRNA套餐2.0
err2011-11-24
err0
errOAAI
errRonny Lorenz; Stephan H Bernhart; Christian Höner zu Siederdissen; Hakim Tafer; Christoph Flamm; Peter F Stadler; Ivo L Hofacker
err分享
err收藏
Integrated NMR and cryo-EM atomic-resolution structure determination of a half-megadalton enzyme complex
err2019-06-19
err94
errOAAI
errGauto, Diego F.; Estrozi, Leandro F.; Schwieters, Charles D.; Effantin, Gregory; Macek, Pavel; Sounier, Remy; Sivertsen, Astrid C.; Schmidt, Elena; Kerfah, Rime; Mas, Guillaume; Colletier, Jacques-Philippe; Guntert, Peter; Favier, Adrien; Schoehn, Guy; Schanda, Paul; Boisbouvier, Jerome
err分享
err收藏
err分享
err收藏
err分享
err收藏
学者 查看更多内容