.png){kind=icon}
返回
Tokenization for Molecular Foundation Models
.png){kind=icon}
PRE
AI
DOI：10.1021/acs.jcim.5c01856.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
基于文本的基础模型已成为科学发现的重要组成部分，分子基础模型加速了材料科学和分子设计的进步。然而，现有的模型受到封闭词汇标记器的限制，该标记器仅捕获分子空间的一小部分。在这项工作中，我们系统地评估了35个标记物，包括20个化学特异性标记物，并揭示了它们对SMILES分子表示的覆盖范围的显着差距。为了评估标记器选择的影响，我们引入n-gram语言模型作为低成本代理，并通过预训练和优化18个RoBERTa式编码器进行分子属性预测来验证其有效性。为了克服现有标记器的局限性，我们提出了两个新的标记器-Smirk和smirk-gpe-完全覆盖了OpenSMILES规范。拟议的标记器系统地集成了核，电子和几何自由度，促进了在药理学，农业，生物学和能量存储中的应用。我们的研究结果强调了化学信息学中开放词汇建模和化学多样性基准的必要性。
期刊
IF:
5.3
论文数:
9.1K
被引数:
4.0W
机构
引用论文
分享收藏E(3)-equivariant graph neural networks for data-efficient and accurate interatomic potentialsE(3)-等变图神经网络，用于数据高效和精确的原子间势.png)
NATURE COMMUNICATIONS
OAAI
NATURE COMMUNICATIONSIF15.7
OAAI分享收藏Found in Translation: predicting outcomes of complex organic chemistry reactions using neural sequence-to-sequence models在翻译中发现: 使用神经序列到序列模型预测复杂有机化学反应的结果CHEMICAL SCIENCEOAAI
CHEMICAL SCIENCEIF7.4
OAAI分享收藏
分享收藏Evaluating subword tokenization: alien subword composition and OOV generalization challenge. arXiv 1:13292评估子词分词：外来子词组合和OOV泛化挑战。arXiv 1:13292
IF0
PREAI
分享收藏SMILES, a chemical language and information system. 1. Introduction to methodology and encoding rules微笑，一种化学语言和信息系统。1.介绍方法和编码规则
PREAI
分享收藏
查看更多内容