인공 지능의 빠르게 진행되는 개발로 인해 다양한 과학적 과제를 해결하기 위해 대형 언어 모델이 점점 더 많이 사용되고 있습니다.
With the rapid development of artificial intelligence (AI), large language models (LLMs) are increasingly being used to address various scientific challenges. A crucial step in this process is converting domain-specific data into a format suitable for LLMs, typically a sequence of tokens. In chemistry, molecules are commonly represented by molecular linear notations, and chemical reactions are depicted as pairs of reactants and products. However, this approach does not capture the atomic and bond changes that occur during reactions, which are essential for chemical understanding and manipulation. To bridge this gap and facilitate seamless integration between chemistry and LLMs, we introduce ReactSeq, a reaction description language that decomposes chemical reactions into a series of molecular editing operations.
인공 지능 (AI)의 빠른 발전으로 인해 다양한 과학적 과제를 해결하기 위해 대형 언어 모델 (LLM)이 점점 더 많이 사용되고 있습니다. 이 프로세스의 중요한 단계는 도메인 별 데이터를 LLMS, 일반적으로 일련의 토큰에 적합한 형식으로 변환하는 것입니다. 화학에서, 분자는 일반적으로 분자 선형 표기법으로 표현되며 화학 반응은 반응물 및 생성물 쌍으로 묘사된다. 그러나,이 접근법은 화학적 이해와 조작에 필수적인 반응 동안 발생하는 원자 및 결합 변화를 포착하지 못한다. 이러한 격차를 해소하고 화학과 LLM 사이의 원활한 통합을 용이하게하기 위해, 우리는 화학 반응을 일련의 분자 편집 작업으로 분해하는 반응 설명 언어 인 ReactSeq를 소개합니다.
Each ReactSeq token corresponds to a specific atomic or bond modification, enabling a step-by-step unfolding of the chemical transformation. We trained a language model for retrosynthesis prediction using ReactSeq and observed that it consistently outperformed existing methods in all benchmark tests. Furthermore, the model demonstrated promising emergent abilities, such as performing multistep synthesis planning in response to user requests and providing explanations for its predictions. To delve deeper into the capabilities of LLMs in navigating chemical space, we trained a model to predict reaction yield based on ReactSeq representations and achieved high performance in this task.
각각의 ReactSeq 토큰은 특정 원자 또는 결합 변형에 해당하여 화학적 변환의 단계별 전개를 가능하게합니다. 우리는 ReactSeq를 사용하여 회고 예측에 대한 언어 모델을 훈련 시켰으며 모든 벤치 마크 테스트에서 기존 방법을 지속적으로 성능이 우수한 것으로 관찰했습니다. 또한,이 모델은 사용자 요청에 대한 응답으로 다단계 합성 계획을 수행하고 예측에 대한 설명을 제공하는 것과 같은 유망한 출현 능력을 보여주었습니다. 화학 공간 탐색에서 LLM의 기능을 더 깊이 파고 들기 위해, 우리는 ReactSeq 표현을 기반으로 반응 수율을 예측 하고이 작업에서 고성능을 달성하기 위해 모델을 훈련시켰다.
Our analysis indicates that the model learned to evaluate the feasibility of reactions based on chemical principles, highlighting the potential of LLMs to go beyond empirical patterns and develop a chemical understanding of the data. Finally, we used ReactSeq to generate universal and reliable representations of chemical reactions, facilitating efficient retrieval of relevant experimental procedures from literature databases. This capability paves the way for seamless integration between theoretical predictions and experimental observations, ultimately advancing chemical discovery and invention.
우리의 분석은 모델이 화학 원리에 기초한 반응의 타당성을 평가하는 법을 배웠으며, 경험적 패턴을 넘어서 데이터에 대한 화학적 이해를 개발할 수있는 LLM의 잠재력을 강조합니다. 마지막으로, 우리는 ReactSeq를 사용하여 화학 반응의 보편적이고 신뢰할 수있는 표현을 생성하여 문헌 데이터베이스에서 관련 실험 절차의 효율적인 검색을 촉진했습니다. 이 기능은 이론적 예측과 실험 관찰 사이의 원활한 통합을위한 길을 열어서 궁극적으로 화학적 발견과 발명을 발전시킨다.
