화학 표현 학습은 약물 및 소재 설계와 같은 분야에서 지도 학습 데이터의 가용성이 제한적이라는 점 때문에 점차 더 많은 관심을 받고 있다. 이러한 관심은 분자 언어 표현 학습, 즉 SMILES 서열—분자의 텍스트적 기술자—에 대해 트랜스포머를 사전 학습하는 과정으로 특히 확장된다. 분자 특성 예측에서의 성과에도 불구하고, 현재의 관행은 흔히 조기 수렴으로 인해 과적합과 제한된 확장성 문제를 야기한다. 본 논문에서는 이러한 문제를 해결하기 위해 MolTRES라는 새로운 화학 언어 표현 학습 프레임워크를 제안한다. MolTRES는 생성기-판별기 학습을 통합하여, 구조적 이해를 필요로 하는 보다 도전적인 예시들로부터 모델이 학습할 수 있도록 한다. 또한 외부 물질 임베딩을 통합함으로써 과학 문헌으로부터의 지식을 전이하여 분자 표현을 풍부하게 한다. 실험 결과는 우리의 모델이 널리 사용되는 분자 특성 예측 과제들에서 기존의 최첨단 모델들을 능가함을 보여준다.github.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.