2025_NIPS_ModuLM: Enabling Modular and Multimodal Molecular Relational Learning with Large Language

文章主要内容与创新点总结

核心内容

本文针对分子关系学习（MRL）中现有大语言模型（LLM）框架缺乏多模态输入支持和灵活架构的问题，提出模块化框架ModuLM。该框架支持1D、2D、3D分子输入格式，整合多种编码器、交互层和LLM骨干网络，可动态构建超50,000种模型配置，适用于药物-药物相互作用（DDI）、溶质-溶剂相互作用（SSI）等任务，通过增量预训练、模态对齐和灵活微调提升模型性能。

核心创新点

1. 多模态输入支持：首次统一兼容1D SMILES序列、2D分子图和3D分子构象输入，弥补现有模型单一模态局限。
2. 模块化灵活架构：提供8类2D编码器、11类3D编码器、7类交互层和7种主流LLM骨干，支持动态组合与扩展。
3. 专用预训练与对齐策略：设计分子相互作用、子结构、结构相似性分组三种预训练方法，支持MLP和Q-former两种模态对齐方式。
4. 标准化基准框架：整合多领域数据集（DDI/SSI/CSI）和全面评估指标，实现不同模型的公平对比与高效验证。

---

英文原文与中文翻译（Markdown格式）

Abstract

分子关系学习（MRL）旨在理解分子对之间的相互作用，在推动生化研究方面发挥着关键作用。随着大语言模型（LLMs）的