LlaSMol LLM for Chemistry with a Large-Scale, Comprehensive, High-Quality Instruction Tuning Dataset

本文是LLM系列文章，针对《LlaSMol: Advancing Large Language Models for Chemistry with a Large-Scale, Comprehensive, High-Quality Instruction Tuning Dataset》的翻译。

文章主要内容总结

1. 研究背景与问题：化学在药物发现、材料科学等领域至关重要，但大型语言模型（LLMs）如GPT-4在化学任务上表现不佳，现有研究表明其性能远低于任务特定模型，尤其是对分子表示SMILES的理解不足。
2. 数据集构建：提出SMolInstruct数据集，包含14个化学任务（如名称转换、性质预测、化学反应等）和超过300万样本。数据来自PubChem、MoleculeNet等多个来源，并经过严格质量控制（如过滤无效SMILES、纠正错误信息）。
3. 模型开发：基于SMolInstruct微调开源LLMs，形成LlaSMol系列模型。实验表明，Mistral作为基础模型效果最佳，LlaSMol在多项任务上性能超过GPT-4和Claude 3 Opus。
4. 关键发现：
   • 规范SMILES可提升模型性能，使用SMILES比SELFIES更有效。
   • 多任务训练有助于知识共享，但各任务相对独立。
   • LlaSMol仅微调0.58%参数即可接近任务特定模型性能，具有巨大潜力。
5. 局限性与未来方向：分子描述任务的评估不够准确，模型泛化能力未深入研究，未来将优化训练过程并扩展应用场景。

创新点

1. 大规模高质量数据集：SMolInstr