Supervised Fine Tuning of Large Language Models for Domain Specific Knowledge Graph Construction:...

文章核心总结与翻译

一、主要内容

本文聚焦湖南近代历史名人这一湖湘文化核心载体，针对该领域数据稀缺、标准化程度低，以及通用大语言模型（LLMs）领域知识提取精度不足、结构化输出能力弱的问题，提出了一种基于有监督微调的领域特定知识图谱构建方案。

1. 研究框架：构建了包含本体设计、数据标注与指令数据集构建、模型微调与知识提取、知识图谱构建的四阶段框架，定义了涵盖实体、属性、关系的细粒度知识 schema，规范了历史名人信息的结构化表达。
2. 数据集构建：通过多源数据收集（百科、新闻、文献等）、数据清洗与半自动化标注，构建了适配湖南近代历史名人领域的指令微调数据集，解决了领域微调缺乏专用指令数据的问题。
3. 模型微调与实验：采用 LoRA 高效参数微调技术，对 Qwen2.5-7B、Qwen3-8B、DeepSeek-R1-Distill-Qwen-7B、Llama-3.1-8B-Instruct 四种开源模型进行微调，并设计了多粒度评估指标（结构化信息精确匹配、叙事性信息向量相似度匹配）。实验表明，所有模型微调后性能显著提升，其中 Qwen3-8B 在 100 样本、50 轮微调下达到 89.3866 的最优分数。
4. 知识图谱落地：将微调后模型提取的实体、关系、属性等信息导入图数据库，实现了湖南近代历史名人知识图谱的可视化构建，为区域文化遗产数字化保护与智能历史研究提供支持。

二、创新点