怎么使用langchain加载模型？langchain加载模型的几种方式

原创最新推荐文章于 2026-07-14 12:33:29 发布 2.7k 阅读 AI写同款

AI程序猿人

6517粉丝561篇原创

关注

AIGC实用场景-ChatBI架构设计 ChatBI作为一种创新的商业智能解决方案，通过自然语言处理技术显著降低了数据分析的门槛，使得非技术用户也能轻松地获取数据洞察。其架构设计以用户需求为导向，融合了先进的大型语言模型，提供了高效、直观的数据分析体验。腾讯云ChatBI的成功实践进一步证明了ChatBI在实际业务中的应用价值和市场潜力。阅读详情

AI摘要

介绍LangChain加载模型的三种方式：第三方模型服务、HuggingFace模型库及自定义模型，并分享AI大模型的学习路线，涵盖初阶应用、高阶应用、模型训练与商业闭环四大阶段。

今天就其模型的功能模块介绍一下怎么加载模型。

在这里插入图片描述
langchain的官网架构图

目前来说langchain加载模型主要有三种形式：

加载第三方模型服务，比如openAI，阿里云通义千问，百度文心一言，chatGLM开源模型等。

包主要在langchain.llms中，代码如下所示：

在这里插入图片描述

第二种是从huggingface上加载开源模型，huggingface是一个类似于github的开源模型仓库，上面有大量的开源大模型。

这种方式是把大模型加载到本地，所以本地如果硬件配置不行一些模型可能会跑不起来。

开发者可以通过以下方式，对大模型进行封装API，然后对外提供服务。

在这里插入图片描述

第三种是本地自定义大模型，在大部分情况下，我们直接使用第三方的模型服务或开源模型已经能够满足我们大部分需求；但在某些情况下，这些服务无法满足我们的需求，我们需要自定义模型。

但自定义模型又不能被langchain直接调用，所以我们就需要按照langchain的格式封装我们自己的大模型。也可以类似于第一种情况，把大模型打包成服务，然后让langchain通过API调用。

from langchain.llms.base import LLM
# langchain中文文档 自定义模型
# https://python.langchain.com.cn/docs/modules/model_io/models/llms/how_to/custom_llm

from typing import Any, List, Mapping, Optional

from langchain.callbacks.manager import CallbackManagerForLLMRun
from langchain.llms.base import LLM

class CustomLLM(LLM):
    n: int    
    
    @property    
    def _llm_type(self) -> str:   
        return "custom"    
        
    def _call(     
        self,        
        prompt: str,        
        stop: Optional[List[str]] 
= None,
        run_manager: Optional[CallbackManagerForLLMRun] = None,   
    ) -> str:   
        if stop is not None:     
            raise ValueError("stop kwargs are not permitted.")        
        return prompt[: self.n]    
        
    @property    
    def _identifying_params(self) -> Mapping[str, Any]:   
        """Get the identifying parameters."""        
        return {"n": self.n}

总结来说，调用大模型无非两种形式，一种是通过API的方式调用，即把大模型打包成一个服务，所有请求都可以通过其提供的接口使用。类似于第一种情况。

后两种是自己部署大模型，一个是从huggingface仓库中下载模型，一个是自己设计开发模型。

第一种是langchain调用第三方大模型接口，后两种是自己直接把大模型与langchain进行集成。前者更方便，后者掌控性更强。

开发者可以根据自己的业务需求，选择合适的集成方法。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述