接入DeepSeek大模型

部署运行你感兴趣的模型镜像

下载并安装Ollama

下载并安装Ollama, 使用参数ollama -v查看是否安装成功。
在这里插入图片描述
输入命令ollama list, 可以看到已经存在4个目录了。
在这里插入图片描述
输入命令ollama pull deepseek-r1:1.5b, 下载deepseek模型,本处采用最轻量级的deepseek模型为例。
在这里插入图片描述
下载完成之后,在ollama目录下可以看到ds模型文件。
在这里插入图片描述
输入ollama run deepseek-r1:1.5b,运行模型。

在这里插入图片描述

chatbox 软件配置大模型

chatbox官网下载地址
chatbox配置流程

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调

不同场景接入DeepSeek大模型的方法有所不同,以下是一些常见的接入方法: - **小爱音箱接入**:可采用2种完全免费的方案让小爱音箱接入DeepSeek大模型,完整教程及MiGPT详细的安装和配置过程可参考文章“一步一步实操教你升级小爱音箱的智能 - 基于MiGPT和豆包大模型 火山引擎(支持deepseek)” [^1]。 - **CRM系统接入**:DeepSeek大模型作为新一代多模态AI基础模型,基于千亿级参数的Transformer架构,通过行业知识增强训练和垂直场景微调,可用于CRM系统智能化升级,提升客户关系管理的效率与精准度,但未提及具体接入步骤 [^2]。 - **前端接入**:前端接入DeepSeek大模型一般步骤如下: 1. **准备工作**: - **获取API访问权限**:访问DeepSeek官方网站,了解其API服务相关内容,通常需要注册并完成身份验证,提交使用申请,待审核通过后,获取API密钥(API Key)和可能的API地址等信息,这些信息是后续与模型交互的重要凭证。 - **选择前端技术栈**:可根据项目需求和团队熟悉程度选择合适的前端框架,如Vue.js、React.js或Angular等,也可使用原生JavaScript,同时准备好对应的开发环境,如Node.js和npm(或yarn)。 2. **安装必要的依赖** [^3]。 - **本地Java接入**: - **前置环境**:需要jdk 8及以上,maven 3.x系列,建议将maven的镜像配置为阿里云的官方镜像,防止安装依赖时出现问题 [^4]。 - **Spring AI接入(Jdk17+)**: - **添加依赖**:在项目中添加Spring AI相关依赖,例如`<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-starter-model-openai</artifactId> </dependency>`。 - **yml配置文件**:配置相关信息,如`spring: ai: openai: base-url: https://api.deepseek.com api-key: 自己在deepseek创建的api key chat: options: model: deepseek-chat`(聊天模型可更换)。 - **配置类**:创建配置类,例如: ```java @Configuration public class AiConfiguration { @Bean public ChatClient chatClient(OpenAiChatModel model, ChatMemory chatMemory) { return ChatClient.builder(model) .defaultSystem("你是一个热心的、可爱的智能助手,你的名字叫小团团,用小团团的语气来实现对话") .defaultAdvisors(new SimpleLoggerAdvisor(),new MessageChatMemoryAdvisor(chatMemory)) .build(); } } ``` - **聊天代码示例**:定义数据传输对象,例如: ```java @Data public class Dto { private String message; private String timestamp; private String type; private String id; } ``` [^5]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值