- 博客(14)
- 收藏
- 关注
原创 搭建自己大模型【DeepSeek】应用(Ollama+Dify)
基于Dify+Ollma部署DeepSeek-R1 32B。Ollama可以通过docker快速部署deepseek-r1:32b模型。Dify可以快速搭建基于deepseek大模型的聊天机器人。本文首先详细介绍了如何使用Ollama部署自己的大模型服务。然后详细介绍了Dify的安装与使用,并且详细介绍了如何配置自己的聊天机器人。
2025-03-11 10:12:23
774
3
原创 centos7安装docker和docker compose
centos7安装docker和docker compose,docker可以使用GPU
2025-03-06 18:28:28
380
原创 机器翻译评价——COMET环境安装(GPU版本)
COMET,一个用于评价机器翻译性能的工具。COMET安装GPU版本遇到的问题及解决办法,并提供运行示例
2025-02-14 18:23:04
930
原创 whisper相关项目的安装与使用
whisper是一种通用的语音识别模型。它在不同音频的大型数据集上训练。它也是一个多任务模型,可以执行多语种语音识别、语音翻译语音语种识别。openai-whisper的安装与使用faster-whisper的安装与使用并对比了两个项目
2024-12-25 17:08:39
532
原创 WAV音频文件解析与Python读取
WAV音频文件解析与Python读取本文相似解析了WAV格式的头部信息,并用Python通过wave或者struct模块解析并读取WAV音频内容。WAV(波形声音文件)是最常见的声音文件格式之一,是微软公司专门为Windows开发的一种标准数字音频文件,该文件能记录各种单声道或立体声的声音信息,并能保证声音不失真。
2024-12-19 19:24:40
1293
原创 vLLM使用教程【最新版(V6.0.1.post1)】
vLLM最新版(V0.6.1.post1)beam search方式的使用教程,介绍BeamSearchParams,BeamSearchOutput,BeamSearchSequence,并给出sampling和beam search的示例程序
2024-12-03 15:09:50
1700
原创 vLLM环境安装与运行实例【最新版(0.6.4.post1)】
vLLM环境安装与运行实例,vllm最新版本0.6.4.post1 一种是基于CUDA11.8的环境,一种是基于CUDA12.1的环境,可以使用sampling和beam search
2024-12-01 17:21:39
5056
3
原创 vLLM使用教程【V5.0.4】
vLLM使用教程,包括vLLM相关参数说明:LLM、SamplingParams、generate、RequestOutput、RequestOutput、CompletionOutput、RequestMetrics。以及vLLM使用demo,统计执行的时间和速度
2024-11-21 16:12:52
2010
原创 vLLM环境安装与运行实例【v0.5.4】
vLLM环境安装与运行实例【v0.5.4】,vllm需要使用v5.0.4版本,否则使用yTorch报错
2024-11-19 11:15:09
1046
原创 fairseq-0.12.2多机训练环境搭建
fairseq-0.12.2多机训练环境搭建,其中包括gcc、CUDA、cuDNN、NCCL、Python、PyTorch、fairseq等相关软件在非root环境下安装
2023-11-13 11:11:38
1415
原创 LeetCode-3. 无重复字符的最长子串-遭遇速度挑战
LeetCode-3. 无重复字符的最长子串题目给定一个字符串 s ,请你找出其中不含有重复字符的 最长子串 的长度。示例 1:输入: s = “abcabcbb”输出: 3解释: 因为无重复字符的最长子串是 “abc”,所以其长度为 3。示例 2:输入: s = “bbbbb”输出: 1解释: 因为无重复字符的最长子串是 “b”,所以其长度为 1。示例 3:输入: s = “pwwkew”输出: 3解释: 因为无重复字符的最长子串是 “wke”,所以其长度为 3。请注意,你的
2021-08-19 19:04:20
86
原创 LeetCode-2.两数相加-再接再厉
LeetCode-2.两数相加题目给你两个 非空 的链表,表示两个非负的整数。它们每位数字都是按照 逆序 的方式存储的,并且每个节点只能存储 一位 数字。请你将两个数相加,并以相同形式返回一个表示和的链表。你可以假设除了数字 0 之外,这两个数都不会以 0 开头。示例 1:输入:l1 = [2,4,3], l2 = [5,6,4]输出:[7,0,8]解释:342 + 465 = 807.示例 2:输入:l1 = [0], l2 = [0]输出:[0]示例 3:输入:l1 = [9
2021-08-12 18:52:40
104
原创 LeetCode-1.两数之和-梦想新起航
LeetCode-1.两数之和题目给定一个整数数组 nums 和一个整数目标值 target,请你在该数组中找出 和为目标值 target 的那 两个 整数,并返回它们的数组下标。你可以假设每种输入只会对应一个答案。但是,数组中同一个元素在答案里不能重复出现。你可以按任意顺序返回答案。示例 1:输入:nums = [2,7,11,15], target = 9输出:[0,1]解释:因为 nums[0] + nums[1] == 9 ,返回 [0, 1] 。示例 2:输入:nums =
2021-08-04 19:03:33
114
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人