- 博客(222)
- 资源 (30)
- 收藏
- 关注
RSS订阅原创 玩转大语言模型——昇腾NPU驱动固件以及CANN的安装
随着国产化显卡的能力的提升，不可避免的会遇到用到国产化服务器运行大语言模型的场景，本文将针对昇腾NPU，对于如何使用昇腾官方社区安装NPU驱动固件以及CANN进行整理归纳，通过针对NPU驱动固件和CANN的安装，抛砖引玉，帮助读者更好的理解昇腾官方社区的使用方式。
2025-04-04 16:02:24
2
原创 零基础上手硅基流动平台（附带2000万token邀请码）
SiliconFlow（硅基流动）是专注于生成式AI的计算基础设施平台，提供大模型推理引擎（SiliconLLM）、文生图/视频加速库（OneDiff）及模型云服务平台（SiliconCloud），旨在降低AI模型的部署和推理成本。
2025-04-03 15:08:40
87
原创 Linux系统管理（十八）——Ubuntu Server环境下载安装图形化界面、英伟达显卡驱动、Cuda、cudnn、conda的深度学习环境
Ubuntu Server环境下载安装图形化界面、英伟达显卡驱动、Cuda、cudnn、conda的深度学习环境
2025-03-04 10:18:51
537
原创 玩转大语言模型——Ubuntu系统环境下使用llama.cpp进行CPU与GPU混合推理deepseek
llama.cpp是一个基于C/C++的开源项目，旨在高效地运行大型语言模型推理。纯采用纯C/C++编写，不依赖其他外部库，可移植性强，只要环境支持C/C++运行，就能运行llama.cpp。支持Apple芯片，通过ARM NEON等框架进行优化；支持x86架构的AVX等指令集；提供自定义CUDA内核，支持NVIDIA、AMD等GPU，还支持Vulkan和SYCL后端，可实现CPU+GPU混合推理。除此之外还支持1.5位到8位的整数量化，加快推理速度并减少内存使用，便于在资源有限的设备上运行。
2025-03-04 09:30:05
422
原创 Linux系统管理（十七）——配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境
深度学习和大语言模型的部署不免会用到Linux系统，在本章中将详细介绍配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境，为支持深度学习和大语言模型运行提供支持。
2025-02-24 16:06:45
1047
4
原创 Linux系统管理（十六）——通过WSL配置windows下的Linux系统(可视化界面与远程连接)
WSL，即Windows Subsystem for Linux，是微软在Windows 10和Windows 11中引入的功能，允许用户在Windows上原生运行Linux的命令行工具和应用程序，无需启动完整的Linux虚拟机或进行双系统启动。
2025-02-17 14:02:25
501
原创 玩转大语言模型——使用LM Studio在本地部署deepseek R1的零基础）教程
在前期的几个文章中我们已经介绍了很多带UI的本地化部署方式了，而今天我们要介绍的LM Studio，不仅可以实现本机的使用，还可以为其他软件或处于同一局域网下的其他计算机提供接口的调用，和其他本地部署软件配合起来使用更佳。本章将介绍在Windows环境下和Linux环境下下载并部署LM-Studio。
2025-02-17 10:08:41
853
原创 玩转大语言模型——使用Kiln AI可视化环境进行大语言模型微调数据合成
Kiln AI是一个强大的工具，主要用于微调大型语言模型（LLM）、生成合成数据以及协作数据集。Kiln AI提供了一整套无需编程、可视化操作的解决方案，帮助用户从零开始构建微调后的模型。用户可以通过Kiln UI创建任务，明确需求、初始提示和输入输出结构，然后选择合适的模型并配置参数，即可发起微调任务。Kiln支持多种主流模型，如OpenAI的GPT-4o系列、Meta的Llama 3.1与Llama 3.2以及Mistral的Mixtral等。
2025-02-11 17:49:36
2875
3
原创 玩转大语言模型——三分钟教你用langchain+提示词工程获得猫娘女友
提示词工程是通过设计和优化输入提示来引导语言模型生成符合期望的输出的一项技术。一般用于设定模型输出格式或者为模型设置角色。本章中将介绍如何使用提示词工程获得专属于你的猫娘女友模板格式"介绍一下和{name}相关的事"print(prompt_template.format(name="唱、跳、rap、篮球"))输出效果从结果上看，自定义模板就是一个单纯的字符串，每次他的内容随着每次输入的值的变化而变化介绍一下和唱、跳、rap、篮球相关的事模板应用实例为了防止内容单调，这里为猫娘女友增添了一些设定。
2025-02-10 13:38:54
262
原创 玩转大语言模型——本地部署deepseek R1和本地数据库的小白教程(Ollama+AnythingLLM)
最近deepseek模型可谓是非常火爆，尤其是deepseek R1的逻辑能力，并且deepseek R1还开放了多种参数大小的蒸馏模型，使得本地部署成为了可能。在本系列中上一篇介绍了在本地部署deepseek R1的用法，本篇将介绍如何部署本地大模型的数据库。
2025-02-05 18:33:52
2938
2
原创 玩转大语言模型——本地部署带聊天界面deepseek R1的小白教程(ollama+chatbox)
最近deepseek模型可谓是非常火爆，无论是逻辑能力还是知识层次都取得了很大的技术进步，最重要的是他完全开源，并且deepseek R1还开放了多种参数大小的蒸馏模型，使得本地部署成为了可能。经过实测，如果仅用于聊天消遣，不给模型较难的任务，1.5b的模型就已经有了一个很好的表现了，本章中将从零开始介绍本地部署deepseek R1，并且安装相关的可视化软件以供调用本地模型。
2025-01-31 21:41:41
3344
原创 玩转大语言模型——配置图数据库Neo4j（含apoc插件）并导入GraphRAG生成的知识图谱
在之前的文章中笔者解决了使用本地模型部署GraphRAG并生成知识图谱的过程，并且解决了原本提示词只生成英文知识图谱的问题，在本篇中，笔者将配置Neo4j图数据库并导入GraphRAG生成的知识图谱数据。玩转大语言模型——使用GraphRAG+Ollama构建知识图谱玩转大语言模型——完美解决GraphRAG构建的知识图谱全为英文的问题。
2025-01-31 18:07:40
1739
原创 玩转大语言模型——完美解决GraphRAG构建的知识图谱全为英文的问题
按照原本GraphRAG的提示词，直接生成的知识图谱全为英文。这对于中文文本显然不利，本篇将从提示词的方面完美解决这一问题。
2025-01-30 21:01:23
476
原创 玩转大语言模型——使用langchain和Ollama本地部署大语言模型
Ollama 是一个开源的大型语言模型服务工具，旨在简化在本地运行大语言模型的过程，降低使用大语言模型的门槛。用户可以在自己的设备上运行模型，无需依赖云服务或远程服务器，保护了数据隐私。支持 Windows、macOS 和 Linux 等多种操作系统，方便不同用户安装使用。在本篇中将介绍Windows下使用Ollama进行本地大模型的部署。
2025-01-30 20:26:49
1827
原创 玩转大语言模型——使用GraphRAG+Ollama本地构建知识图谱（完全本地化，不依赖OpenAI）
下载过程分为两种，一种是下载项目，另外一种是直接使用pip下载，两种用法最后的效果是一致的，如果不需要修改源码，可以选择pip方式下载，这样比较方便。不过当前的模型并不能直接拿来使用，我们需要修改一下，不如可能会出现一些奇怪的错误，笔者遇到的问题是在生成entities时识别不到entity。，如果是用项目方式下载，直接在项目下新建，如果是使用pip方式下载的，新建一个项目在新建的项目里新建文件夹。构建索引的过程就是构建知识图谱的过程，同样的，读者需要将笔者的路径替换为自己的路径。，修改以下两部分，将。
2025-01-16 09:38:05
1883
原创 玩转大语言模型——langchain调用ollama视觉多模态语言模型
视觉多模态语音模型由预训练的多模态编码器、预训练的 LLM 以及连接两者的多模态接口等主要组件构成。将图像信息转换为可被语言模型处理的特征表示。拥有强大的视觉理解能力，能够准确理解图像内容，进行图像描述、视觉问答、图像定位等任务。可以与用户进行多轮交互，根据用户的文本和图像输入生成连贯、准确且有针对性的回答。本篇文章将介绍使用langchain调用ollama视觉多模态语音模型。
2025-01-11 19:32:52
1773
2
原创 玩转大语言模型——ollama导入huggingface下载的模型
ollama在大语言模型的应用中十分的方便，但是也存在一定的问题，比如不能使用自己微调的模型或者当前的模型并没有做ollama官网兼容的时候，从外部导入模型就十分必要。本章将会介绍两种常见格式模型导入ollama的方式。
2025-01-06 20:38:43
2946
原创 玩转大语言模型——transformers微调huggingface格式的中文Bert模型
在使用huggingface的模型时，很多情况下已有的模型并不能完全满足实际的需求，这种情况下模型微调是常见的解决方式，在本篇文章中将使用transformers针对huggingface格式的中文Bert分类模型为例介绍微调的过程以及解决在微调过程中可能存在的一些问题。
2024-10-09 22:29:16
1219
原创 玩转大语言模型——使用transformers中的pipeline调用huggingface中模型
HuggingFace有一个巨大的模型库，其中包括很多的比较成熟的经典模型，这些模型即使不进行任何训练也能直接得出比较好的预测结果（Zero Shot Learning）。transformers中提供的管线（pipeline）API隐藏了大量复杂的底层代码，直接使用现有的模型，不再需要再训练就可以获得较好的效果。在学习transformers的初期可能会遇到一些问题，本篇文章将解决transformers中使用管线中可能遇到的问题。
2024-09-27 16:24:09
1225
4
原创 Python高级用法：路径与文件操作（os与pathlib）
在Python中，os模块提供了与操作系统交互的各种功能，包括文件路径的操作。但是，与pathlib相比，os模块通常使用字符串来表示和操作路径，并且它的API更接近于传统的文件系统操作。一般使用pathlib和os相结合的方式对路径进行操作。
2024-06-17 10:06:51
533
原创 从零开始详解OpenCV车道线检测
车道线检测是智能驾驶和智能交通系统中的重要组成部分，对于提高道路安全、交通效率和驾驶舒适性具有重要意义。在本篇文章中将介绍使用OpenCV进行车道线的检测。
2024-05-13 17:04:12
2013
7
原创 从零开始详解OpenCV条形码区域分割
在识别二维码之前，首先要划分出二维码的区域，在本篇文章中将从零开始实现二维码分割的功能，并详细介绍用到的方法。
2024-05-11 14:45:47
1134
4
原创 OpenCV与机器学习：OpenCV实现主成分分析
维数灾难是指出现一定数量的特征（或者维度）后，分类器的性能将开始下降。特征越多，数据集中的信息就越多。但是，如果考虑的特征超过了所需的特征，分类器甚至会考虑异常值或者会过拟合数据集。因此分类器的性能开始下降，而不是上升。降维技术允许我们在不丢失太多信息的情况下，找到高维数据的一种紧凑表示。
2024-03-06 16:58:32
1284
1
原创 opencv案例实战：表格修复
在对于图标的扫描问题当中，有些时候会遇到扫描的表格缺失的问题，通过OpenCV中的形态学变换（morphologyEx）实现对于表格的修复。
2024-02-18 09:34:47
366
1
原创 opencv案例实战：条码区域分割
识别二维码是一个日常生活中常见的应用，而识别之前，需要先分割出条形码的区域来获取条形码。我们可以使用OpenCV便捷的获取条码的区域。
2024-02-06 17:43:49
942
原创 OpenCV与机器学习：使用opencv和sklearn实现线性回归
线性回归主要分为一元线性回归和多元线性回归。一元线性回归涉及两个变量，其关系可以用一条直线近似表示。而多元线性回归则涉及两个或两个以上的自变量，因变量和自变量之间是线性关系。线性回归的目标是找到一个数学公式，能够尽可能完美地组合所有自变量，以接近目标值。
2024-02-06 15:22:01
1682
1
原创 PyQt5零基础入门（十）——数字显示控件
在PyQt中，可以使用QLCDNumber控件来显示数字。QLCDNumber控件是一个用于显示数字的小部件，模拟了真实的液晶数字显示屏。这个控件主要用于显示数字，如计时器、状态指示等。QSpinBox和QDoubleSpinBox是PyQt中用于输入和显示数字的控件。这两个控件非常相似，但QDoubleSpinBox用于显示和输入浮点数，而QSpinBox用于显示和输入整数。
2024-02-04 10:28:28
1083
原创 OpenCV与机器学习：使用opencv实现KNN
KNN算法，即K-Nearest Neighbor，是一种简单的机器学习算法。它的基本思想是：如果一个样本在特征空间中的K个最相似（即特征空间中最邻近）的样本中的大多数属于某一个类别，则该样本也属于这个类别。KNN算法通过计算待分类样本与已知类别样本的距离，找出距离最近的K个样本，根据这K个样本的类别，通过投票的方式确定待分类样本的类别。在KNN算法中，距离的度量方式主要有欧式距离、曼哈顿距离、余弦相似度等。其中，欧式距离是最常用的距离度量方式，计算的是两点之间的直线距离。
2024-01-31 17:16:38
1473
原创 PyQt5零基础入门（九）——选项框(QRadioButton、QCheckBox)与下拉框(QComboBox)
选项框（QRadioButton和QCheckBox）和下拉框（QComboBox）都是Qt框架中常用的控件，用于用户输入和界面交互。下面是它们的简单介绍。
2024-01-31 08:17:36
1239
原创 PyQt5零基础入门（八）——按钮控件(QPushButton、QToolButton)
按钮控件是图形用户界面(GUI)中常用的交互元素，用于触发特定的事件或行为。在Qt框架中，QPushButton和QToolButton是两种常用的按钮控件。后边我们将以test.png为按钮图标，对比使用两种按钮控件。
2024-01-30 12:12:03
1014
原创 PyQt5零基础入门（七）——文本编辑框
QLineEdit、QTextEdit和QTextBrowser是Qt框架中的三个文本编辑组件，它们各自具有不同的特点和适用场景。
2024-01-30 09:33:31
1606
原创 PyQt5零基础入门（六）——消息框控件(QMessageBox)
消息框控件（QMessageBox）是一个在图形用户界面（GUI）中常用的对话框控件，它用于显示一条信息或一个警告给用户。消息框通常用于告知用户关于程序的一些操作结果，比如文件保存成功、操作失败、提醒用户进行某些操作等。
2024-01-19 10:54:08
2483
原创 PyQt5零基础入门（五）——QLabel显示图像
QLabel是Qt库中的一个部件，通常用于显示文本或富文本文档。然而，QLabel也可以用来显示图像。一种常见的使用QLabel显示图像的方法是使用QPixmap类。QPixmap可以从文件中接收图片，然后可以使用QLabel的setPixmap()函数将图片插入到标签中。同时，为了使图片适应标签的大小，可以通过设置图片自适应标签大小来间接修改图片尺寸。
2024-01-18 11:05:50
1883
原创 PyQt5零基础入门（四）——信号与槽
PyQt5的信号与槽是一种对象之间的通信机制，允许一个QObject对象发出信号，与之相连接的槽函数将会自动执行。信号可以携带任意个、任意类型的参数。一个信号可以连接多个槽，即一个槽可以监听多个信号。信号与槽的连接方式可以是同步连接，也可以是异步连接。信号与槽可能会在不同的线程间连接，这时信号连接只能是异步方式。信号不是必须有槽和其连接，即信号可以不处理。信号个槽的连接可以被断开。PyQt5使用pyqtSignal函数为QObject对象创建信号，并把信号定义为类的属性。
2024-01-17 17:23:28
1270
原创 PyQt5零基础入门（三）——窗口基本框架与布局
一个PyQt的应用通常需要至少一个窗口来完成，在一个窗口中往往需要多个多种控件相配合才能达到想要的结果，如何将这些控件合理有效的联系在一起，这就是布局所要解决的问题。
2024-01-15 15:20:58
523
原创 PyQt5零基础入门（二）——QLabel控件
QLabel控件可以视为是一个标签项，具有显示文本、图像的作用。在本篇文章中将介绍QLabel控件的常见用法。
2024-01-10 15:43:33
1057
原创 Python高级用法：使用unittest进行单元测试
Python中含有一个单元测试模块unittest，我们可以使用其中的工具来测试代码。在编写测试用例后，可以查看一系列输入是否得到了预期的输出。单元测试专注于测试软件单元，软件单元可以被理解为应用程序代码的最小可测试部分。
2024-01-10 10:25:05
940
GraphRAG输出中文提示词
2025-02-18
手写数学符号识别项目-Handwritten-math-symbols-recognition.zip
2023-02-17
机器学习资料、实验代码及报告.zip
2023-02-17
航拍语义分割（附数据集）.zip
2023-02-17
用于语义分割的航拍数据集
2023-02-17
基于tensorflow的手语检测
2022-11-04
人脸检测和动漫脸检测剪裁脚本.zip
2022-11-04
python实现用于图片拟合的免疫遗传算法
2022-04-11
python实现使用遗传算法进行图片拟合
2022-02-21
stable diffusion内存溢出
2023-02-18
TA创建的收藏夹 TA关注的收藏夹
TA关注的人