邻家的狗2-优快云博客

原创 LangChain-chatchat 0.3.x入门级教程

本项目实现原理如下图所示，过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的top k个 -> 匹配出的文本作为上下文和问题一起添加到prompt中 -> 提交给LLM生成回答。

2025-03-14 17:26:31 1063

原创 ERROR: Failed to build installable wheels for some pyproject.toml based projects (llama-cpp-python)

今天在安装xinference时出现了这个错误，ERROR: Failed to build installable wheels for some pyproject.toml based projects (llama-cpp-python)找到对应的版本，根据我的python是3.10，cuda是12.1.直接pip install安装就好了！

2025-03-14 17:26:05 485

原创 ModuleNotFoundError: No module named ‘_lzma‘

python 3.3版本以上会自带lzma模块，可是如果用户是通过源码安装的python，而且系统中没有安装lzma-dev包，那么就不会安装lzma模块。

2025-03-10 20:09:36 441

原创 Wandb的使用

wandb是Weight & Bias的缩写，这是一个与Tensorboard类似的参数可视化平台。

2025-03-10 20:09:18 223

原创 torchtext 遇到问题libtorchtext.so: undefined symbol: 解决方法(亲测有效)

由于目前torchtext的最高版本为0.18.0，所以我打算降低torch版本到2.3.0。

2025-03-07 15:29:00 223

原创 Python 修改 pip 源为国内源

1、pip临时换源，将XXX换成需要按照的库。

2025-03-07 15:27:59 240

原创解决git clone下载慢或者超时问题

在网上找了很多办法，直接最简单的使用镜像网站下载。

2025-03-03 15:34:52 242

原创大模型推理加速——KV Cache

KV Cache 是大模型推理性能优化的一个常用技术，该技术可以在不影响任何计算精度的前提下，通过空间换时间的思想，提高推理性能。

2025-03-03 15:34:28 341

原创 linux中安装python

1、下载对应版本的python压缩包我这里下载的是3.10.14，这里可以直接下载安装到本地再传到服务器上，或者使用wget命令直接在服务器终端上下载。2、解压。

2025-02-19 15:26:00 167

原创 python中import库出现路径问题

运行prepro_vocab.py文件，由于需要导入common文件夹下的chem.py中的类，出现找不到模块的问题。

2024-12-06 09:56:45 250

原创 vscode中不能跳转python库的问题（已解决）

在conda中创建了一个新环境来跑项目，python版本3.7.12，然后怎么都不能跳转想要进去的库。我切换了python版本大于3.8的虚拟环境，此时是可以跳转导入的库，但是低于python3.8就不行。

2024-10-17 15:53:00 668

原创解决_pickle.UnpicklingError: A load persistent id instruction was encountered,but no persistent_load

报错信息：_pickle.UnpicklingError: A load persistent id instruction was encountered,报错原因：在加载模型参数时，torch版本发生变化，我报错因为训练前torch版本比较高，后面需要较低版本导致两个版本不一致发生报错。解决办法：将训练重新训练一次就欧克了，保证训练和验证过程使用同一个版本的torch。

2024-10-16 11:21:41 939

原创解决ModuleNotFoundError: No module named ‘sklearn.svm.classes‘

通过官网看到好像0.19.2只能支持到python3.7，我的python版本为3.10.9。尝试降低python版本为3.6.报错信息：ModuleNotFoundError: No module named 'sklearn.svm.classes'安装python3.6后再安装scikit-learn==0.19.2就可以了！去scikit-learn查看whl文件。

2024-10-16 10:50:33 502

原创 conda创建虚拟环境报错

触发报错信息：conda create -n mol_opt python=3.6。再次安装conda虚拟环境就不报错啦！1、查看.condarc文件。2、删除.condarc文件。

2024-10-16 10:43:11 1749

原创更新Anaconda中虚拟环境的python版本！

替换成你选择的 Python 版本。会列出可以更新的python版本。1、激活需要更新的虚拟环境。

2024-10-16 10:07:20 1479

原创 linux中限制用户登录

文件锁定的，你需要找到该用户的条目并修改它。记录一下如何限制用户登录和接触用户登录。如果用户账户是通过编辑。

2024-09-28 21:25:19 298

原创 linux后台运行代码----Tmux

在linux中运行自己代码，一旦关掉终端，代码运行就会终端，要是想代码一直在后台运行，此时Tmux闪亮登场！！！

2024-09-27 01:35:19 450

原创 vscode设置免密登录（亲测有效）

在远程服务器时，每次打开服务器目录和保存文件都需要输入密码，此时设置免密登录就很有必要。

2024-09-25 10:58:35 1704

原创 docker更换镜像源

编辑/etc/docker/daemon.json这个文件，需使用sudo。这样Docker镜像源加速就配置完成了。将以下内容复制到这个json文件中。保存并退出：按Esc，输入！

2024-09-24 15:40:57 1891

1、打开开发人员模式win+i打开设置，勾选开发人员模式2、开启“适用于Linux的Windows子系统”、虚拟机平台、Hyper-V找到控制面板-程序和功能-启用或关闭Windows功能，选中“适用于Linux的Windows子系统”，然后点击确定3、安装WLS在管理员模式下打开 PowerShell 或 Windows 命令提示符，方法是右键单击并选择“以管理员身份运行”，输入 wsl --install 命令，然后重启计算机。更新WLS（如果出现如下错误，请更新WLS）

2024-09-23 16:22:32 3959

原创 linux系统中安装指定版本的python

如果还有别的python版本，需要更换python指定刚才下载的python3.12。如果需要安装别的版本根据这个命令修改版本号就可以了。我这里选择的是3.12.0版本，点击进去。记录一下安装python的流程！解压下载好的python。

2024-09-23 10:28:41 694

原创 linux中查看指定用户所占的存储空间

【代码】linux中查看指定用户所占的存储空间。

2024-09-23 10:07:47 275

原创报错 bash: sudo: command not found（已解决）

执行两行代码后sudo就安装成功了！

2024-09-22 22:04:17 742

原创取消conda虚拟环境同时出现两个环境名字！

在命令行输入以下命令，重开终端即可。

2024-09-11 15:33:30 860

原创 FastAPI启动项目的方式

Uvicorn 是一个轻量级的 ASGI 服务器，它可以用来直接运行 FastAPI 应用。遇到问题：我部署了一个多模态模型，每次模型加载的速度会很慢，不用api运行模型时大概几秒，使用上面的启动方式时，模型的速度就会需要40多秒。这通常会导致更快的启动时间，因为你避免了解析和执行额外的导入语句。这种方式在某些情况下会导致额外的导入延迟，尤其是当你的应用或其依赖项非常复杂时。这种格式时，Uvicorn 会尝试按照给定的字符串来导入应用。时，你实际上是在告诉 Uvicorn 使用当前脚本中已经创建的。

2024-09-11 11:35:52 1264

m0_60304650的博客