pycharm搭建本地环境训练deepseek模型时遇到问题求救

最新推荐文章于 2025-03-20 13:33:18 发布
最新推荐文章于 2025-03-20 13:33:18 发布
阅读量253 收藏
点赞数 1
文章标签： python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/2201_75855123/article/details/146334709
版权

利用pycharm搭建本地环境，训练deepseek大模型时，在python脚本中import torch，torch.__version__输出结果为none,torch.cuda.is_available()输出结果为False,导致出错：

The installed version of bitsandbytes was compiled without GPU support. 8-bit optimizers, 8-bit multiplication, and GPU quantization are unavailable. CUDA is required but not available for bitsandbytes. Please consider installing the multi-platform enabled version of bitsandbytes, which is currently a work in progress. Please check currently supported platforms and installation...

请教大神，这个问题该怎么解决。

2201_75855123
关注
PyCharm怎么集成DeepSeek
ZJQ的博客
02-28 454
打开PyCharm，依次点击 `File` -> `Settings`（Windows/Linux）或 `PyCharm` -> `Preferences`（Mac）。 - 在左侧面板中选择 `Plugins`。 - 在搜索框中输入 `AI Assistant` 并安装该插件。安装完成后重启PyCharm。
AI自动化代码编程--Pycharm安装continue框架使用deepseek自动编码
传道\授业\解惑
02-22 3966
在中添加：jsonCopy"prompt": "为以下代码生成单元测试：\n{{selected_code}}",
RuntimeError: CUDA is required but not available for bitsandbytes.
weixin_52205764的博客
11-16 2762
链接: https://pan.baidu.com/s/1PNbDp6mhB__L7MdGbPI18w?pwd=1234`提取码: 1234 复制这段内容后打开百度网盘手机App，操作更方便哦。我想说的是，不要按照这个报错去安装。的包，否则还是跑不了。今天想配置大模型的环境，需要用到。于是我按照一些博客所说配置了。)的指示安装，不要直接。确实不行，于是反应过来。选择时，需要根据平台和。时，必须根据这个网站(希望可以对你有所帮助~还有一点注意是，安装。
[踩坑记] CUDA环境下bitsandbytes安装报错/异常解决
热门推荐
chenyang2203的博客
05-06 3万+
部署大模型LLaMA的过程中安装量化工具包bitsandbytes问题解决
大模型量化 - BitsandBytesConfig
最新发布
u010249118的博客
03-20 433
BitsandBytesConfig 是 Hugging Face Transformers 库中用于配置大模型量化参数的核心类，通过调整量化位宽、数据类型等参数，可在保持模型性能的同时显著降低显存占用。
WIN下使用 bitsandbytes 出现 CUDA Setup failed despite GPU being available.错误
suibianshen2012的专栏
09-11 528
试了很多方法都不成功，最后靠这条命令成功实现。
LLaMa-Factory第二弹！使用LLaMa-Factory微调llama3中文模之bitsandbytes报错CUDA SETUP: CUDA detection failed! 问题大解决！！
m0_52080514的博客
12-14 2691
实在没办法了，用了一个比较笨的办法。找到文件“/home/user (自己位置)/anaconda3/envs/环境名字/lib/python3.11/site-packages/bitsandbytes/cuda_setup/main.py”或者试一下其他版本也行，我最开始安装的是0.42.0，后面又试了0.39.0，0.43.0等等版本，后面发现0.45.0版本是可以的。这里遇到一个问题，点击dataset旁边的小箭头，没有可选的数据集，手动输入之后，点击start报错，出现找不到文件的问题。
Pycharm接入本地部署deepseek实现写代码起飞.pdf
02-10
整个流程简单明了，通过三步就能实现对Python代码开发和本地搭建的DeepSeek大模型的有效利用。而一旦接入成功，将极大提升开发效率，降低编程门槛，使得即使是初学者也能快速上手，编写出复杂的功能模块。 需要特别...
Pycharm接入本地部署deepseek实现写代码起飞
weixin_65784341的博客
02-21 706
但是身为一位撸代码的人员，如果需要优化代码还得需要复制代码，然后打开三方软件去问答，是不是显得很麻烦呢？在settings中找到tools，里面可以找到CodeGPT ，然后在Providers中找到Ollama 配置即可，下图是我的配置。安装完proxy ai后，pycharm右侧边栏会出现proxy ai的图标，点击后，即可使用deepseek进行问答了。在设置中 plugins中搜索proxy ai，搜索后，然后点击下载安装即可。可以实现优化代码，分析文件，直接插入代码或复制代码等能力。
DeepSeek 本地化部署实现私有化训练医疗数据实战方案
02-23
同时，利用本地化部署的深度学习框架，如DeepSeek，可以实现针对医疗数据的深度学习模型训练，提高医疗诊断的准确性和效率。 在进行DeepSeek本地化部署之前，需要做好充分的准备工作。首先，硬件环境的搭建至关重要...
大模型GPU安装bitsandbytes报错解决
大数据之眸
08-15 5452
在conda python环境下，通过pip install bitsandbytes直接安装，或是按源码编译安装，在python -m bitsandbytes检测时均出现异常。操作系统：Ubuntu 22.04。
cuda is not available（环境变量一定正确配置呀）
a1563802442的博客
03-03 5864
深度学习，神经网络配置中 cuda is not available
关于windows上运行bitsandbytes老是报错的（说cuda版本有问题）解决方案
dalaomanzou的博客
09-21 9578
最后在网上找到高人的回复，原来一开始就想错方向了，根本就是这个bitsandbytes的版本不对，整死个人。甚至自己在那里加些莫名其妙的环境变量（后来才知道那玩儿是linux上才用的环境变量），醉了。甚至以为是环境变量有问题，没有对应的环境变量，导致程序找不到对应的cuda环境。所以多方尝试，卸载了又装，多个cuda版本都卸载和安装了多次，以排查问题。本来我就奇怪，我都进的是虚拟环境了，怎么还是cuda环境有问题。我以为是自己电脑上装了多个版本的cuda，导致冲突。报错问题基本上都是什么。
[踩坑记] Linux环境下bitsandbytes安装是后报错解决
weixin_45837404的博客
07-25 2752
测试LLM安装依赖bitsandbytes报错！
deepspeed 或 bitsandbytes 遇到CUDA Setup failed despite GPU being available.
Y_飞鱼
07-14 2920
【代码】deepspeed 或 bitsandbytes 遇到CUDA Setup failed despite GPU being available.
centos7输入python -m bitsandbytes报错CUDA Setup failed despite GPU being available. Please run the follo
python版服务器
08-10 1039
`CXXABI_1.3.9' not found，`GLIBCXX_3.4.21` not found
bitsandbytes包找不到cuda
zhuziheniaoer的博客
02-21 1338
bitsandbytes包找不到cuda
pycharm中使用本地的deepseek模型做表格数据预测
02-27
### 加载并使用本地 DeepSeek 模型 为了在 PyCharm 中加载并使用本地 DeepSeek 模型对表格数据进行预测，需遵循一系列配置和编程操作。 #### 安装必要的环境 确保环境中已安装 Python 3 并且其版本与 DeepSeek-R1 模型兼容[^1]。推荐使用 Anaconda 来管理依赖项以及创建隔离的工作环境。对于集成开发环境的选择，可以考虑使用 PyCharm 进行项目管理和代码编写工作[^2]。 #### 准备工作空间 启动 PyCharm 后，新建或打开现有项目，在此项目内设置合适的虚拟环境来安装所需的库文件和其他资源包。 #### 导入所需库 在项目的 `requirements.txt` 文件中添加如下条目以确保所有必需的软件包被正确安装： ```plaintext numpy==最新稳定版 pandas==最新稳定版 torch==DeepSeek所支持的具体版本 transformers==对应于DeepSeek模型的版本 ``` 接着运行命令更新当前环境中的Python包列表: ```bash pip install -r requirements.txt ``` #### 编写预测脚本 创建一个新的 Python 脚本来处理输入的数据集，并调用预训练好的 DeepSeek 模型来进行预测分析。下面是一个简单的例子展示如何实现这一点： ```python import pandas as pd from transformers import AutoModelForSequenceClassification, AutoTokenizer def load_model(model_path): tokenizer = AutoTokenizer.from_pretrained(model_path) model = AutoModelForSequenceClassification.from_pretrained(model_path) return tokenizer, model def predict_table_data(df, tokenizer, model): predictions = [] for index, row in df.iterrows(): text_input = str(row['text_column']) # 假设表中有名为 'text_column' 的列用于存储待分类文本 inputs = tokenizer(text_input, return_tensors="pt", truncation=True, padding=True) outputs = model(**inputs)[0] prediction = int(outputs.argmax(dim=-1)) predictions.append(prediction) df["prediction"] = predictions return df if __name__ == "__main__": data_file = "./data/sample.csv" sample_df = pd.read_csv(data_file) local_deepseek_path = "/path/to/local/deepseek/model" tokz, mdl = load_model(local_deepseek_path) result_df = predict_table_data(sample_df, tokz, mdl) output_file = "./output/predictions.csv" result_df.to_csv(output_file, index=False) ``` 上述代码片段展示了怎样读取 CSV 格式的表格数据、初始化 Hugging Face 提供的支持多类别的序列分类器（即这里的 DeepSeek），并对每一行记录执行推理计算得出最终的结果保存回新的CSV文档里去。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值