自定义博客皮肤VIP专享

*博客头图：

点击选择上传的图片

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

点击选择上传的图片

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

点击选择上传的图片

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览取消提交

自定义博客皮肤

-+

上一步保存

zolty

Earth coder & Lionheart

zolty 优快云认证博客专家优快云认证企业博客

码龄7年

169: 原创

2万+: 周排名

9484: 总排名

46万+: 访问

: 等级

4147: 积分

195: 粉丝

308: 获赞

74: 评论

1156: 收藏

私信

关注

分类专栏

linux 24篇
V2X 30篇
GIS 2篇
罗德施瓦茨 6篇
web 1篇
测试场景 1篇
python 25篇
ruoyi 3篇
阿里云服务器 8篇
SUMO 1篇
Android 9篇
MySQL 14篇
Java 4篇
kotlin 1篇
前端 6篇
vue 6篇
吉林大学 5篇
C++ 3篇
tomcat 3篇
VTD 4篇
CAN 3篇
dSPACE 1篇
考研 25篇
微信 2篇
C# 1篇

最新评论

DeepSeek-VL2 环境配置与使用指南
zolty: 我们是双3090。看报错是 bf16相关的问题。你的显卡可能不支持？换一个数据格式呢？
DeepSeek-VL2 环境配置与使用指南
zolty: 看看你的inf文件？得加上 split model 函数，这个是后加的。
DeepSeek-VL2 环境配置与使用指南
prace: 还有这个错误：NotImplementedError: No operator found for `memory_efficient_attention_forward` with inputs: query : shape=(5, 729, 16, 72) (torch.bfloat16) key : shape=(5, 729, 16, 72) (torch.bfloat16) value : shape=(5, 729, 16, 72) (torch.bfloat16) attn_bias : <class 'NoneType'> p : 0.0 `decoderF` is not supported because: attn_bias type is <class 'NoneType'> bf16 is only supported on A100+ GPUs `flshattF@v2.3.0` is not supported because: requires device with capability > (8, 0) but your GPU has capability (7, 0) (too old) bf16 is only supported on A100+ GPUs `tritonflashattF` is not supported because: requires device with capability > (8, 0) but your GPU has capability (7, 0) (too old) bf16 is only supported on A100+ GPUs operator wasn't built - see `python -m xformers.info` for more info triton is not available requires GPU with sm80 minimum compute capacity, e.g., A100/H100/L4
DeepSeek-VL2 环境配置与使用指南
prace: 博主，请问您的显卡配置是怎么样的？用tiny版模型在启动Web演示时在发送消息时报了这个错：gradio.exceptions.Error: "Failed to generate text: No operator found for `memory_efficient_attention_forward` with inputs:\n query : shape=(5, 729, 16, 72) (torch.bfloat16)\n key : shape=(5, 729, 16, 72) (torch.bfloat16)\n value : shape=(5, 729, 16, 72) (torch.bfloat16)\n attn_bias : <class 'NoneType'>\n p : 0.0\n`decoderF` is not supported because:\n attn_bias type is <class 'NoneType'>\n bf16 is only supported on A100+ GPUs\n`flshattF@v2.3.0` is not supported because:\n requires device with capability > (8, 0) but your GPU has capability (7, 0) (too old)\n bf16 is only supported on A100+ GPUs\n`tritonflashattF` is not supported because:\n requires device with capability > (8, 0) but your GPU has capability (7, 0) (too old)\n bf16 is only supported on A100+ GPUs\n operator wasn't built - see `python -m xformers.info` for more info\n triton is not available\n req
DeepSeek-VL2 环境配置与使用指南
zolty: 不在主目录里面，整个文件夹搜一下有这个的。这个是一个底层的依赖文件。插一句这个vlm效果一般。

最新文章

CAN

关注

关注数：文章数：3 文章阅读量：14937 文章收藏量：47

作者: zolty

Earth coder & Lionheart

展开