- 博客(7)
- 收藏
- 关注
原创 关于flash_attn对pytorch2.9和cuda13.0版本的适配问题
访问进去发现有cu12.8和13.0,torch是2.9的版本包,过段选择自己的python版本开始下载。然后扔进服务器里直接执行。昨天通过线上自己build整整一个小时,如果不是这个小符号一直在“\ | - / - \”的变,我一度以为是不是挂掉了…部署很多项目都需要集成flash_attn,这玩意儿对环境匹配还要求很严格。然后到处翻issues,到处查,真找到了一个,点开这个。只支持到了torch2.4啊?今天一早开机,然后找离线安装包,发现。
2025-12-12 11:35:10
374
原创 关于RTX50系列显卡(5080/5090/5090D)CUDA12.8版本部署vllm服务相关步骤整理
本文旨在记录RTX50系列显卡在cuda是12.8版本下成功部署vllm服务相关步骤和踩坑点。
2025-04-08 16:24:28
15259
49
原创 【webrtc-streamer】关于webrtc-streamer使用时CPU占用过高处理方式记录
关于解决webrtc-streamer占用CPU过高问题记录
2022-11-22 16:04:22
5083
27
原创 TeraCloud网盘挂载
一个霓虹国的网盘TeraCloudTeraCloud,一款可以挂载webDAV的网盘,国内有一款类似的坚果云盘也可以,但是免费的话没有只有上行1G的流量,超出就要交钱=。=https://teracloud.jp/附上地址,注册后免费容量10G,写邀请码【WBKJS】额外赠送5G,一般来说15G也够用了。1.正常注册,邮箱+用户名+密码+密码确认后登陆。2.登陆后顶栏MyPages.3.Get more capacity -> Enter friends Introduce code:输入
2020-12-28 14:06:17
1941
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅