- 博客(4)
- 资源 (1)
- 收藏
- 关注
原创 cursor/vscode单步调试vllm源码和sglang源码
3、完成后,在vllm目录下的.vscode下创建launch.json,如果没有就创建一个,然后拷贝以下内容到launch.json。最后,在cursor/vscode中,设置好虚拟环境解释器,然后执行 运行->启动调试即可。最近学习vllm源码,记录一下使用流程,当前vllm版本为0.8.5。2、下载vllm源码后,进入vllm目录,执行。1、uv创建环境vllm_debug。
2025-05-20 17:03:21
727
原创 ollama国内下载慢或者下载不了的解决方案
目前支持ollama 0.6.0,运行正常。主要是判断是否本地有已经下载好的压缩包文件。如果有,就不下载,直接解压执行后续流程。优化ollama下载脚本。
2025-03-14 14:48:01
936
原创 DeepSeek-R1-UD-IQ1_M(671B,1.73-bit 动态量化,158 GB,HuggingFace)百度网盘
deepseek 671b量化模型 百度网盘链接
2025-02-12 11:28:16
2205
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅