- 博客(5)
- 收藏
- 关注
RSS订阅原创 DeepSeek-R1/V3满血版本地部署（超详细）
1.目前看起来SGLang在满血版的deepseek-v3和r1上优化没有想象中的大、2.多节点部署(tp并行)显存占用略微下降（非线性下降），单卡93GB—>单卡83GB3.官方推荐的性能优化选项貌似没有明显的性能提升4.对多节点真的支持tp和dp同时并行存疑。
2025-02-28 11:18:35
5436
2
原创 DeepSeek本地部署/SGLang/单节点/多节点
我们采用SGLang框架进行DeepSeek模型的本地部署，基于物理设备限制，这里我们以DeepSeek-R1-Distill-Qwen-7B为例，更多配置可以参考，满血版本也可参考下述流程，最小设备支持为8*H20。
2025-02-27 18:04:43
7290
原创 编写函数实现两个同类型值的交换（难度不断升级）
1.采用中间变量include<stdio.h>void swap(int *x,int *y);//函数原型声明int main(){ int a=3; int b=4; printf("交换前 a=%d b=%d\n",a,b); swap(&a,&b); printf("交换后 a=%d b=%d\n",a,b); }void swap(int *x,int *y){ int tmp; tmp..
2021-07-24 18:54:24
1281
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人