- 博客(3)
- 收藏
- 关注
RSS订阅原创 内网部署VLLM+本地大模型，避坑指南
首先要检查你本地的模型文件的绝对路径和启动命令中-v挂在的本地目录文件夹（这个到模型文件夹的上一层，即如果config.json在/vllm/models/bge-reranker-v2-m3中，则这里写/vllm/models）。–served-model-name 模型名: 用来设置对外提供服务时该模型的名称，这个名称就是后面大家发请求的时候model里面的参数。注意：这里需要评估一下自己卡的gpu是不是够，如果一张15G的卡要启动17G的模型是起不来的！vllm当前版本可以支持的模型参考。
2025-04-10 10:02:18
737
原创 LinkIt One学习笔记--Lwifi模块
LWIFI学习https://docs.labs.mediatek.com/resource/linkit-one/en/tutorials/using-http-with-the-linkit-one-development-board 官网链接这个里面可以 Post a JSON object to a server and receive a response 本人是小白，以下程序又不...
2019-02-20 21:41:36
1481
原创 LinkIt One开发板出现问题
LinkIt One开发板出现问题本人使用Arduino IDE 编程，在需要观察串口监视器的数据过程中，上传程序出现打开com端出错。错误信息如下：C:\ArduinoIDE\Arduino>“C:\Users\10948\AppData\Local\Arduino15\packages\LinkIt\tools\linkit_tools\1.1.23\PushTool.exe”...
2019-02-19 21:14:23
640
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人