- 博客(3)
- 收藏
- 关注
RSS订阅原创 【笔记】linux 本地部署deepseek大模型（离线版）
a.大模型文件（如7B参数的GGUF文件）体积较大（可能超过10GB），直接存储或传输可能不便，将单一大文件分割为多个小文件（例如拆分成9个分片），每个分片包含模型的一部分数据。#如果报错误：bash: ./build_android.sh：/bin/sh^M：解释器错误: 没有那个文件或目录，执行下面命令后，再执行./install.sh命令。a.资源有限（如低显存GPU/CPU）：选择低比特量化（如Q4_K_M或Q3_K_S），牺牲少量精度换取更低的显存占用。
2025-02-20 14:50:20
3419
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人