大模型
关注
分享
扫一扫
文章平均质量分 72
DLite
这个作者很懒，什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
为什么不加位置编码注意力权重不会变化
在理解Transformer模型时，一个关键问题是：为什么不加位置编码时，注意力权重不会变化？原创 2025-02-19 14:18:26 · 579 阅读 · 0 评论 -
国内Ubuntu离线安装和配置Ollama服务
在 Ubuntu 22.04 系统上，安装Ollama 的完整安装和配置步骤。原创 2025-02-12 10:14:06 · 7250 阅读 · 0 评论 -
国内下载huggingface模型的几种方式
要将 huggingface.co 的域名自动映射到重定向到 hf-mirror.com，可以采取以下几种方法。原创 2024-05-28 09:23:27 · 3227 阅读 · 0 评论 -
解决离线运行vLLM 启动报dns.google错
根据提示修改“/usr/local/lib/python3.10/dist-packages/vllm/utils.py”，注意不同环境下vLLM安装路径不同。这个bug会在vLLM 0.3.4修复。这段代码的功能是获取本机ip地址。原创 2024-03-15 15:09:27 · 1885 阅读 · 0 评论