Ollama
关注
分享
扫一扫
leo0308
AI攻城狮
展开
-
Ollama加载gguf模型
在 https://huggingface.co/models 上搜索对应模型的gguf文件下载即可。如 Qwen/Qwen2-0.5B-Instruct-GGUF。文件格式没要求， 用简单的txt文件就行。原创 2024-08-02 19:14:32 · 3163 阅读 · 2 评论 -
Ollama运行qwen2:7b 输出乱码
现象： 运行qwen2:7b模型， 无论输入是什么， 输出都是无意义的GG。原创 2024-07-23 20:00:24 · 2817 阅读 · 0 评论 -
解决llama_index中使用Ollama出现timed out 问题
【代码】llama_index中使用Ollama是出现timed out 问题。原创 2024-07-22 21:38:01 · 2351 阅读 · 0 评论 -
Ollama + Open WebUI实践
在上一篇文章中， 我们已经学会了如何用Ollama在本地运行大模型。但是所有的操作都是在命令行中进行的， 不是很直观。如果有一个漂亮的UI界面就更好了。Open WebUI 就是一个可以实现UI界面的开源工具， 可以生成类似openAI风格的UI界面。原创 2024-03-28 23:44:05 · 2818 阅读 · 0 评论 -
Ollama实践
当前各种大模型层出不穷，但想要在本地运行起来一个大模型还是有一定门槛的。并且模型众多， 每个模型都有自己不同的配置和使用方法，使用非常不便。Ollama就是一个非常好的工具， 可以让你方便在本地运行各种大模型。原创 2024-03-27 23:10:57 · 677 阅读 · 0 评论