ubuntu ollama+dify实践

原创 已于 2025-03-14 16:24:58 修改 · 638 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#ubuntu #linux #运维

于 2025-03-13 13:58:22 首次发布

安装ollama

官网的指令太慢了，使用以下指令加速：

export OLLAMA_MIRROR="https://ghproxy.cn/https://github.com/ollama/ollama/releases/latest/download"
curl -fsSL https://ollama.com/install.sh | sed "s|https://ollama.com/download|$OLLAMA_MIRROR|g" | sh

修改环境变量

sudo systemctl stop ollama

参考链接


                

                
                
        

    


  


        

            

                      
                        最低0.47元/天 解锁文章
                          
                      
            

        


    

      

        

            

              
                
                  尼口666
                
              
            

            

                关注
              
            

        

        

          
      

      










                



	

		

			

				
					
如何在 Ubuntu 下无障碍安装 Ollama：通过手动下载和修改脚本解决网络问题的完整指南

				
			

			

				

					进击的码农
				

				

					09-03
					
					1万+
					
				

			

		

		

			
				
通过手动下载必要文件并修改安装脚本，你可以有效解决由于网络问题导致的 Ollama 安装失败。这种方法特别适合在受限网络环境下工作或部署的用户。希望这篇指南能帮助你顺利安装 Ollama，并在你的开发环境中开始使用这款工具。如果你在安装过程中遇到其他问题，欢迎在评论区分享，我会尽力提供帮助。作者简介我是一名资深开发工程师，专注于物联网和人工智能技术的研究与开发，致力于推动智能物联技术的发展。标签: #Ubuntu #Ollama #安装指南 #网络问题 #手动安装 #脚本修改。

			
		

	



                

            
              



	

		

			

				
					
【LLM】本地部署Gemma模型（图文）

				
			

			

				

					qq_20623849的博客
				

				

					03-10
					
					1787
					
				

			

		

		

			
				
gemma 本地部署

			
		

	



              


  
              

                


	

		

			

				
					
Ubuntu 24.04 部署Ollama和拉取模型

					
最新发布

				
			

			

				

					一个标题
				

				

					10-21
					
					1020
					
				

			

		

		

			
				
Ollama是一个开源的轻量级框架，支持在本地机器上部署和运行大型语言模型（LLM）。安装步骤包括在线下载、解压到指定目录、临时启动和版本验证。使用systemctl管理服务需创建运行账号、配置服务文件并设置开机自启。验证服务运行可通过浏览器访问默认端口11434。此外，支持通过ollama pull命令拉取模型（如bge-m3），并通过ollama list查看已安装模型。更多详情可参考官网文档。

			
		

	





	

		

			

				
					
在ubuntu24.04上安装Ollama并设置跨域访问

					
热门推荐

				
			

			

				

					BBM的博客
				

				

					09-23
					
					1万+
					
				

			

		

		

			
				
Ollama 是一个基于 Go 语言开发的简单易用的本地大模型运行框架。它同时支持Nvidia和AMD显卡，最主要的是国内下载模型的速度很快。

我们在前几期文章中介绍的lobechat，oneapi等应用，可以方便的利用ollama构建本地大模型运行平台。接下来我们就介绍如何构建ollama的运行平台。

			
		

	



		

			
		



	

		

			

				
					
Ubuntu安装配置Ollama并运行大模型

				
			

			

				

					willhu2008的专栏
				

				

					06-04
					
					1884
					
				

			

		

		

			
				
Ollama 是一个开源项目，可以使用官网。这样就直接部署完成了，可以使用。于是直接访问github地址。下载完成后就可以输入对话了。命令查看安装版本进行验证。不过试过多次下载失败。

			
		

	





	

		

			

				
					
Linux：Ubuntu server 24.02 上搭建 ollama + dify

				
			

			

				

					guyuelin123的博客
				

				

					03-12
					
					1971
					
				

			

		

		

			
				
本文为通过ollama，docker在一台没有显卡的裸金属服务，系统为Ubuntu server24.02系统上部署的DeepSeek + dify 聊天机器人。

			
		

	





	

		

			

				
					
本地部署DeepSeek-R1（Ollama+Docker+Dify知识库）ubuntu

				
			

			

				

					02-18
				

			

		

		

			
				
本文将详细介绍如何在本地系统上部署DeepSeek-R1系统，具体涉及到Ollama、Docker和Dify知识库的安装和配置过程。DeepSeek-R1是一种基于机器学习和自然语言处理技术的应用，旨在提供高级搜索和数据分析能力，而Ollama...

			
		

	





	

		

			

				
					
【AI实践】应用Dify+Ollama实现基础Agent工作流（含RAG与LLM）

				
			

			

				

					趣谈AI栈
				

				

					10-25
					
					3996
					
				

			

		

		

			
				
本文在流行度很高的Dify开发平台上，接入Ollama 部署的大型语言模型，实现一个细分领域的本地离线的Agent工作流应用（知识库+聊天助手）。

			
		

	





	

		

			

				
					
ubuntu+dify+大模型 构建知识库【一】

				
			

			

				

					sinat_40759442的博客
				

				

					06-24
					
					1069
					
				

			

		

		

			
				
Ubuntu上安装Anaconda及环境配置管理、pycharm、docker、dify

			
		

	





	

		

			

				
					
 Docker+DeepSeek+Dify 搭建企业级本地私有化知识库操作手册

				
			

			

				

					yuhuibin111的博客
				

				

					04-20
					
					837
					
				

			

		

		

			
				
将 Docker 和 WSL 完全部署到 D 盘，避免 C 盘空间占用；配置 Dify 并集成本地 Ollama 模型，实现私有化知识库问答；掌握资源优化和常见问题解决，确保系统稳定运行。添加多模型支持（如 Llama-2、BERT）；对接企业微信 / 飞书，实现 IM 工具集成；配置 HTTPS 证书，提升系统安全性。最终目标：构建安全可控的企业级知识库系统，支持文档检索、智能问答、流程自动化等功能，助力企业高效利用内部数据。

			
		

	





	

		

			

				
					
在Ubuntu22.04 配置安装Dify Ollma 以及Deepseek配置

				
			

			

				

					liod1234的博客
				

				

					03-08
					
					4705
					
				

			

		

		

			
				
随着人工智能的发展，deepseek是今年最火的开源大模型之一，他也促进了机器人整个行业的发展，最近在做一个项目，就涉及到用deepseek做一些应用。经过调研，决定搭建本地deepseek 7b的模型，结合Dify进行开发。但是在环境配置中，遇到很多问题，一开始电脑的系统是ubuntu20.04的，一直配置有点问题，所以后来和几个工程师小伙伴们讨论，决定采用ubuntu22.04的，于是，我们重装了一台全新的ubuntu22.04，在一个全新系统上进行安装。

			
		

	





	

		

			

				
					
Ollama ubuntu多线程推理

				
			

			

				

					qq_43775794的博客
				

				

					07-01
					
					3379
					
				

			

		

		

			
				
默认运行的后端默认线程为1，无法开启多线程，可以输入如下命令，关闭默认后台。然后在任意目录下新建ollama_serve.sh文件，填入如下命令。开启ollama服务后，可以直接使用ollama的命令从官网下载模型。Ollama官网：Download Ollama on Linux。这里我使用的是llama3:8b-text-fp16，在终端输入。控制ollama后端最大部署模型数量（同时部署多种模型）表明现在正在运行Ollama后端，但里面没有模型。安装ollama后，在命令行中输入。

			
		

	





	

		

			

				
					
ubuntu上应用ollama

				
			

			

				

					油条不卖的博客
				

				

					03-11
					
					1521
					
				

			

		

		

			
				
③如果是通过ollama run 模型名称方式取运行本地不存在的模型，默认已经配置了不需要自己手动创建Modelfile进行配置，但是如果是自己手动转GGUF格式，转完格式后还需要创建Modelfile进行相关配置，配置的内容不固定，不同的模型不一样，详细可以参考B站视频【教程！测试多模型同时运行，打开多个命令窗口使用ollama run 模型名称运行同一模型或不同模型，看是否可以同时对话，还是只能等一个窗口对话完，另一个窗口才开始对话，如果可以同时对话则表示测试成功。

			
		

	





	

		

			

				
					
ollama安装(ubuntu20.04)

				
			

			

				

					玖拾说架构
				

				

					09-17
					
					5837
					
				

			

		

		

			
				
本文指导Ollama的安装过程。

			
		

	





	

		

			

				
					
ubuntu部署ollama

				
			

			

				

					Joemt
				

				

					11-04
					
					5249
					
				

			

		

		

			
				
离线部署大模型

			
		

	





	

		

			

				
					
Ubuntu开源本地化部署Dify+Ollama搭建智能体和工作流

				
			

			

				

					zhangkai1992的专栏
				

				

					01-01
					
					1310
					
				

			

		

		

			
				
或者添加国内源,替换下面的URL为国内的镜像地址：：由于国内访问可能较慢，可以使用国内镜像提供的Docker GPG密钥。Docker国内镜像源全部失效的问题。本地寻找一份文件，然后上传。

			
		

	





	

		

			

				
					
TensorFlow相关组件的安装

				
			

			

				

					AAI666666的博客
				

				

					01-11
					
					3032
					
				

			

		

		

			
				
TensorFlow相关组件的安装

			
		

	





	

		

			

				
					
ubuntu ollama 本地部署

				
			

			

				

					rope123的博客
				

				

					08-06
					
					1268
					
				

			

		

		

			
				
ollama ubuntu安装

			
		

	





	

		

			

				
					
ubuntu下使用ollama来运行gemma

				
			

			

				

					我的博客
				

				

					02-23
					
					745
					
				

			

		

		

			
				
ubuntu下使用ollama来运行gemma

			
		

	





	

		

			

				
					
Deepseek+Dify本地部署常见问题与解决方案汇总

				
			

			

				

					
				

			

		

		

			
				
Deepseek与Dify的结合是当前大模型应用开发中极具代表性的技术实践，尤其是在构建本地知识库系统、实现私有化部署和智能问答服务方面具有重要意义。本文标题《Deepseek+Dify问题汇总[项目源码]》明确指出了其核心...

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

  

	
    

      

      

      

        
        

          
          

            

              成就一亿技术人!
            

            

              拼手气红包6.0元
            

          

        

        

          

            还能输入1000个字符
          

          

             
          

          

            

              红包
              添加红包
            

            

              表情包
              插入表情
              

                

              

            

            

              表情包
              代码片
              

                
              

            

            

              
              
              
              
              
              
              
            

          

        

      

    

		

			

			

			

					 条评论被折叠 查看
			

			

				
			

		

	

	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值