Ollama及其Open-WebUI部署更新

原创 已于 2024-10-15 17:25:39 修改 · 4.6k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #ollama #open-webui #llama.cpp #gpt

于 2024-10-15 17:25:06 首次发布

目录

1 安装ollama

2 安装Open-WebUI

2.1 不使用容器安装open-webui  

2.2 使用Docker安装open-webui

2.3 基于docker升级open-webui

1 安装ollama

curl -fsSL https://ollama.com/install.sh | sh

启动、关闭ollama
 

systemctl start ollama
systemctl stop ollama
systemctl restart ollama
systemctl status ollama

2 安装Open-WebUI

2.1 不使用容器安装open-webui  

        1> 下载opwen-webui代码

git clone https://github.com/open-webui/open-webui.git

        2> 启动opwen-webui

  


                

        

    



  


        

                

                  

                  

                  了解本专栏
                  
                  
                    
                  订阅专栏 解锁全文
                   
                  
                    
                    超级会员免费看
                  
                

            
            
            
        


    



                



	

		

			

				
					
ollama集成open-webui本地部署大模型应用

				
			

			

				

					program哲学
				

				

					04-26
					
					9275
					
				

			

		

		

			
				
详细介绍如何利用ollama集成open-webui本地部署大模型应用

			
		

	



                

            
              



	

		

			

				
					
最新版ollama与openwebui更新：内置千问2和llama3.1大模型

				
			

			

				

					ai_xiaogui的博客
				

				

					09-06
					
					1015
					
				

			

		

		

			
				
ollama：ollama是一个开源项目，主要用于构建和训练大规模语言模型。最新版的ollama不仅优化了模型训练的速度和效率，还增加了对千问2的支持。openwebui：openwebui则是一个前端框架，旨在为用户提供更加友好的交互界面。此次更新不仅提升了用户体验，还整合了llama3.1大模型，使得用户可以直接在界面上使用先进的AI功能。此次ollama和openwebui的更新带来了诸多改进，特别是内置了千问2和llama3.1大模型，极大地提升了用户的使用体验。

			
		

	



              


  
              

                


	

		

			

				
					
Ollama完整教程：本地LLM管理、WebUI对话、Python/Java客户端API应用

				
			

			

				

					老牛啊
				

				

					07-10
					
					2万+
					
				

			

		

		

			
				
Ollama可以非常方便的管理和部署我们本地大语言模型，老牛同学希望通过本文对Ollama进行一次详细介绍，包括本地大模型管理和使用、WebUI对话界面部署、通过Python和Java使用Ollama的API接口等……

			
		

	





	

		

			

				
					
ollama v0.12.10 版本更新详解——新增 embedding 模型支持与多项优化

					
最新发布

				
			

			

				

					福大大架构师每日一题
				

				

					11-08
					
					1229
					
				

			

		

		

			
				
ollama run现在可以直接运行 embedding 模型，为文本向量化提供了高效途径。修复了多项模型运行的兼容性问题，特别是针对视觉语言模型。增强了 Vulkan 的功能与 GPU 内存检测能力。提供 API 返回工具调用 ID，更好地支持开发者调试与管理。优化了交互体验并提升了系统稳定性。

			
		

	



		

			
		



	

		

			

				
					
【AI】Ollama+OpenWebUI+llama3本地部署保姆级教程，没有连接互联网一样可以使用AI大模型！！！

					
热门推荐

				
			

			

				

					weixin_43012017的博客
				

				

					04-27
					
					7万+
					
				

			

		

		

			
				
在没有互联网的环境下部署，可以将下载好的Ollama安装包复制到此环境安装，然后将下载好的模型复制到相应路径就可以在无互联网的环境下使用。默认安装后的目录：C:\Users\username\AppData\Local\Programs\Ollama。8B模型一般16GB内存就可以跑的很流畅，70B模型则至少需要64GB内存，有CPU就可以跑，当然有GPU更好。由于llama3对中文的支持并不是很好，需要中文的可以使用GitHub上开源的这个llama3中文微调模型。提问题，发现该模型给了很好的回复。

			
		

	





	

		

			

				
					
轻松搭建本地大模型Ollama+OpenWebUI

				
			

			

				

					2401_84215165的博客
				

				

					04-09
					
					2385
					
				

			

		

		

			
				
Ollama是一个开源的LLaMA 2.0的桌面应用程序，它允许用户在本地运行LLaMA 2.0，并使用它进行聊天、生成文本等操作。

			
		

	





	

		

			

				
					
Open WebUI升级到最新版本

				
			

			

				

					weixin_42458975的博客
				

				

					06-25
					
					1万+
					
				

			

		

		

			
				
open-webui是一个用于构建Web用户界面的开源库，它仿照 ChatGPT 的图形化界面，可以非常方便的调试、调用本地大语言模型。目前该开源库更新较为活跃，从3个月前的版本（v0.1.108）到截止到2024年6月中旬发布的最新版本V0.3.5，经历了约20个版本的快速迭代和升级。每次的迭代快速响应和修复了前面版本反馈的问题，使得新的版本在功能和稳定性上更加强大。

			
		

	





	

		

			

				
					
快速更新Open WebUI

				
			

			

				

					jerry0012000的博客
				

				

					02-15
					
					2211
					
				

			

		

		

			
				
实习小白偶遇Open WebUI连发更新，拼尽全力终于战胜，仅需三行代码，无需卸载镜像。

			
		

	





	

		

			

				
					
大模型笔记01--基于ollama和open-webui快速部署chatgpt

				
			

			

				

					脚步不能达到的地方，眼光可以达到；眼光不能达到的地方，精神可以飞到
				

				

					09-01
					
					2200
					
				

			

		

		

			
				
近年来AI大模型得到快速发展，各种大模型如雨后春笋一样涌出，逐步融入各行各业。与之相关的各类开源大模型系统工具也得到了快速发展，包括 ollama 和 open-webui 这样的项目。本文基于 ollama 和 open-webui，快速运行大模型并提供对应的web交互界面，让每个关注AI大模型的人员都能快速运行起自己的本地大模型。

			
		

	





	

		

			

				
					
【Ollama】open-webui部署模型全流程

				
			

			

				

					qq_62223405的博客
				

				

					07-24
					
					1467
					
				

			

		

		

			
				
Ollama+open-webui部署模型

			
		

	





	

		

			

				
					
Docker中轻松部署Ollama和Open-WebUI，实现私有化大语言模型

				
			

			

				

					楠搏万的博客
				

				

					12-02
					
					7041
					
				

			

		

		

			
				
介绍了如何通过 Docker 和 Docker Compose 部署 Ollama 和 Open-WebUI，实现本地私有化大语言模型的快速搭建。通过简单的配置，开发者可以轻松创建一个符合 API 调用和私有知识库需求的环境。我们推荐中文用户选择千问模型（Qianwen），其在实际操作中的体验更为流畅且稳定。此方法不仅能够提升部署效率，还能够优化本地模型的管理和调用，帮助开发者实现个性化的语言模型体验。本文对于希望在本地部署大语言模型的开发者尤其有帮助。

			
		

	





	

		

			

				
					
自动更新docker版本的open webui，ollama

				
			

			

				

					疯狂小伟哥的博客
				

				

					04-22
					
					7020
					
				

			

		

		

			
				
自动更新docker安装的open webui。如果更新ollama只需把open-webui替换成ollama即可。也可以用下面代码实现后台监控并自动更新。

			
		

	





	

		

			

				
					
如何更新已安装的Open WebUI？

				
			

			

				

					wayaw151的博客
				

				

					03-02
					
					3055
					
				

			

		

		

			
				
以下是更新已安装的Open WebUI的分步指南，根据不同的安装方式提供针对性方案：对于一个新手来说，这个天大的难题，毕竟对于docker不是很熟悉，为此在所谓的技术博客找了一天，不是收费，就是讲不明白。在B站上没有人讲这个基础的东西，对于程序员来讲这个都是很小的事情。自然没人回去讲。今天我就把这个分享个大家，希望对小白同学有帮助。

			
		

	





	

		

			

				
					
本地Open WebUI持续更新，一步搞定

				
			

			

				

					wayaw151的博客
				

				

					02-18
					
					2206
					
				

			

		

		

			
				
安装后，打开网址http://localhost:3000访问 OpenWebUI。

			
		

	





	

		

			

				
					
【AI】【本地部署】OpenWebUI 升级后如何迁移用户信息与历史会话数据

				
			

			

				

					每日出拳老爷子的博客
				

				

					01-28
					
					2242
					
				

			

		

		

			
				
OpenWebUI的版本升级频率很高，并会修改旧版本的Bug，不过对于已经在使用的系统，升级后现有用户信息都会丢失，于是研究如何在升级后将现有的用户信息移植到升级后版本。

			
		

	





	

		

			

				
					
OpenWebUI系列之 如何通过docker自动将其更新到OpenWebUI最新版本

				
			

			

				

					iCloudEnd的博客
				

				

					07-24
					
					2815
					
				

			

		

		

			
				
Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线运行。它支持各种 LLM 运行器，包括 Ollama 和 OpenAI 兼容 API。如何通过docker自动将其更新到OpenWebUI最新版本？

			
		

	





	

		

			

				
					
OpenWebUI自动安装和更新脚本

				
			

			

				

					顾茗轩的博客
				

				

					03-03
					
					853
					
				

			

		

		

			
				
本脚本会自动安装nginx并设置自签名的证书保存在/etc/nginx/ca将RootCA安装到本地计算机以使用https加密。脚本执行完毕后会在/opt/OpenWebUI文件夹下安装OpenWebUI和Pipelines，首次启动需要时间下载文件。再次警告：该脚本未经过完整的测试（我也不会测）只在我的电脑上完整跑通，不代表在所有环境下通用，请谨慎使用。本脚本适用于ubuntu系统,执行需要sudo权限。本脚本使用hf-mirrors作为模型镜像下载源。请仔细阅读该脚本后再使用,建议提前备份重要资料。

			
		

	





	

		

			

				
					
Open WebUI实时更新：WebSocket推送

				
			

			

				

					gitblog_00608的博客
				

				

					09-24
					
					372
					
				

			

		

		

			
				
Open WebUI作为自托管的大型语言模型（LLM）Web界面，其核心用户体验依赖于实时交互能力。传统HTTP请求-响应模式无法满足聊天消息实时推送、模型状态动态更新等需求，而WebSocket（套接字）技术通过在客户端与服务器之间建立持久连接，实现全双工通信，为Open WebUI提供了低延迟、高并发的实时数据传输能力。

WebSocket推送功能主要应用于以下场景：
- 实时聊天消息同步（...

			
		

	





	

		

			

				
					

				
			

			

				

					
				

			

		

		

			
				

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

  
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  





	
打赏作者

	

		

		
			
		
		

		

			
space01

			
你的鼓励将是我创作的最大动力

		

	

	

			

	

	

    ¥1
    ¥2
    ¥4
    ¥6
    ¥10
    ¥20
	

	

		

			

				

					扫码支付：¥1
				

				

					

					
					获取中
					

				

				

					
					
					扫码支付
				

			

		

		

			
您的余额不足，请更换扫码支付或充值

			
打赏作者

		

	



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值