玩转 GPT4All

已于 2023-06-07 12:44:46 修改
阅读量7.8k 收藏 30
点赞数 7
文章标签： 人工智能 深度学习 ai
于 2023-06-07 12:42:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/lly576403061/article/details/131085166
版权
文章介绍了ChatGPT，一个由OpenAI开发的大型语言模型，以及GPT4All，NomicAI公司的开源聊天机器人项目。GPT4All基于LLaMA微调，可在CPU上运行，提供了一种离线使用类似ChatGPT功能的方法。文章详细阐述了从下载模型到配置UI的七步骤操作过程。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

什么是Chatgpt

什么是gpt4all

如何使用

第一步：下载LLM模型

第二步：下载代码

第三步：将模型替换到

第四步：执行启动命令

第五步：生成自己的客户端

第六步：启动

第七步：配置UI

什么是Chatgpt

        ChatGPT是一个由OpenAI开发的大型语言模型。其基于GPT-4架构（Generative Pretrained Transformer 4）进行训练，目的是理解和生成人类语言。它可以回答问题、撰写文章、翻译语言、编写代码等。

ChatGPT在训练过程中，学习了大量的文本数据，其中包括了书籍、网站和其他类型的文本。然而，它并没有直接访问互联网，因此不能获取实时信息，也不能存储与个人相关的任何信息。

什么是gpt4all

        GPT4All是Nomic AI公司开源的一个类似ChatGPT的模型，它是基于MetaAI开源的LLaMA微调得到的其最大的特点是开源，并且其4-bit量化版本可以在CPU上运行！gpt4all是在大量干净数据上训练的一个开源聊天机器人的生态系统。它不用科学上网！甚至可以不联网！本地就能用。接下来咱们就是实战一下如何体验gpt4all。支持的系统包括Mac/OSX、Windows、Ubuntu市面上常用的所有操作系统。

        GPT4All模型是一个3GB - 8GB的文件，您可以下载并插入GPT4All开源生态系统软件。特别强调是GPT4All是遵循非商业化协议，所以不能用于商业用途。

如何使用

第一步：下载LLM模型

        浏览器打开这个地址: https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin, 下载模型文件，文件大小是3.92GB。这个模型下载需要科学上网，我这边下载好了大语言模型，因为优快云上直接粘贴网盘地址审核不通过，所以需要的同学可以私信或者留言我发你。

第二步：下载代码

第三步：将模型替换到

        将gpt4all-lora-quantized.bin放进gpt4all-main下的chat文件夹，注意项目路径为：“gpt/gpt4all-main/gpt4all-training/chat”。

第四步：执行启动命令

        在当前目录下执行启动命令，我的电脑是mac，Intel 我使用的最后一个命令。但是我的电脑操作系统版本太低，报错。如下图，要解决这个case有两种方式，一个是升级我电脑系统，需要升级到13版本。 一个是重新生成一个新的客户端。我采用的是后一种方式。

  • M1 Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-m1
  • Linux: cd chat;./gpt4all-lora-quantized-linux-x86W
  • indows (PowerShell): cd chat;./gpt4all-lora-quantized-win64.exe
  • Intel Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-intel

第五步：生成自己的客户端

        如果不想升级电脑的操作系统（也有可能是无奈之举电脑太旧不适合升级）就自定义客户端吧。采用如下命令就可以生成适合自己的客户端。

git clone https://github.com/zanussbaum/gpt4all.cpp
cd gpt4all.cpp
make chat
cp chat ../gpt4all/chat/gpt4all-lora-quantized-OSX-intel-old

第六步：启动

        采用如下命令就可以启动了“./gpt4all-lora-quantized-OSX-intel-old*”，奈何本人电脑确实配置太低，直接卡死。就不做演示截图了，感兴趣的同学可以自己尝试练习。

第七步：配置UI

        如果你觉得使用终端不舒服可以配合UI尝试。网页打开gpt4all点io 下载安装包。打开安装包点击这个”绿U盘“打开安装程序，选择安装路径安装。（”此组件大约占用您硬盘驱动器3.95GB的空间“）安装之后在你的安装路径下，有一个叫GPT4ALL的文件夹，在里面找到bin 文件夹，打开里面的chat.app,就能用UI交互啦！

https://github.com/nomic-ai/gpt4all 

https://github.com/nomic-ai/gpt4all/issues/70 

LLM-GPT系列：GPT-1（201806）【1.17亿、5GB】、GPT-2（201902）【15亿、40GB】、GPT-3（202005）【1750亿、45TB】【OpenAI】
u013250861的博客
02-24 1469
GPT1：Imporoving Language Understanding By Generative Pre-trainingGPT2：Lanuage Models Are Unsupervised Multitask LearnersGPT3：Language Models Are Few-shot LearnersGitHub：https://github.com/openai/gpt-3从GPT三个版本的论文名也能看出各版本模型的重点：ChatGPT一夜走红，它会成为下一代搜索引擎吗？[转] GP
【第 2 节】轻松玩转书生·浦语大模型趣味 Demo
熊猫小妖的AI世界
04-17 1477
1.2.1 什么是大模型？大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。这些模型利用大量数据进行训练，并且拥有数十亿甚至数千亿个参数。大模型的出现和发展得益于增长的数据量、计算能力的提升以及算法优化等因素。这些模型在各种任务中展现出惊人的性能，比如自然语言处理、计算机视觉、语音识别等。这种模型通常采用深度神经网络结构，如 Transformer、BERT、GPT（ Generative Pre-trained Transformer ）等。
GPT4ALL【部署 01】GPT4ALL模型调用测试（Linux环境+Python代码）_gpt4all python
2401_84715732的博客
05-07 660
【代码】GPT4ALL【部署 01】GPT4ALL模型调用测试（Linux环境+Python代码）_gpt4all python。
LLMs之GPT4ALL：GPT4ALL的简介、安装和使用方法、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
05-08 3421
​ LLMs之GPT4ALL：GPT4ALL的简介、安装和使用方法、案例应用之详细攻略 目录 GPT4ALL的简介 GPT4ALL的安装和使用方法 GPT4ALL的案例应用 GPT4ALL的简介 GPT4ALL是一个运行强大自定义大语言模型的生态系统，能够在CPU和NVDIA以及AMD GPU上本地运行。它允许任何个人或企业轻松部署自己的边缘大规模语言模型。 GPT4All是一款面向隐私的软件，用于与在您自己的计算机上运行的大型语言模型进行聊天。 GPT4All 模型是一个
llm-gpt4all：为LLM插件带来GPT4All模型的强大支持
最新发布
gitblog_00810的博客
03-28 617
llm-gpt4all：为LLM插件带来GPT4All模型的强大支持 llm-gpt4all Plugin for LLM adding support for the GPT4All collection of models 项...
GPT4All安装教程 一个能本地运行的GPT4！
热门推荐
mc_dudu233的博客
08-07 1万+
GPT4All是能够在你的笔记本或者台式计算机运行的大型语言模型（LLMs）。它并不强制需要GPU，CPU也能流畅的运行该语言模型。
GPT-4 All 免费开源,本地部署，可离线使用,多模型大型语言！！
2302_78971896的博客
12-28 9033
GPT-4 All 免费开源！本地部署，无需GPU、可离线使用！搭建私人专属的 LLM 大语言模型聊天机器人！！
GPT4All 一个开源 ChatGPT
04-04 7152
开源项目和社区努力在实施技术和加速创意方面非常强大。GPT4All 就是一个显着的体现。从根本上说，这为闭源模型的业务方面提供了一个有趣的视角。如果提供 AI 作为服务，那么需要多长时间才能让爱好者对 AI 进行足够长的探索以能够模仿它？对于 GPT4All 的案例，论文中有一个有趣的注释：花了四天的时间，GPU 成本800美元，OpenAI API 调用500美元，这具有足够的吸引力。
GPT-SoVITS语音克隆入门
qq_40773212的博客
07-17 765
主要参考资料：GPT-SoVITS: 智能语音合成的新境界:你的声音，现在是我的了！- 手把手教你用 GPT-SoVITS 克隆声音！
玩转 LangChain：从文档加载到高效问答系统构建的全程实战
吴师兄大模型的博客
01-21 4294
在人工智能技术快速发展的背景下，大语言模型（LLM）的应用场景越来越广泛，例如自动化文本生成、智能问答系统、知识提取等。然而，如何高效地与这些大模型交互，成为开发者面临的一大挑战。LangChain正是为解决这一问题而生的。LangChain 是一个开源框架，旨在帮助开发者更便捷地与大语言模型（如 OpenAI 的 GPT 系列、阿里云通义千问 Qwen）进行交互。
7.10 单卡24G玩转百亿大模型！Hugging Face隐藏的PEFT核武器全解析
yonggeit的博客
03-10 212
看着屏幕上第N次爆显存的报错提示，某大厂AI工程师老王狠狠薅了一把头发。这个月已经第三次因为微调15B参数模型导致训练集群崩溃，CTO看他的眼神都带着杀气。直到他在GitHub偶然点开一个标星2.3k的项目，才发现自己过去半年都在用石器时代的方法调参——原来Hugging Face早给全行业准备好了微调核弹头：PEFT库。
如何用 GPT-4 全模式（All Tools）帮你高效学习和工作？
玉树芝兰
11-04 4308
「十项全能」的 ChatGPT ，用起来感受如何？之前，作为 ChatGPT Plus 用户，如果你集齐下面这五个模式，就会成为别人羡慕的对象。但现在，人们更加期盼的，是下面这个提示的出现：这个提示，意味着你的 GPT-4 已经不再是「一专」（只能使用某一模式），而是「多能」（根据需要自动调用不同模式的功能）。例如你可以让 ChatGPT 看到一幅图（原本的基础模式），然后让它自动理解总结图片的内...
GPT4ALL【部署 01】GPT4ALL模型调用测试（Linux环境+Python代码）
Java与大数据相关实践内容分享！
03-11 2152
GPT4ALL模型调用测试（Linux环境+Python代码）
GPT4All:免费使用本地运行无需GPU的基于C++的GPT模型和UI: A free-to-use, locally running, privacy-aware chatbot. No GPU
AI天才研究院
06-22 8796
它允许您利用强大的本地 LLM 与私人数据聊天，而无需任何数据离开您的计算机或服务器。出于索引速度的目的，LocalDocs 在决定您的 LLM 应该使用哪些文档块作为上下文时使用预深度学习 n-gram 和基于 TF-IDF 的检索。您会发现它的质量与基于嵌入的检索方法相当，但摄取数据的速度要快得多。如果您的 LLM 回复中使用了 LocalDocs，您将看到对 LocalDocs 使用的文档片段的引用。
GPT4All的简单使用
m0_63251896的博客
04-02 2012
记住这里好像只能接受gguf格式的文件。接下来就是下载model，在这里面下载或者去浏览器里面下载。然后在gpt4all里面创建一个文件夹models。注意这个玩意跑CPU的，就单单为就兼容。然后启动gpt4all，修改一下目录。改成我们那个models的目录即可。下载好了直接移到models目录即可。首先从官网上下载GPT4All软件。接下来就是测试，选择模型，开始测试。在浏览器里面下载就要去它的官网。下载后，记得改一下安装目录。
GPT4All : 便捷易用的本地智能问答推理软件
ResumeProject的博客
12-29 1283
目前支持三种不同的模型体系结构：GPT-J 架构， LLAMA 架构，基于 Mosaic ML 的 MPT 架构的模型。由于 Georgi Gerganov 编写的 ggml 库和各开源社区不断增长的开发人员的支持模型可用于 CPU 推理。
GPT4ALL使用分享指南
weixin_51525416的博客
10-21 399
GPT 4All模型是一个3GB -8 GB的文件，您可以下载并插入GPT 4All开源生态系统软件。Nomic AI支持和维护这个软件生态系统，以提高质量和安全性，同时带头努力让任何人或企业都能轻松地训练和部署自己的边缘大型语言模型。根据模型的大小和各位电脑自身实际配置和需求进行对应下载。模型加载完成后即可愉快的使用了。#1024程序员节 | 征文#下载完成后我们打开页面是这样的。之后我们就出现了模型下载页面。
GPT4ALL：终极开源大语言模型解决方案
weixin_39915649的博客
07-13 891
终极开源大型语言模型生态系统GPT4ALL，可以在使用最先进的开源大型语言模型时提供所需一切的支持。
GPT4All：笔记本就能玩的ChatGPT平替，附完整版技术报告
AI天才研究院
07-02 4005
GPT4All 是基于大量干净的助手数据（包括代码、故事和对话）训练而成的聊天机器人，数据包括～800k 条 GPT-3.5-Turbo 生成数据，基于 LLaMa 完成，M1 Mac、Windows 等环境都能运行。或许就像它的名字所暗示的那样，人人都能用上个人 GPT 的时代已经来了。
chat gpt python
08-30
要在Python中使用ChatGPT，您可以通过调用OpenAI API来实现与ChatGPT的交互。首先，您需要安装OpenAI API客户端并获取API密钥。然后，您可以使用以下代码示例来与ChatGPT进行交互： ```python import openai # 设置API密钥 openai.api_key = "your_api_key" # 设置请求参数 model_engine = "text-davinci-002" prompt = "如何用Python玩转ChatGPT" completions = openai.Completion.create( engine=model_engine, prompt=prompt, max_tokens=1024, n=1, stop=None, temperature=0.5, ) # 获取ChatGPT的回复 message = completions.choices<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [如何用Python玩转ChatGPT？看这篇就够了](https://blog.youkuaiyun.com/m0_66958971/article/details/130294122)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [快速集成ChatGPT，请收藏好这份入门指南（Python版）](https://blog.youkuaiyun.com/Ed7zgeE9X/article/details/129053077)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论 59
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值