一键本地部署类GPT大模型,大模型部署并没有那么难(附福利大模型书)

ChatGPT作为一种基于大型语言模型的生成式人工智能,不仅仅能够回答传统问题,涵盖了人文、科学、情感等各个领域,它还能够帮助写代码、改bug等。然而,要体验ChatGPT还是比较麻烦的,因为它没有开源。虽然也有其他的开源AI大语言模型,但是部署到本地流程太多,容易给人整不会了。没关系,今天介绍一个开源项目,帮你一键本地免费、无限用AI大模型聊天

Text generation web UI简介

AI绘画界的Stable Diffuison Web UI,相信大家不会陌生,它做到了把非常复杂的AI绘画做成了可视化的网页,极大的提升了AI绘画的体验。而今天介绍的这款叫做Text generation web UI的开源项目,它的目标是成为文本生成领域的Stable Diffuison Web UI,即为类ChatGPT的大语言模型制作一款容易快速上手的网页。

2ddbe5c779184595f0ce3d5cd0627fe9.png

Text generation web UI可以用于运行 LLaMA、llama.cpp、GPT-J、Pythia、OPT 和 GALACTICA 等开源的大型语言模型。

一键安装,免费!

通过以下链接,可以快速访问Text generation web UI:

https://github.com/oobabooga/text-generation-webui

找到“一键安装程序”区域,根据自己操作系统的类型,下载zip文件,将其解压。

f06d5feb3569e0b58a6989965817730e.png

然后双击“start-windows”即可。Web UI 及其所有依赖项将安装在同一文件夹中。

0ed6bc18a08184635704877eaa3fec99.png

自动开始下载依赖环境。

ea5fabcb430f386217456c02ff424376.png

中间会让你选择自己电脑的显卡是什么牌子的,大家按需选择即可。

7f3537969a36a3cf46fc39a9d38a2130.png

等待片刻,下载完成后,还需要下载至少一个开源的大语言模型。进入以下目录中oobabooga_windows\text-generation-webui,在上方地址中输入“cmd”。

8cde02916a0ccf207336f2ae83e8b3a0.png

在打开的命令指示窗口,输入需要下载的模型,比如:

python download-model.py facebook/opt-350m

等待下载完成后,再回到项目目录,点击“start-windows”,即可启动。然后将下方弹窗中的地址,输入到浏览器。

f4379cf881ec04740b4a50acfb56bc14.png

可以愉快地跟你专属的AI大语言模型聊天了感兴趣的朋友,快去试试吧,咱们下期再见

b8d04e52f7df19dbd17c78ac5deca3e1.png

哈喽大家好!最近有粉丝朋友喊我推荐一些大模型的学习书籍,我给大家推荐这么一本书,基于gbt3、gbt4等transform架构的自然语言处理。这是一本对transform工作原理感兴趣的人必读的书籍。亚马逊的评分是九点七分,内行人在睡不着的时候恨不得把全书都背诵完毕。

111.jpg

本书的写作目的是让读者能够掌握神经网络及深度学习的技术的基本原理。全书一共有十五张,作者在理论基础和时间方面都有着卓越的表现,详细的阐述了如何逐步运用全是多么技术。阅读完这本书,你将能熟练的掌握这项前沿的技术,提升你的深度学习应用能力。

朋友们如果需要此本 《大模型黑书》,扫码获取~

👉优快云大礼包🎁:大模型入门最佳《大模型黑书》免费分享(安全链接,放心点击)👈

书中介绍bottle、robter、t5和gpt3等一些流行模型之前,先详细的讲解了全是form的架构,为你的学习打下坚实的基础。本书还展示了如何将全是父母应用于各种场景,如文本摘要、图像标注、问答、情感分析及假新闻分析等。如果你对这些主题感兴趣,这本书绝对值得一读。

我现在讲的这些还是很有限,如果你对大模型感兴趣,那建议你把这本书搅烂。这本书的pdf版本我已经帮你打包好了,在评论区领取。

目录在这:

第1 章 Transformer 模型介绍
第2 章 Transformer 模型架构入门
第3 章 微调BERT 模型
第4 章 从头开始预训练RoBERTa模型
第5 章 使用Transformer 处理下游NLP 任务
第6 章 机器翻译
第7 章 GPT-3
第8 章 文本摘要(以法律和财务文档为例)
第9 章 数据集预处理和词元分析器
第10 章 基于BERT 的语义角色标注
第11 章 使用Transformer 进行问答
第12 章 情绪分析
第13 章 使用Transformer 分析假新闻
第14 章 可解释AI
第15 章 从NLP 到计算机视觉
第16 章 AI 助理
第17 章 ChatGPT 和GPT-4
附录A Transformer 模型术语
附录B Transformer 模型的硬件约束
附录C 使用GPT-2 进行文本补全
附录D 使用自定义数据集训练GPT-2 模型
附录E 练习题答案
参考资料

123.png

124.png

125.png

朋友们如果需要此本 《大模型黑书》,扫码获取~

👉优快云大礼包🎁:大模型入门最佳《大模型黑书》免费分享(安全链接,放心点击)👈

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值