OpenAI 大神亲授,人人都能看懂的大模型入门教程(二)

OpenAI 使用教程:从入门到实战 通过本教程,您已掌握 OpenAI 的核心功能与使用方法。建议从简单任务(如文本生成)入手,逐步探索高级功能(如多轮对话、图像生成),并结合实际需求优化调用参数与成本控制。 阅读详情

二、LLM 的未来

书接上回,接下来要讨论的是大模型是如何逐步进化的,以及目前的进展情况。

更高更快更强 - 规模化定律

首先要提到的是关于大模型效果的规模化定律(scaling law),简单说就是大模型在预估下一个词这一任务上的效果只跟两个因子相关,并且与这两个因子存在着某种函数关系,这两个因子就是模型参数量和训练数据量。只要知道了这两个因子,就可以比较置信地预估出模型在预估下一个词这个任务上的效果。

就当前来讲,这一准则还没有显现出到顶的迹象,所以在更多的数据上训练更大的模型,仍然大概率会得到更好的模型(就预估下一个词这个任务而言)。所以模型、算法本身的进步显得并不是那么必要,只要有更好的计算机,更多的数据,更大的模型,训练更长的时间,就可以“毫不费力” 的获得一个更好的模型。虽然在实践中,预估下一个词的准确性通常不是优先考虑的指标,但是从经验上看这一任务和许多我们关心的任务都有一定的关联性。

这就是目前为什么计算资源显得尤其重要的原因,因为计算资源保证了可以使用更多的数据来训练更大的模型,从而取得更好的效果。每个人都在争取更大的 GPU 集群和更多的数据,因为这些目前来看几乎保证了可以得到一个效果优异的模型。模型结构和算法上的进步也有很多人在投入其中,也取得了一些不错的成果,但从根本上来讲,规模化是提供了一条保证成功的道路。(因此前两天英伟达超越微软成为美股第一市值的公司,也算是时代造就英雄的典型了)

个人认为规模化定律这一发现具有非凡的意义,不仅在于提供了一种获取更好模型的”捷径“,更是在于如果将神经网络类比成人脑,目前大模型的参数量已经可以与人脑神经元比肩,并且在一些场景下也展现了非凡的能力。规模化定律也是指引了一条通向超越人类智能的一个方向。

向智人进化 - 学会使用工具

接下来是通过一个例子来演示一下语言模型的特性,以及它们是如何随着时间的推移而演进的。现在对 chatGPT 输入如下信息:

收集关于 scale.ai 的相关信息,包括创立时间、规模、融资轮次和估值,将这些信息通过表格组织起来。

​ 在微调阶段,chatGPT 已经见过了很多类似的问题,因此它可以理解这个问题的具体需求。这类问题不能通过传统的语言模型(生成一个一个的字,从而组成一句话的形式)来解决,因为涉及到一些事实类的信息,需要依赖一些工具。首先一个工具是浏览器,就像我们遇到这类问题会首先想到去网上搜索一样。chatGPT 理解这个问题,然后转向搜索引擎,搜索引擎会将搜索结果文本给回 chatGPT,chatGPT 就可以根据搜索结果生成如下的回复。

图片

chatGPT 将每一轮的融资和估值情况按照我们的需求列成了表格,并且每一轮的信息都给了引用的链接,表示这部分信息是从哪里获取的。最后一行那里写了【抱歉无法提供 A 轮和 B 轮的估值情况】,说明 chatGPT 从搜索引擎没有找到对应的信息,所以上面表格右下角那里写了【Not Available】。

因为可以观察到 C/D/E 轮的估值和融资之间大概存在着某种比例关系,所以可以让 chatGPT 大概猜测一下 A/B 轮的融资和估值。于是继续问:

根据 C、D、E 轮的融资/估值的比例关系,大概猜一下A轮和B轮的估值。

如果是人遇到这个问题,我们可能不会心算这个比例,因为心算这个数值的除法还是有点难的。同样这个运算对于 chatGPT 来讲也是有点难的,所以 chatGPT 也学会了使用计算器。计算器也是它可以使用的一项工具,于是就很容易推算出了如下结果。

图片

chatGPT 推算出了 A 轮和 B 轮的估值分别是 7000 万和 2.83 亿,对不对无所谓,反正是猜的。现在我想让这些数据以图表的形式呈现给我,于是提出如下要求:

请将这些数据组织成2维图表的形式。x 轴代表日期,y 轴代表 scale.ai 的估值,其中 y 轴的值进行对数缩放。搞一个好看又专业的图标给我,并且图标里要带网格线。

这里 chatGPT 再次使用工具,调用了 python 的 matplotlib 库来绘制出了下面这个二维图表:

图片

更进一步,我们可以要求模型对公司估值趋势进行预估:

基于上面的图表,请画出一条趋势线,一直延伸到 2025 年底。然后画一条代表今天这个时间的垂直线,根据绘制的趋势线,告诉我今天 scale.ai 的估值是多少。

然后我们就得到了下面这个回复:

图片

scale.ai 在今天的估值是 1500 亿美元,到了 2025 年底将会成长为近 2 万亿美元市值的公司。

可以使用工具是使大模型变得更加强大的关键因素,现在的大模型不只是一个逐步生成文字的工具,它会将现存的一些计算基础设施都绑定在一起,并与文字交织在一起,产生一段有意义的回复。

上面展示的工具包括了进行数据分析、调用代码库、使用搜索引擎等,根据上面的信息,我现在希望 chatGPT 可以生成一幅描述 scale.ai 这个公司的图像。因为大模型可以记住上面我们询问的内容(context window),它已经对 scale.ai 这个公司有了不少的了解,再加上它本身可能记住了 scale.ai 的一些信息,并且还可以查询互联网,这时,它就可以调用另一个工具 DALL-E 来绘制图像了。

在这里插入图片描述

上面展示了 chatGPT 对工具的使用,这也和人类解决问题的思路非常相近。我们面临问题的时候并不会仅仅在我们脑海里解决问题,我们也会使用大量的工具,这一操作对大模型来讲也是如此,也越来越成为模型发展的一个方向。

多听多看多说 - 多模态融合(视觉、音频)

上面展示了 chatGPT 生成图像的能力(虽然这些图像只是调用工具的产物),其实,chatGPT 不仅可以生成图像,还可以看到图像。在 openAI 创始人之一 Greg Brockman 的一次著名展示中,他向 chatGPT 展示了一张自己用铅笔勾画出来的 MyJoke 网站的图片,chatGPT 便根据这张图片编写出了该网站的功能代码,包括 HTML 和 JavaScript 代码,你可以访问这个网站,然后看到一则小笑话。

​ 多模态除了可以融合文本和图像之外,还涉及音频等,所以现在 chatGPT 既可以听也可以说。这种模式类似于我们面对一个对话界面,而无需输入任何文字,就像是 chatGPT 在和用户直接进行对话,你可以说任何事情,chatGPT 会通过语音给你回复。这种技术目前已经应用在了很多场景,比如音像、车载语音等,不过以前只是在某些领域的某些问题上可以语音交互,而大模型极大了拓宽了可交流的范围。

转变思维模式 - 系统一与系统二

这里需要引入《思考,快与慢》一书中系统一与系统二两种思维模式。这两种模式描述了两种不同的思维方式。系统一描述快速、直觉和自动的思维过程,比如问你 2 ✖️ 2 等于多少,我们不需要任何犹豫或计算可以立马知道等于 4,因为这个信息是即时可用的,是已经被放到缓存里的。但如果问你 17 ✖️ 24 等于多少,恐怕没有多少人可以立马给出答案,这时需要动用大脑中缓慢、理性的部分,执行若干计算和决策,最终得出答案。

再比如下国际象棋,在快速局中,没有时间进行完整的思考,更多是依靠直觉移动棋子,这时更多是使用系统一。在正式竞技对局中,有更多的时间去思考各种可能,这是一个需要人有意识去完成的事情,这就是系统二的工作方式。

目前大模型表现出来的更多是系统一的能力。它们更多是本能的进行响应,不断的生成一个个的单词,无法像人类一样进行深入思考和推理。所以现在许多人受到启发,开始研究如何赋予大模型系统二的能力。

直观上我们可以拿时间换精度,比如告诉 chatGPT 说你可以不用立刻回答我的问题,给你 30 分钟去思考答案。当然现在的模型还不具备这个能力,这也是许多人正在努力实现的目标。我们希望模型能够构建思考树,每个树枝体现不同的可能性,这样模型可以不断的反思和重构问题,从而得到更准确的答案。这是一个研究方向,现在还做不到。

扔掉教科书 - 模型的自驱成长

AlphaGo 是模型自驱成长的一个典型例子。AlphaGo 的产生经历了两个阶段,第一个阶段是不断学习人类专家的围棋对局,通过不断模仿人类的下棋方式来提升棋艺,这一阶段很有效,但最高也不会超过人类专家水平,因此这一阶段的 AlphaGo 还下不赢人类中的顶尖高手,第二阶段通过自我完善的方式,以赢得比赛作为奖励,让模型不断进化,从而超越了人类的水平。

在围棋这种封闭的场景下,模型的自驱成长是有可能的,这里可以非常容易的设置奖励机制,即赢得比赛,通过赢或者输来获取正向或负向的反馈,通过完成百万级别的对局来实现模型的自我成长。在语言模型这种开放场景下,我们只完成了第一阶段,就是教会模型如何模仿人类回答问题。

在语言模型这种开放场景下的第二阶段应该是什么样子呢?首先一个问题就是如何设置奖励机制。因为面临更广泛的场景,每个场景都有不同的问题,很难设置一个单一的简单的奖惩机制来衡量所有场景中回复的好与坏,这种开放场景下如何进行模型的自驱成长仍然是未解之谜。

各取所需 - 大语言模型超市

在我们工作生活场景中会面临非常多的任务类型,我们希望能对大语言模型进行定制,让它们成为各个领域特定任务的专家。Sam Altman 宣布成立 GPT 应用商店,这也是 OpenAI 提供定制化能力的一步。

我们可以创建自己定制的 GPT 模型,目前定制能力还只包括提供一段任务描述的指令来定制 GPT,或者通过上传一个文件,文件里可能包含特定任务的专有知识,模型在回答的时候会参考这个文件中的内容,就像 chatGPT 使用搜索引擎一样使用这个文件。

未来可能会提供对模型微调或者其他更多的定制化能力,最终希望能基于一个基础模型,通过定制化能力来应对各种各样的场景。

不只是聊天机器人 - 大语言模型操作系统

大语言模型不会是一个聊天机器人,更准确的描述应该是一个新型操作系统的内核进程,有一个中央处理器,一些存储单元,同时协调各种各样的工具来解决问题。

在未来的几年,大语言模型可能按照如下的趋势来发展。它们可以阅读和生成文本,在所有领域都拥有比人类更丰富的知识储备,还可以访问互联网或者本地文件来辅助生成内容。它们可以利用现有软件基础架构,比如 python 库、计算器等,它们具备查看和生成图像和视频的能力,它们可以听见,可以说话,可以创作音乐,它们能够学会系统二进行深入思考,能够自驱成长,能够根据特定任务进行定制和细微调整等等。

下图可以看到这个新型的操作系统,和当前的操作系统存在很多相似之处。

图片

​ 首先这个内存结构是等效的。可以访问本地文件(磁盘)或互联网,这个上下文窗口类似于内存,可以记住我们最近的对话内容,而模型使用这些内容来预估下一个词,这个资源明显更加宝贵,就像内存资源比硬盘资源更宝贵一样。其他的比如多进程、多线程、任务调度执行等,也有非常多的联系。

另外这个新型操作系统和当前操作系统在生态上也非常类似。在当前操作系统的生态中,有一些专有的操作系统,比如 windows 和 mac os,另外还有一大批基于 linux 的开源操作系统。同样在新型操作系统里,也有一些专有的操作系统,比如 GPT 系列、Claude 系列以及 BARD 系列,同时也有一个快速兴起并逐渐成熟的开源大语言模型生态系统,比如 Llama 系列。

图片

新型操作系统以大语言模型为根基,组织用于解决问题的各种工具,并通过自然语言接口进行访问,这和当前操作系统的架构也是类似的。

三、LLM 安全性

待续

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
复制粘贴就能用!OpenAI程序员亲授9行提示词,让AI自动消灭你的重复劳动 重复做同一件事,是打工人的日常,也是 AI 最看不下去的事。OpenAI Codex 团队成员亲授了一个「自我蒸馏」玩法:把一段提示词复制粘贴进去,AI 自己翻你过去 30 天的工作记录,把重复流程打包成能复用的工具。今天这篇,你直接抄。 阅读详情

相关推荐

新手必看:CiscoPacket Tracer从零搭建局域网(含ARP协议详解)

本文为网络新手提供了一份使用Cisco Packet Tracer从零搭建局域网的详细指南。通过构建基础网络拓扑、配置IP地址,并深入剖析ARP协议的工作原理,帮助读者理解IP地址与MAC地址的映射关系,掌握局域网通信的核心机制。

weixin_29275257的博客 204

OpenAI入门

现在您已经找到了一个好的提示和设置,您已经准备好构建您的爱称生成器了!在底部,您将看到生成我们在上面使用的提示的函数。您可能已经注意到,如果您在上面的示例中多次提交相同的提示,模型将始终返回相同或非常相似的完成。如您所见,在我们的提示中添加一个简单的形容词会改变生成的完成。对于更高级的任务,您可能会发现自己希望能够提供更多的示例或上下文,而不是单个提示中的内容。您可以将其视为非常高级的自动完成——模型处理您的文本提示并尝试预测接下来最有可能出现的内容。制定好的说明对于获得好的结果很重要,但有时它们还不够。

2253

硬件-汽车电子-TBOX/TCAM核心器件选型与系统集成设计指南

本文深入解析汽车电子TBOX/TCAM硬件架构与系统集成设计,涵盖核心器件选型、电源管理、信号完整性优化等关键点。重点分享5G模组选型避坑经验、MCU隐性指标及热设计验证方案,为车载通信系统开发提供实用指南。

weixin_30352645的博客 531

回顾 | OpenAI 入门(一)- OpenAI 基础

点击蓝字关注我们编辑:Alan Wang排版:Rani Sun微软 Reactor 为帮助广开发者,技术爱好者,更好的学习 .NET Core, C#, Python,数据科学,机器学习,AI,区块链, IoT 等技术,将每周三到周六,组织 3~5 场线上分享活动。欢迎跟着我们一起来学习。近来,随着 ChatGPT 的风靡,人工智能再次在全球掀起浪潮。与此同时,其背后的 OpenAI 及其 GP...

MicrosoftReactor的博客 1775

Cherry Studio部署MCP服务报错全记录:从零解决‘Connection closed‘问题

本文详细记录了在Cherry Studio中部署MCP服务时遇到‘Connection closed’报错的完整排查与解决过程。文章从环境依赖(UV、Bun)的安装验证、绝对路径配置、网络镜像源设置,到服务端手动调试与Cherry Studio配置检查,提供了一套系统性的解决方案,帮助开发者彻底解决此类连接问题。

g9h0i1的博客 764

《拉依达的嵌入式\驱动面试宝典》—C/CPP基础篇(二)

《拉依达的嵌入式\驱动面试宝典》 整合了所有我认为可能遇到的技术面试问题。所有问题及其答案均是我个人学习后查阅资料总结,每个回答都做了仔细的分析,在嵌入式及其驱动面试相关问题解析做到全网独一无二。学习或者转行到嵌入式、驱动开发领域学习的不二之选

拉依达不拉跨的博客 578

入门OpenAI API-拒绝被收割韭菜,保姆级别教程,自己动手!

入门OpenAI API-拒绝被收割韭菜,保姆级别教程,自己动手!

Python单行客的博客 6695

【OpenClaw从入门到精通】第11篇:OpenClaw 2026多模态实战全攻略:OCR/语音/图像自动化(附完整代码+双部署方案)

本文聚焦OpenClaw 2026版核心升级的多模态能力,从底层架构原理到实操落地全流程拆解。先解析“统一指令解析+多工具适配器”的核心设计逻辑,再提供阿里云规模化部署(适合批量任务)与本地汉化版部署(适合隐私数据调试)的详细步骤,含依赖安装、配置验证完整操作;随后落地三大高频实战场景——OCR合同信息结构化提取、会议录音自动转写纪要、电商商品图片智能打标,每个场景均提供可直接运行的完整代码、执行结果演示及流程说明;最后补充多模态任务避坑指南、性能优化技巧与成本控制方案。

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 2611

了解和学习OpenAI的方法和途径

OpenAI 的一些项目和代码都托管在 GitHub 上,你可以通过访问他们的 GitHub 页面来获取相关代码和项目资料。OpenAI 的研究人员经常参加各种学术会议和研讨会,这些会议是了解他们最新研究成果和交流学术观点的重要机会。OpenAI 的博客文章通常涵盖他们的最新研究成果、项目进展、技术讨论等内容。学习和了解 OpenAI 的资料可以从多个渠道获取,这些渠道涵盖了各种形式的学习资源。通过以上渠道,你可以全面了解 OpenAI 的工作、研究成果和最新动态,以及学习与之相关的人工智能技术和理论。

DL_62532的专栏 862

3分钟学会SQL中的断点去重技术,轻松搞定连续重复数据去重问题?

传感器采集的温度数据中,存在连续重复的值,需仅在数值变化时保留记录(例如:温度从 25°C 变为 26°C 时记录一次)。:判断逻辑,current_value!若当前温度与前一行的温度不同(或为第一条记录),则保留该行。的技术,常用于时间序列或状态日志中。:将连续相同值的记录合并,只保留断点处的记录。保留断点处的记录(即温度变化时的第一条)。原始数据表 sensor_data。最终仅保留值变化的断点记录。获取前一行的温度值。

石榴姐yyds 1019

2023年高教社杯 | 2023年高教社杯全国大学生数学建模思路(A题思路、C题思路)

2023年高教社杯 | 2023年高教社杯全国大学生数学建模思路(A题思路、C题思路)

前程算法屋的博客 624

OpenAI 大神亲授,人人都能看懂的大模型入门教程(三)

大模型安全领域是一个非常新且发展迅速的领域,文中介绍的三种攻击方式仅是冰山一角,还有许多其他的攻击方式,如下图。这也是大模型里非常值得研究的领域。

Everly_的博客 1561

C#构建高精度预测模型:从数据预处理到模型部署的实战指南

【代码】C#构建高精度预测模型:从数据预处理到模型部署的实战指南。

墨夶的博客 1263

OpenAI 大神亲授,人人都能看懂的大模型入门教程

​ 这是来自 AI 界世界级导师,OpenAI top 级人物 Andrey Karpathy 的大语言模型入门讲座,讲座主题是 The busy person’s intro to LLMs,可以说这就是能看到的最好的大模型入门教程了,老少咸宜,业内工作者可以看到大模型里涉及到的各个可以深挖的方向,对于感兴趣的业外人士,讲座内容也非常浅显易懂且全面。讲座的原始视频发表在其 youtobe 的个人账号里:https://www.youtube.com/watch?

Everly_的博客 1092

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

OpenAI 大神亲授,人人都能看懂的大模型入门教程(一)

OpenAI 大神亲授,人人都能看懂的大模型入门教程(一)

瓦罗兰特顶级C位的博客 793

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

二、OpenAI开发者快速入门

启动并运行OpenAI APIOpenAI API 为开发者提供一个简单的接口,使其能够在他们的应用中创建一个智能层,由OpenAI最先进的模型提供支持。聊天补全端点为ChatGPT提示支持,一种简单的方法是:输入文本,使用GPT-4模型输出。本入门教程将帮助你安装本地的开发环境,并发送第一个API请求。如果你是一个经验丰富的开发者或想深入的使用OpenAI API,GPT指南的API参考手册对你将有很大帮助。

挑大梁的专栏 1680

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

上一篇: OpenAI 大神亲授,人人都能看懂的大模型入门教程
下一篇: OpenAI 大神亲授,人人都能看懂的大模型入门教程(三)
我爱学大模型
博客等级 码龄3年 7883粉丝 687原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值