智谱GLM-4和GPT-3.5比较

原创 已于 2024-01-18 19:28:53 修改 · 1k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#chatgpt #ai

于 2024-01-18 19:15:51 首次发布
作者在工作中尝试使用新进的智谱GLM-4进行问题咨询，却发现它在处理问题时出现了系统错误，同时GPT3.5的回答也不尽如人意，展示了技术更新中的问题与期望落差。
部署运行你感兴趣的模型镜像

今天工作中遇到两个问题，想想之前都是用gpt3.5的，昨天刚听说了智谱glm-4，比肩GPT4.那就两个都问问吧。

首先咨询了gpt3.5

glm-4这两天不是比肩gpt4，那么也试试。

一言难尽。

总共问了两个问题，glm-4竟然报了系统错误，另外一个也回答的不尽如人意。

您可能感兴趣的与本文相关的镜像

GPT-oss:20b

GPT-oss:20b

图文对话
Gpt-oss

GPT OSS 是OpenAI 推出的重量级开放模型，面向强推理、智能体任务以及多样化开发场景

chatGLM和chatGPT的技术区别在哪里？
u013250861的博客
07-28 1078
目前 ChatGLM 模型参数量仅62亿，而ChatGPT无论是GPT3.5还是GPT4都是上千亿级规模的参数量。基于目前业界的一些论文表明，在千亿级参数规模以内，模型的参数规模决定了模型能力的上限。综上所述，即使用训练 ChatGPT 同样的数据量给 ChatGLM ，相当于对ChatGLM进行蒸馏训练，讲ChatGPT作为老师，无法完成到达ChatGPT的效果。90%的时间都浪费在预训练，模型训练的精华时间浪费在RLHF阶段。-解码器架构，ChatGPT采用的是仅解码器架构。ChatGLM采用的是。
5. GLM4入门介绍
Andy_shenzl的博客
03-21 5785
也就是说，assistant消息和role消息是一一对应的，而且在一般情况下，assistant消息只会围绕messages参数中的最后一个role信息进行回答。system role用于身份设定不过，值得一提的是，user和assistant的这种提问方式尽管足够清晰，但往往形式上不够丰富，例如在实践中人们发现，给聊天机器人进行一个身份设置，其实是非常有效的引导模型创作我们想要的结果的方法，例如如果我们希望获得一个关于“什么是机器学习？
详解各种LLM系列｜（4）GLM（GPT国内最强开源平替）模型架构、预训练技术详解
weixin_49659123的博客
04-23 1万+
本文就GLM的基础构架和预训练方式，深入浅出地分析GLM为何实现如此出众的效果。
VS2019配置OpenGL(glad + glfw + glm + SDL)
almost_afei的博客
04-06 6152
目录1. 安装Visual Studio20192. OpenGL安装2.1 各种库的区别2.2 安装cmake2.3 配置glfw2.3 配置glad2.4 配置VS3. 测试 1. 安装Visual Studio2019 直接官网安装community版，选择安装以下功能。 2. OpenGL安装 2.1 各种库的区别 glut (OpenGL Utility Toolkit) OpenGL工具库 OpenGL Utility Toolkit。OpenGL的基本库，但是很久不更新了，版本太老，不推荐
大语言模型LLM的原理，bert、GPT、GLM三者的对比
qq_43199049的博客
09-01 8198
大语言模型LLM的原理，bert、GPT、GLM三者的对比
对标ChatGPT生态: 智谱全新大模型 GLM-4 发布
Jay的个人博客
01-16 3289
在大规模多任务语言理解评测中，GLM-4的表现明显优于GPT-3.5，其平均得分已经达到了GPT-4的95%水平，在某些特定任务上甚至表现相当；而在GSM8K数学评测数据集上，GLM-4的评分与GPT-4相比只有4.6%的差异；此外，在MATH数据集上，GLM-4的得分比GPT-3.5高出了15%，虽然相对于GPT-4稍逊9%。在中英文混合评测中，GLM-4在Prompt级别和中文方面的表现均达到了GPT-4的88%。
【人工智能】震撼发布！智谱AI免费开放GLM-4-Flash大模型，引爆AI新时代
万物皆有灵
11-12 1586
智谱AI在2024年8月27日正式发布GLM-4-Flash大模型。这一发布如同一阵强劲旋风，迅速在人工智能领域掀起惊涛骇浪。GLM-4-Flash不仅拥有强大的计算能力和多语言支持，还以其高效运行和多功能性，成为AI技术发展的重要里程碑。智谱AI免费开放GLM-4-Flash大模型，是人工智能领域的一项重大举措，将为技术发展、社会进步和经济繁荣带来深远影响。在这个充满机遇与挑战的时代，开发者和用户应充分利用这一强大工具，激发创新潜力，实现个人梦想和社会价值。
【LLM大模型】用智谱 GLM-4大模型开发自己的 IDEA插件
2401_85963303的博客
07-15 1356
GLM-4模型的API提供了多种功能，包括但不限于文本生成、多模态处理、长文本理解和智能对话等。开发者可以通过API接入GLM-4模型，实现各种智能应用的开发。特点支持长上下文：GLM-4模型支持128K的对话上下文。多模态能力：具备处理文本、图像等多种数据类型的多模态能力。快速推理和并发：支持更快的推理速度和更多的并发请求，降低了推理成本。智能体能力增强：增强了智能体（Agent）的能力，可以更好地理解和执行复杂任务。
基座大模型GLM-4-Plus引领，智谱全模型家族全面上线
AGI_GGbond的博客
10-11 1209
智谱在近期发布的若干更新模型，以基座大模型 GLM-4-Plus 推出为标志。智谱很高兴宣布，全模型家族正式上线bigmodel.cn，包括新基座大模型 GLM-4-Plus，这是智谱迄今为止最强大的模型，成为智谱全模型家族坚实的能力底座。
ChatGLM：大型语言模型家族，从GLM - 130B到GLM - 4所有工具论文解读
heyiqiunet的博客
10-21 1718
GLM - 4系列包括GLM - 4、GLM - 4 - Air和GLM - 4 - 9B，是能力最强的模型，融合了前三代ChatGLM的经验和教训。 预训练在十万亿个主要为中文和英文的标记上进行，主要针对中文和英文进行了校准。 校准流程包括有监督微调（SFT）和从人类反馈中学习（RLHF）。 GLM - 4全工具模型能理解用户意图，自主选择工具（如网络浏览器、Python解释器、文本到图像模型和用户自定义函数）完成复杂任务。
OpenAI ChatGPT 3.5模型和清华开源ChatGLM-6B模型的对比，到底ChatGPT强在哪里（内含几个国内GPT可用途径）
qq_15855921的博客
05-24 3400
我是一名程序员，在游戏行业近10年，AI对游戏开发来说，其实很常见，但是在OpenAI开放ChatGPT之前，AI层次一直都很低，我们需要给AI制定很多限定条件，它才能完成满足我们一点小需求。而现在毫不夸张的说，近乎空前盛况，在AI领域可谓是质的飞跃。以下是我个人的角度，对OpenAI的ChatGPT和清华开源ChatGLM-6B两大模型的粗浅比较，并无任何政见与捧高踩低的意思。另外再附上几个国内可用GPT的途径。
【LLM系列之底座模型对比】LLaMA、Palm、GLM、BLOOM、GPT模型结构对比
yanqianglifei的专栏
05-18 3430
使用 ALiBi 位置嵌入，它根据键和查询的距离直接衰减注意力分数。与原始的 Transformer 和 Rotary 嵌入相比，它可以带来更流畅的训练和更好的下游性能。ALiBi不会在词嵌入中添加位置嵌入；相反，它会使用与其距离成比例的惩罚来偏向查询键的注意力评分。Embedding Layer Norm 在第一个嵌入层之后立即使用，以避免训练不稳定。使用了 25 万个标记的词汇表。使用字节级 BPE。这样，标记化永远不会产生未知标记。
生成 Cypher 能力：GPT3.5 VS ChatGLM
马超的博客
04-28 1779
也是回复了一个看似正确的Cypher但是语法有错误，单独复制粘贴后Cypher无法运行，另外结果中仍然多了一些废话。也是回复了一个看似正确的Cypher但是语法有错误，单独复制粘贴后Cypher无法运行，另外结果中还多了一些废话。回复了一个看似正确的Cypher但是语法有错误，单独复制粘贴后Cypher无法运行，另外结果中还多了一些废话。回复了一个看似正确的Cypher但是语法有错误，单独复制粘贴后Cypher无法运行，但这次好一些废话没有了。都无法生成正确的Cypher，是正确的。
LLM底座模型：LLaMA、Palm、GLM、BLOOM、GPT结构对比
zenRRan的博客
05-19 4867
来自：ChallengeHub进NLP群—>加入NLP交流群1LLama[GPT3] 使用RMSNorm（即Root Mean square Layer Normalization）对输入数据进行标准化，RMSNorm可以参考论文：Root mean square layer normalization。[PaLM]使用激活函数SwiGLU， 该函数可以参考PALM论文：Glu varian...
探索生成式人工智能辅助编程：GPT-4与GLM-4的比较研究
人工智能讲师分享前沿技术
07-18 1094
人工智能咨询培训老师叶梓 转载标明出处生成式人工智能（GenAI）在软件开发领域的应用标志着自动化和创新的新时代。自2022年11月ChatGPT 3.5和2023年3月GPT-4的发布以来，GenAI的基础模型能力和应用领域都取得了显著进步。然而，将GenAI整合到编程实践中并非没有挑战。来自悉尼大学、深兰科技（上海）、中国创造学会和上海交通大学的研究团队通过比较GPT-4和GLM-4，旨在探索利用GenAI作为编程工具的最佳实践。
ChatGLM两代的部署/微调/实现：从基座GLM、ChatGLM的LoRA/P-Tuning微调、6B源码解读到ChatGLM2的微调与实现
热门推荐
结构之法 算法之道
03-31 6万+
随着『GPT4多模态/Microsoft 365 Copilot/Github Copilot X/ChatGPT插件』的推出，绝大部分公司的技术 产品 服务，以及绝大部分人的工作都将被革新一遍类似iPhone的诞生 大家面向iOS编程 有了App Store现在有了ChatGPT插件/GPT应用商店，以后很多公司 很多人面向GPT编程(很快技术人员分两种，一种懂GPT，一种不懂GPT)然ChatGPT/GPT4基本不可能开源了，而通过上文《
【自然语言处理】【大模型】GLM-130B：一个开源双语预训练语言模型
bqw的博客
02-20 8477
​ 大语言模型(LLMs)，特别是参数超过100B的模型呈现出诱人的scaling laws，其会突然涌现出zero-shot和few-shot能力。具有175B参数的GPT-3率先对100B尺度的LLM进行了研究：在各种基准上，使用32个标注示例可以显著超越全监督的BERT-Large模型。然而，GPT-3本身以及如何训练仍然是无法公开获得的。训练出如此规模的高质量LLM，并对每个人分享模型和训练过程非常的有价值。​ 我们的目标是预训练一个开源且高准确率的100B模型。
GLM 论文阅读
qq_38335659的博客
03-18 1058
已经存在各种类型的预训练体系结构，包括自编码模型（例如BERT）、自回归模型（例如GPT）和编码器-解码器模型（例如T5）。然而，没有一个预训练框架在自然语言理解（NLU）、无条件生成和条件生成这三个主要类别的所有任务中表现最好。论文提出了一种基于自回归空白填充的通用语言模型（GLM，General Language Model）来应对这一挑战。GLM通过添加2D位置编码和允许任意顺序预测跨度来改进空白填充预训练，这导致在NLU任务上的性能优于BERT和T5。
ChatGPT共享链接钓鱼攻击新套路：伪装实用指南诱导手动植马
最新发布
blackorbird的博客
12-10 430
这类攻击技术的变种并非首次出现，攻击者此前就曾滥用其他支持域名内内容共享的服务实施攻击，例如 Dropbox 中的恶意文档、Google Docs 中的钓鱼链接、GitHub 与 GitLab 未公开评论中的恶意软件，以及 Google Forms 中的数字货币诈骗陷阱等。这也说明，攻击者并非直接突破了 AI 的安全防线，而是通过操纵对话上下文、优化内容呈现形式，甚至伪造界面等方式，让恶意指令看起来仿佛出自可信的 AI 助手，从而降低受害者的警惕性，最终实现攻击目的。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值