ChatGPT对话为什么不用WebSocket而使用EventSource?

Anaconda启动失败,一直在loading application的问题 实战基础新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本 阅读详情

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料: 

f1f8f9934cfaae99f37f7af9b61af110.gif

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目,前端包括管理后台 + 微信小程序,后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号、CRM 等等功能:

  • Boot 仓库:https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • Cloud 仓库:https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程:https://doc.iocoder.cn

【国内首批】支持 JDK 21 + SpringBoot 3.2.2、JDK 8 + Spring Boot 2.7.18 双版本 

来源:ithan.blog.youkuaiyun.com/
article/details/135012848


1. 引言

在构建基于浏览器的实时对话系统时,开发者通常会选择使用WebSocket作为实现实时通信的协议。然而,有些场景下,使用EventSource作为替代方案也是一个值得考虑的选择。

“

本文将深入探讨为什么ChatGPT对话系统选择使用EventSource而非WebSocket,并通过代码示例和详细解释,帮助读者理解这一决策的原因。

9809ed8edab1db33454504766f47d04e.png

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

2. WebSocket和EventSource简介

2.1 WebSocket

WebSocket是一种在单个TCP连接上进行全双工通信的协议,它允许在客户端和服务器之间进行实时的双向数据传输。WebSocket通过一个持久的连接,使得服务器能够主动向客户端推送数据,而不需要客户端发起请求。

2.2 EventSource

EventSource是HTML5引入的一种轻量级的、基于文本的协议,用于从服务器推送事件。与WebSocket不同,EventSource建立在HTTP协议之上,使用了单向的服务器推送。它允许服务器发送事件到客户端,但客户端只能接收而不能发送。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

3. ChatGPT对话系统的特点

ChatGPT对话系统作为一个浏览器端的实时对话应用,具有以下特点:

  • 单向通信: ChatGPT对话系统是用户向模型发送消息,模型回复消息的单向通信模式。

  • 长轮询: 对于模型的回复,ChatGPT通常使用长轮询等待模型的响应。

4. EventSource的优势

4.1 简单易用

EventSource相对于WebSocket而言更为简单易用。它建立在HTTP协议之上,无需进行握手等复杂的初始化过程。在浏览器端,使用EventSource只需要创建一个EventSource对象并指定服务器的URL即可。

4.2 容错性强

EventSource具有良好的容错性。当连接断开时,它会自动尝试重新连接,而不需要开发者手动处理重新连接的逻辑。这使得在不稳定的网络环境中,EventSource更为可靠。

4.3 兼容性良好

相对于WebSocket,EventSource在浏览器的兼容性方面更有优势。绝大多数现代浏览器都原生支持EventSource,而WebSocket则需要额外的处理以兼容一些旧版本的浏览器。

5. 为何选择EventSource而非WebSocket?

ChatGPT对话系统之所以选择EventSource而非WebSocket,主要是基于以下考虑:

5.1 单向通信模式

由于ChatGPT对话系统是用户向模型发送消息,模型回复消息的单向通信模式,WebSocket的双向通信能力并没有被充分利用。使用WebSocket会引入不必要的复杂性,而EventSource更符合ChatGPT对话系统的通信需求。

5.2 长轮询模式

ChatGPT通常使用长轮询等待模型的回复,而EventSource天然支持这种模式。WebSocket在这种场景下并没有显著的优势,反而会增加额外的复杂性。

5.3 简化部署和维护

使用EventSource可以简化部署和维护工作。由于EventSource建立在HTTP协议之上,无需考虑WebSocket的握手和心跳等复杂机制,使得整体系统更加简洁。

6. 使用EventSource的代码示例

6.1 服务端实现

在服务端,使用Node.js和Express框架作为演示:

const express = require('express');
const { v4: uuidv4 } = require('uuid');

const app = express();
const port = 3000;

const clients = new Map();

app.get('/events', (req, res) => {
  const clientId = uuidv4();
  const newClient = res;
  clients.set(clientId, newClient);

  req.on('close', () => {
    clients.delete(clientId);
  });

  res.setHeader('Content-Type', 'text/event-stream');
  res.setHeader('Cache-Control', 'no-cache');
  res.setHeader('Connection', 'keep-alive');
  res.flushHeaders();

  clients.forEach((client) => {
    client.write(`data: A new user joined!\n\n`);
  });
});

app.post('/send-message', express.json(), (req, res) => {
  const { message } = req.body;

  clients.forEach((client) => {
    client.write(`data: ${message}\n\n`);
  });

  res.status(200).send('Message sent successfully!');
});

app.listen(port, () => {
  console.log(`Server is listening at http://localhost:${port}`);
});
6.2 客户端实现

在浏览器端,使用JavaScript:

const eventSource = new EventSource('http://localhost:3000/events');

eventSource.onmessage = (event) => {
  const message = event.data;
  console.log(`Received message: ${message}`);
};

document.getElementById('sendMessageBtn').addEventListener('click', () => {
  const message = prompt('Enter your message:');
  fetch('http://localhost:3000/send-message', {
    method: 'POST',
    headers: {
      'Content-Type': 'application/json',
    },
    body: JSON.stringify({ message }),
  });
});

在上述代码中,客户端通过EventSource建立与服务器的连接,并监听onmessage事件处理服务器发送的消息。用户可以通过点击按钮发送消息,服务器将消息广播给所有连接的客户端。

7. 性能考量与拓展

7.1 性能考量

在性能方面,WebSocket通常更为高效,因为它建立在TCP连接上,具有低延迟和高吞吐量的特性。然而,对于一些实时性要求不高或者场景较为简单的应用,EventSource的性能已经足够满足需求,并且其简洁性更加符合一些特定场景的需求。

7.2 拓展可能性

ChatGPT对话系统可以考虑在未来的版本中增加对WebSocket的支持,以应对一些需要更低延迟、更高实时性的场景。通过在系统中引入灵活的通信机制,可以更好地满足不同用户和应用的需求。

8. 总结

本文深入探讨了为什么ChatGPT对话系统选择使用EventSource而非WebSocket。通过对WebSocket和EventSource的简介、ChatGPT对话系统特点以及EventSource的优势进行分析,我们发现在特定场景下,选择EventSource能够更好地满足应用需求,简化部署和维护工作。

最后,通过代码示例展示了如何在ChatGPT对话系统中使用EventSource实现实时通信,并对性能考量和拓展可能性进行了讨论。在实际应用中,开发者可以根据具体需求选择最适合的通信方式,以提供更好的用户体验和系统性能。


欢迎加入我的知识星球,全面提升技术能力。

👉 加入方式,“长按”或“扫描”下方二维码噢:

95416b3556cf4fae79458620aebd65ef.png

星球的内容包括:项目实战、面试招聘、源码解析、学习路线。

e46160bc8cdc64705e4b586ac4c0a558.png

98a875f70aeea5d52a0372a4c9735d5a.png20c03070ff62d9e44b20a276a5174ad0.png291a06748484550bedf8e3ff6480fa72.pngdefce7c682c7cc2cd07cce63c2ac7259.png

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
基于JavaFX的Http Server模拟器 源码地址 GitHub - DayRain/http-server-simulator: http server 模拟器 功能描述 HttpServer模拟器,通过简单的配置即可模拟第三方服务端,用于接收和响应HTTP请求。 支持同时模拟多个服务、动态添加接口、动态配置返回值。 使用说明 运行 exe运行 编译代码后,点击exe直接运行 代码运行 下载好代码后,运行主类ApplicationStarter即可 新建服务 主界面如下 点击 文件-新建 创建新的服务 ... 阅读详情

相关推荐

CANoe实战:LIN Slave一致性测试全流程解析

本文详细解析了使用CANoe进行LIN Slave一致性测试的全流程,包括测试概述、环境搭建、模块集成、测试用例详解及报告分析。通过实际案例分享,帮助工程师掌握LIN 2.0/2.1/2.2、SAE J2602和ISO 17987等标准的自动化测试方法,提升汽车电子从节点的可靠性和兼容性验证效率。

weixin_42665725的博客 533

webSocket和EventSource的区别

WebSocket和EventSource是两种在Web应用程序中用于实现实时通信的不同技术。WebSocket是一种双向通信协议,允许服务器与客户端建立持久性连接并通过该连接发送消息。而EventSource是一种服务器推送技术,只允许服务器向客户端发送消息,而不允许客户端向服务器发送消息。在下面的描述中,我将详细介绍WebSocket和EventSource的不同之处,并提供一些代码示例。

世间万物皆不如你 2276

Gromacs文件格式全解析:xtc vs trr vs cpt,哪种更适合你的模拟需求?

本文深入解析Gromacs分子动力学模拟中的三种核心文件格式xtc、trr和cpt,详细对比其技术特性和适用场景。xtc适合存储效率优先的场景,trr保留完整动力学数据,cpt确保模拟精确重启。通过实际配置示例和存储优化技巧,帮助用户根据模拟需求选择最佳格式组合,平衡分析灵活性与存储成本。

weixin_29281941的博客 97

传统轮询,长轮询,EventSource与WebSocket

。。

qq_37299525的博客 1566

金融领域强化学习在多资产类别动态交易执行中的应用

在金融市场中,多资产类别的交易执行面临着诸多挑战,如市场的不确定性、资产间的复杂相关性等。传统的交易策略往往难以适应动态变化的市场环境。本研究的目的在于探索如何运用强化学习技术,实现多资产类别在动态市场环境下的高效交易执行。具体范围涵盖了从强化学习的基本原理到在多资产交易场景中的实际应用,包括核心算法的实现、数学模型的构建以及项目实战等方面。本文首先介绍研究背景,包括目的、预期读者和文档结构。接着阐述核心概念,包括强化学习和多资产类别动态交易执行的原理及其联系。

AI 领航者的博客 633

数据分享|2023年OSM道路数据(全国,分省,分市)

首先这个工作非常有必要的,因为我们正常使用的道路的分类都是基于包括城市快速路、城市主干路、城市次干路这个体系的,大家对于这个分类体系应该更熟悉,但是OSM地图的道路分类又不是完全按这个来的,所以非常有必要重新分类;搞清楚道路类型是我们使用道路数据做很多工作的基础,比如我们在使用道路数据的时候,经常需要预估道路的行车速度,而这个速度一般就是根据道路类型来的,比如高架路的车速肯定就比城市支路快很多!下载分为两种情况,第一种是下载小区域的数据,比如下载一个街区的数据,第二种为下载整个中国范围的。

JData_Engineer的博客 4308

websocket 和 eventsource 的区别和应用

先从语法方面说,再从特性方面说,再说应用场景。

有一棵树的博客 1698

点到面点云配准(Point To Plane)算法知识详解和详细推导,C++代码实现

点到面 ICP (Iterative Closest Point) 是在 3D 点云配准中常见的一种变体,通过最小化点到对应面(由法向量定义的局部平面)的距离来提高收敛速度和精度。

qq_36812406的博客 1812

了解JS三种实时通信方式——Eventsource、websocket与socket.io之间的差异和优缺点

它是 WebSockets 的替代方案,因为它比 WebSockets 更简单,更适合处理服务器向客户端发送数据的情况。是一种在单个 TCP 连接上提供全双工通信的协议,它使得客户端和服务器之间进行实时交互变得更加容易。它是一种标准化的通信协议,客户端和服务器都可以通过它发送消息。和其他实时通信协议,并提供了一组易于使用的 API。它既可以在客户端上使用,也可以在服务器端上使用,它还提供了许多高级功能,例如自动重连、心跳机制和房间等概念。,只有服务器能够发送消息,所以它更安全。

weixin_42508580的博客 1万+

95.qt qml-诺谦通用可扩展多功能QML界面

如下图所示:自带一个功能界面,可以通过功能界面添加不同功能,并且可以固定到顶部水平导航栏中,对于N多小功能的项目而言,非常方便,这样用户就可以根据自己喜好来使用自己常用的功能了。

抵抗时间扭曲,坚持做一件有意义的事 3050

VLA仿真平台:Isaac sim、MuJoCo

在虚拟仿真领域,VLA(Virtual Learning Agent)仿真器是用于开发和训练虚拟机器人代理的环境,它们为机器人提供了一个平台来进行各种任务的模拟和学习,特别是在强化学习(RL)中。两款广泛应用的仿真器是和。这两者各有其特点和优势,适用于不同类型的机器人研究和开发。

u013250861的博客 867

利用WebSocket和EventSource实现服务端推送

Websocket、Eventsource

唐唐唐行的博客 1858

ESP32 VSCode开发环境配置

ESP32 VSCode开发环境配置

qq_53529450的博客 511

ChatGPT对话为什么不用Websocket而使用EventSource?

在ChatGPT官网我们可以看到,对话的方式仅仅只有一个post请求,而没有使用IM中使用的websocket链接。同时我们可以看到与普通的post请求不一样的是,返回信息Response没有了,取而代之的是。那么这个是什么东西?一通查证后,发现这个是Web API中的接口返回的数据。MDN的官方描述是这样的(接口是 web 内容与服务器发送事件 一个实例会对HTTP服务器开启一个持久化的连接,以格式发送事件,此连接会一直保持开启直到通过调用关闭。好家伙,还有这好东西。是我以前孤陋寡闻了。

weixin_42907150的博客 785

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

ChatGPT 对话为什么不用 WebSocket 而使用 EventSource?

通过对WebSocket和EventSource的简介、ChatGPT对话系统特点以及EventSource的优势进行分析,我们发现在特定场景下,选择EventSource能够更好地满足应用需求,简化部署和维护工作。然而,对于一些实时性要求不高或者场景较为简单的应用,EventSource的性能已经足够满足需求,并且其简洁性更加符合一些特定场景的需求。在上述代码中,客户端通过EventSource建立与服务器的连接,并监听onmessage事件处理服务器发送的消息。EventSource具有良好的容错性。

犬小哈 115

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

ChatGPT为啥不用Websocket而是EventSource?

点击下方“JavaEdge”,选择“设为星标”第一时间关注技术干货!免责声明~任何文章不要过度深思!万事万物都经不起审视,因为世上没有同样的成长环境,也没有同样的认知水平,更「没有适用于所有人的解决方案」;不要急着评判文章列出的观点,只需代入其中,适度审视一番自己即可,能「跳脱出来从外人的角度看看现在的自己处在什么样的阶段」才不为俗人。怎么想、怎么做,全在乎自己「不断实践中寻找适合自己的大道」1...

JavaEdge全是干货的技术号 1082

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

ChatGPT对话用Websocket和使用EventSource区别

对于简单的实时通信需求,如消息通知、事件推送等,fetch-event-source 是一个简单、轻量级的选择;而对于需要实现双向通信、低延迟等要求较高的场景,则应选择 WebSocket。fetch-event-source 更简单易用,适合于快速实现简单的实时通信功能;WebSocket 虽然稍显复杂,但提供了更多灵活性和功能扩展的可能性。WebSocket 相比 fetch-event-source 在延迟和效率上更有优势,特别是在需要大量实时数据传输的场景下,WebSocket 更能满足需求。

不负光阴不负自己,不负被爱不负所爱 ​ 2770

ChatGPT 对话使用的 EventSource 技术到底是什么?

EventSource 是 HTML5 中引入的一项技术,定义了一种从服务器到客户端的单向数据传输机制。EventSource 的核心思想是实现服务器端主动推送数据到客户端,而无需客户端频繁发起请求。基于 HTTP 长轮询技术,但与传统的轮询相比,具有更高的效率和实时性,因为一旦连接建立,服务器可以连续发送多个事件到客户端,直到连接关闭。

路多辛的所思所想 1425

为什么建议国内的AI对话服务不采用EventSource协议?

EventSource 的实现更简单:WebSocket 是一种全双工通信协议,与传统的 HTTP 不同,它需要在客户端和服务器之间建立一个持久的、双向的连接。而 EventSource 是实现了服务器端主动推送的一种具体技术,它利用了长连接和事件监听机制,可以在浏览器与服务器之间建立持久性的连接,并实时接收服务器端推送的事件。推送数据的方式,是基于 HTTP/1.1 协议的一种机制,它使用了 HTTP 的长连接和基于文本的传输,相对 WebSocket 的二进制传输来说,它的实现更加轻量。

m0_74037076的博客 1181

ChatGPT为何放弃WebSocket?揭秘EventSource的三大决胜优势

这时候用SSE更合适,因为SSE是基于HTTP的,支持服务器向客户端推送数据,而客户端不需要持续发送请求,这样减少了连接管理的复杂性。另外,ChatGPT的响应是逐步生成的,用户可能需要看到部分结果,这时候SSE的分块传输刚好适用。WebSocket需要维护长连接,每个用户连接都会占用服务器资源,当用户量大的时候,服务器压力会很大。而SSE基于HTTP,可以利用现有的HTTP基础设施,更容易扩展,尤其是在使用无状态服务时,负载均衡也更简单。最后文章有啥不对,欢迎大佬在评论区指点!

weixin_40420211的博客 52
上一篇: Redis+Caffeine 太强了!
下一篇: 为什么魂斗罗只有128KB却可以实现那么长的剧情?
公众号-芋道源码
博客等级 码龄10年 1639粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值