Springboot整合文心一言----非流式响应与流式响应(前后端)

本文讨论了非流式响应和流式响应在基于WebSocket的聊天应用中的优缺点,特别是在Uniapp和SpringBoot集成中,以及如何通过WebSocket技术如SSE和自定义的WebSocketServerEndpoint实现实时流式通信。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

        所谓非流式响应就是直接等待百度把答案生成好之后直接返回给你,而后者这是一一种流的形式,百度一边生成答案,一边将答案进行返回,这样就是我们在使用ChatGPT中最常见的一种表现了,它回答问题的时候总是一个字一个字的出来。这两回答方式都有一定的使用范围,我认为如果你需要生成的答案不是很多(通过编写对应的prompt进行限制),或者是能够接收长等待,非流式响应是没有问题的。

        但是如果你对网络连接请求有一定的要求,如前端使用Uniapp进行编码时,使用uni.uploadFile默认的超时是10s,好像还不能修改超时时间,我是没改成功。。不过这不是关键hh,当进行建立网络连接时,如果客户端超过超时时间还没有接收到服务端的消息,那就会拒绝接收了,即使你只超过零点几秒就生成出了答案,但是客户端还是会拒绝接收,所以这个时候,选择流式响应就是一个必然选择。

        本文是将流式回答在Java部分就进行过滤了,或者把流引到前端进行处理会更好,在市面上大多使用SSE技术维护整个对话,因为Uniapp不支持这个技术,所以我使用了websocket进行维护,大致相同

依赖引入:

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-websocket</artifactId>
        </dependency>

        <dependency>
            <groupId>com.squareup.okhttp3</groupId>
            <artifactId>okhttp</artifactId>
            <version>4.9.3</version>
        </dependency>

前端部分:

            //断线重连
            reconnect() {
				if(this.ohHideFlag)
				if (!this.is_open_socket) {
					this.reconnectTimeOut = setTimeout(() => {
						this.connectSocketInit();
					}, 3000)
				}
			},
			connectSocketInit() {
				let token = getToken()
				this.socketTask = uni.connectSocket({
                    //如果是http则使用ws,如果是https则使用wss,小程序需要去公众平台进行记录
					url: 'wss://' + this.socketUrl + '/websocket/' + token,
					success: () => {
						console.log("正准备建立websocket中...");
						// 返回实例
						return this.socketTask
					},
				});
				this.socketTask.onOpen((res) => {
					console.log("WebSocket连接正常!");
					this.is_open_socket = true;
					this.socketTask.onMessage((res) => {
						if (result == "") {
							return;
							console.log("回答完毕")
						}
						let jsonString = res.data
						const dataPrefix = "data: ";
						if (jsonString.startsWith(dataPrefix)) {
							jsonString = jsonString.substring(dataPrefix.length);
						}
						
						// 解析JSON字符串
						const jsonObject = JSON.parse(jsonString);
						
						// 获取result属性
						const result = jsonObject.result;
						console.log(result);
						this.tempItem.content += result
						this.scrollToBottom();
					});
				})
				this.socketTask.onClose(() => {
					console.log("已经被关闭了")
					this.is_open_socket = false;
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值