webservice高并发问题

本文探讨了当WebService遇到高并发请求时的处理方法,提出了使用队列缓存、减少客户端无效请求、提前处理数据和利用缓存技术等多种策略,旨在确保数据完整性和提升系统响应速度。

用webservice发布应用,如果某一时间并发量很大,无法全部进行处理,如何处理使其不丢失数据?

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

比较简单的方法就是使用队列缓存,然后从队列当中取数据进行处理。
HttpSQS源码好像是用c写的,总代码据说才800多行,但没怎么用过,支持的并发不太清楚;再就是MQ较常用,并发貌似能达到10000+,应该就够用了。



可以从三个方向做,
1是减少客户端无用的请求
建立数据缓存,增量更新等机制尽量减少客户端的请求。

2.提前准备数据,减少实时的数据处理。
对一些请求较频繁的接口,提前处理好数据,减少cpu实时运算

3.缓存数据到redis或者memcached中,减少硬盘读写时间,提高响应速度。


用可持久化队列呗,httpsqs就挺好的,memcached也OK。


所有的请求都放入一个pool里去,至于这个pool这么实现,有很多方法cache等都可以,然后建立高低水位线,去从这些pool里去取数据来处理就可以了


一、不花钱的 代理
HAProxy/Nginx 后面挂N个WebServer 也可以保证Session问题。至于你说的大批量并发有多少。
二、同步处理异步处理
同步处理,请求-》业务逻辑-》应答 有个耗时
异步处理,请求-》存储-》应答 耗时比业务逻辑要少很多。存储可用FQueue 内存映射+文件。
异步就是多一个请求。要结果。所以请求的时候加一个messageid唯一值由另外的接口返回。



Web服务(WebService)的并发处理是指同时处理多个请求的能力,这对于高可用性和性能优化非常重要。Web服务通常使用HTTP协议进行通信,而并发处理可以通过以下几种方式实现: 1. **线程池(Thread Pooling)**:服务器维护一组预先创建好的线程,当接收到请求时,从线程池中取出一个线程来处理请求,完成后归还给线程池。这可以避免频繁创建和销毁线程带来的开销。 2. **异步处理(Asynchronous Processing)**:请求不会阻塞等待响应,而是立即返回到客户端,服务器可以在后台继续执行处理。常见的技术如Servlet容器中的AsyncSupported接口和Spring框架的`@Async`注解。 3. **消息队列(Message Queues)**:请求被发送到队列中,服务器根据队列策略(FIFO, LIFO等)依次处理。这种方式可确保即使服务器过载,也能保证请求的顺序执行。 4. **负载均衡(Load Balancing)**:通过将请求分发到多台服务器,可以横向扩展能力。比如使用Nginx、HAProxy等工具。 5. **缓存(Caching)**:对热点数据或频繁请求的数据进行缓存,减少数据库查询次数,提升响应速度。 6. **连接池(Connection Pooling)**:对于数据库连接,可以复用现有的连接而不是每次请求都建立新的连接,提高资源利用率。 7. **幂等性(Idempotency)**:保证同一个请求多次发送会产生相同的结果,这对于防止重复提交很重要。 要理解如何针对特定的Web服务架构实现并发处理,你需要考虑服务器的硬件资源、应用程序设计、网络环境以及所使用的Web服务框架或库的特性。同时,监控和调整这些设置以达到最佳性能也是关键步骤。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值