nginx lua redis解决saltstack下发传输文件慢的问题思路

针对SaltStack文件下发速度慢的问题,介绍了从使用SaltStack本身到引入Tornado、Socket及Msgpacksocket等多种技术手段进行优化的过程,并探讨了使用Nginx Lua结合Redis验证临时密钥的方法。

更多saltstack的文章总结在:

http://rfyiamcool.blog.51cto.com/1030776/1357677



saltstack是个好东西,我现在很多的api接口都开始用saltstack做。有的时候会有在页面上传文件,然后推送到客户端的情况。或者是把安装配置的安装包推送到客户端。 唉, salstack下发文件慢,大家有没有头疼过,我是真的头疼过。  


其实说起来大家也没必要非要用saltstack做文件的下发,看个人的喜好,有些人会用git做,我这里只是为了解决速度的问题,git在大文件和多minion拉取文件下,也不见得快。也有哥们用saltstack rsync的组合,大家也都知道rsync分集中模式,一种是密码,一种是cs的认证,有点麻烦。

我上面说的废话,当然还是要看情况做下一步的:

如果你是下发配置文件,这个时候你要用saltstack的sls相关的功能。

如果你只是单纯下发文件,这个时候你在用saltstack的file模块,那会痛苦的,因为他有点慢。

原文:http://rfyiamcool.blog.51cto.com/1030776/1388127


说下我这这边因为saltstack文件慢的问题,在项目中的升级情况:


刚开始的时候用的是saltstack本身的文件传输,经常传大的文件,速度真的不乐观。一开是我觉得zeromq和msgpack是个很好的组合,有一次大意了,推了一个大的文件包,结果导致salt master卡死了。。。


后期我这边用tornado做下载的接口,慢慢的也开始承受不了了。

现在的模式是用socket的模式,用msgpack socket来解决,堵塞的问题是用threading线程池解决的。但是zeormq也是个高端版的socket,我这边用底层的socket对于大文件是比zeromq强,但是压力大了,还是蹦出异常。。。


现在的需求是,我需要在下载文件的时候,提交一个由master分配给他的临时key,带着这个key去下载文件。 其实方法比较的简单,比如让10个人下载这个文件,我就产生了10个临时的key,然后用saltstack api的模式,传给客户端,然后客户端拿着这个key去下载。


我现在的想法是用 nginx lua的模式,在access_by_lua里面增加redis的key的判断,当key匹配成功后,我再给他下载的地址。


这边也已经大体实现了,但是和后端的交互产生了冲突,正在解决。。。。还有一个问题是用ngx.location.capture 做子访问的时候。


1
2
3
4
res = ngx.location.capture(
        '/api/redisget' ,
        { method = ngx.HTTP_POST, body = post_from_key }
    )


原文:http://rfyiamcool.blog.51cto.com/1030776/1388127

还是那句话,你要是不想搞复杂了,就简单的用 saltstack rsync的方案就行啦。 如果想折腾,有体现高端的话,可以用用我介绍的那几种方法, sokect或者是nginx lua redis的模式。


希望官网能出一个好的方案来解决saltstack下发文件速度慢的问题。





 本文转自 rfyiamcool 51CTO博客,原文链接:http://blog.51cto.com/rfyiamcool/1388127,如需转载请自行联系原作者


Docker是一种容器化技术,它可以将应用程序及其依赖项打包成容器,提供了快速、轻量级和可移植的环境。Nginx是一个高性能的Web服务器和反向代理服务器,它可以处理大量的并发连接。Lua是一种轻量级的脚本语言,可以嵌入到Nginx中,用于定制化和扩展性能。Redis是一个高性能的内存键值存储系统,它支持多种数据结构,并提供了持久化功能。 将这些技术结合起来,可以构建一个高性能、可扩展和可靠的Web应用系统。首先,我们可以使用Docker来创建一个包含NginxLuaRedis的容器环境。Nginx可以作为Web服务器,将用户请求转发到不同的后端服务,并通过使用Lua脚本来增加自定义的功能和处理逻辑。Redis可以作为Nginx的缓存数据库,存储一些频繁使用的数据,以提高系统的响应速度和性能。 使用Docker可以快速部署整个系统,并且容器之间相互隔离,避免了环境依赖和冲突的问题。同时,通过Docker的容器编排工具,我们可以管理和扩展应用程序的实例数量,以满足流量的需求。此外,Docker还能够自动完成部署、升级和回滚等操作,提高了系统的可靠性和可维护性。 总的来说,使用Docker、NginxLuaRedis可以搭建一个高性能、可伸缩和可靠的Web应用系统。这个系统能够提供快速的响应速度、高并发处理能力,并且具备良好的可扩展性和可维护性。同时,通过使用容器化技术,我们可以更简单地部署和管理整个应用。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值