
云计算&分布式
文章平均质量分 63
后打开撒打发了
有些人注定要生活在彼岸 可以亲近可以爱怜 甚至可以穷尽一生去思念 只是无法触及 有些距离 注定不能跨越 只能俩俩相望 就像有些爱只能养在心里 长在眼中 不要捧在手里 放在身边 注定只能邂逅 无法遭遇
展开
-
kafka运行环境的搭配与实践
接下来一步一步搭建Kafka运行环境。Step 1: 下载Kafka点击下载最新的版本并解压.> tar -xzf kafka_2.9.2-0.8.1.1.tgz> cd kafka_2.9.2-0.8.1.1Step 2: 启动服务Kafka用到了Zookeeper,所有首先启动Zookper,下面简单的启用一个单实例的Zookkeeper服务。可以在命令的结尾加个&符原创 2016-01-25 23:15:17 · 2132 阅读 · 0 评论 -
高可用架构之高可用的应用和服务
高可用的网站架构需要网站应用每个层面的支持,本文着重介绍应用层和服务层的高可用的解决方案。1、高可用的应用应用层主要处理网站应用的业务逻辑,因此有时也被称作业务逻辑层,应用的一个显著特点是应用的无状态性。所谓无状态的应用是指应用服务器不保存业务的上下文信息,而仅根据每次请求提交的数据进行相应的业务逻辑处理,多个服务实例(服务器)之间完全对等,请求提交到任意服务器,处理结果都是完全一原创 2017-10-28 11:28:27 · 12641 阅读 · 1 评论 -
微服务架构
看到最近“微服务架构”这个概念这么火,作为一个积极上进的程序猿,成小胖忍不住想要学习学习。而架构师老王(不是隔壁老王)最近刚好在做公司基础服务的微服务化研究和落地,对此深有研究。于是成小胖马上屁颠屁颠的跑过去向老王请教:“王哥,我看微服务架构这么火,我也想学,您给我讲讲啥是微服务架构呗?”老王笑了笑说:“要想知道什么是微服务架构,你得先知道什么系统架构设计。”成小胖的理想是转载 2017-10-28 11:34:32 · 1912 阅读 · 2 评论 -
java--kafka编程实例--producer和consumer
先修改broker的配置文件:vim config/server.properties找到Socket Server Settings内容修改listeners的内容即可producer代码如下:import org.apache.kafka.clients.producer.Callback;import org.apache.kafka.clients.produce原创 2017-05-22 17:13:51 · 1583 阅读 · 0 评论 -
librdkafka的使用和介绍
librdkafka的使用介绍librdkafka是kafka的c语言接口 下面简单的介绍一下其接口 1、rd_kafka_conf_set设置全局配置 2、rd_kafka_topic_conf_set设置topic配置 3、rd_kafka_brokers_add设置broker地址,启动向broker发送消息的线程 4、rd_kafka_n原创 2017-03-08 23:15:06 · 25095 阅读 · 2 评论 -
ElasticSearch5.6.3的安装部署以及集群部署、ElasticSearch-head的安装
一、ElasticSearch5.6.3下载安装步骤 说明:ElasticSearch的运行不能用root执行,自己用useradd命令新建一个用户如下所示:sueradd chenpasswd chen 然后根据提示输入密码即可下载地址:https://www.elastic.co/downloads/elasticsearch 下载最新的安装包并解压、然后执行、命令如下:wget http原创 2017-11-03 17:38:01 · 12240 阅读 · 0 评论 -
elasticsearch bulk数据--ES批量导入json数据
一、Bulk API官网给出的介绍:https://www.elastic.co/guide/en/elasticsearch/reference/6.0/docs-bulk.htmlThe REST API endpoint is /_bulk, and it expects the following newline delimited JSON (NDJSON) structur原创 2017-11-22 15:13:45 · 11670 阅读 · 2 评论 -
nginx 编写简单HTTP模块以及nginx http handler的hello world示例编写
编写nginx http handler模块以便开发自己模块,本文提供hello编写到编译的详细步骤 , 文章最后提供整个示例代码编写http handler模块的几个组成部分讲解:1、ngx_command_t示例:static ngx_command_t ngx_http_mytest_commands[] ={ { ngx_string("mytest"),原创 2018-01-19 09:55:12 · 1312 阅读 · 0 评论 -
hadoop上安装hive2.3.2学习总结—hive安装+mysql以及碰到坑点
一、环境准备hapdoop版本:基于hadoop2.8.1,本教程是基于hadoop2.8.1上安装的hivehive版本:apache-hive-2.3.2-bin.tar.gz二、安装配置hive+mysql(远程模式)1、首先安装好mysql数据库2、去hive官网下载hive安装包:apache-hive-2.3.2-bin.tar.gztar -zxvf ap原创 2018-01-29 00:30:18 · 4605 阅读 · 0 评论 -
Go使用grpc+http打造高性能微服务
大家可以发现,Go越来越流行,其一是目前云计算领域基本是使用Go作为底层开发语言;其二是随着区块链的火爆,引申出了其背后很多开源项目,很多都是使用Go语言进行开发;其三就是在微服务方面,Go也展示很大的优势性。那么微服务是什么,如何将其与Go做一个整合,来提升整体开发生产效率,下面会进行详细讲解。什么是微服务微服务的概念最早由 Martin Fowler 提出,在他的理论当中,微服务是一整套小的服...转载 2018-05-16 16:42:52 · 6330 阅读 · 2 评论 -
Micro 架构与设计
Micro 架构与设计翻译自 Micro architecture & design patterns for microservices注: 原文作者即 Micro 框架的开发者。过去几个月中,我们收到了很多关于 micro 的微服务架构和设计模式的问题。所以今天我们试着解释一下这两方面的问题。关于 MicroMicro 是一个微服务工具集。它被用来实现它的特性和接口,同时提供强大的可插...转载 2018-07-07 10:02:48 · 816 阅读 · 0 评论 -
kafka总结
Kafka剖析(一):Kafka背景及架构介绍近年来,活动和运营数据处理已经成为了网站软件产品特性中一个至关重要的组成部分,这就需要一套稍微更加复杂的基础设施对其提供支持。Kafka简介Kafka是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下:以时间复杂度为O(1)的方式提供消息持久化能力,即使对TB级以上数据也能保证常数转载 2017-09-29 07:37:11 · 482 阅读 · 0 评论 -
kafka是什么?深刻理解kafka
背景介绍Kafka简介Kafka是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下:以时间复杂度为O(1)的方式提供消息持久化能力,并保证即使对TB级以上数据也能保证常数时间的访问性能高吞吐率。即使在非常廉价的商用机器上也能做到单机支持每秒100K条消息的传输支持Kafka Server间的消息分区,及分布式消息消费,同时保证每个partition内的消息顺序传输同转载 2017-09-29 05:23:54 · 24306 阅读 · 0 评论 -
kafka(卡夫卡)学习资料收藏(转载)
apache kafka在数据处理中特别是日志和消息的处理上会有很多出色的表现,这里写个索引,关于kafka的文章暂时就更新到这里,最近利用空闲时间在对kafka做一些功能性增强,并java化,虽然现在已经有很多这样的版本,但是根据实际需求来改变才是最适合的。首先当然推荐的是kafka的官网 http://kafka.apache.org/ 在官网最值得参考的文章就是kafka d原创 2016-01-26 11:09:30 · 2632 阅读 · 0 评论 -
kafka环境的快速搭建
1.3 Quick StartThis tutorial assumes you are starting fresh and have no existing Kafka or ZooKeeper data.Step 1: Download the codeDownload the 0.9.0.0 release and un-tar it.> tar -xzf kafk原创 2016-01-26 18:42:31 · 675 阅读 · 0 评论 -
kafka介绍总结
kafka的介绍Kafka is a distributed,partitioned,replicated commit logservice 它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现。kafka对消息保存时根据Topic进行归类,发送消息者成为Producer,消息接受者成为Consumer,此外kafka集群有多个kafka实例组成,每个实例(serv原创 2017-03-06 18:41:53 · 603 阅读 · 0 评论 -
kafka安装配置(集群)以及收发消息讲解
kafka安装配置(集群)以及收发消息讲解一、安装配置1、下载解压wget http://mirror.bit.edu.cn/apache/kafka/0.10.2.0/kafka_2.10-0.10.2.0.tgztar -zxvf kafka_2.10-0.10.2.0.tgzkafka下载tgz包直接解压无需其他安装过程,下面是启动的过程 2、启动、原创 2017-03-07 22:50:10 · 4999 阅读 · 0 评论 -
activeMq-CPP的使用
activeMq-CPP应用程序demoauthor: 陈训一、avtiveMq服务端的安装1、从官网获取软件包:网址:http://activemq.apache.org/activemq-590-release.html2、解压运行activeMqwget http://archive.apache.org/dist/activemq/apache-active原创 2016-09-30 10:09:52 · 10742 阅读 · 3 评论 -
浅谈web应用的负载均衡、集群、高可用(HA)解决方案
浅谈web应用的负载均衡、集群、高可用(HA)解决方案博客分类: 架构集群负载均衡 声明:以下仅为个人的一些总结和随写,如有不对之处,还请看到的网友指出,以免误导。 (详细的配置方案请google,这里只说解决方案。) 1、熟悉几个组件1.1、apache —— 它是Apache软件基金会的一个开放转载 2017-05-30 15:30:41 · 1569 阅读 · 1 评论 -
Kafka剖析:Kafka背景及架构介绍
Kafka剖析:Kafka背景及架构介绍 Kafka 2015-04-08 5271 2评论下载为PDF 为什么不允许复制 《Kafka剖析:Kafka背景及架构介绍》 《Kafka设计解析:Kafka High Availability(上)》 《Kafka设计解析:Kafka High Availability (下)》 《Kafka设计解析转载 2017-05-22 14:12:52 · 1557 阅读 · 0 评论 -
kafka开发配置-----最新kafka版本(0.9.0以后的版本)配置
Kafka日志本身是由多个日志段组成(log segment)。一个日志是一个FileMessageSet,它包含了日志数据以及OffsetIndex对象,该对象使用位移来读取日志数据 * borker配置就是指配置server.properties文件 *最小配置通常情况下需要在减压缩kafka后,修改config/server.properties 配置文件中的以下两项原创 2017-05-22 15:12:03 · 3122 阅读 · 0 评论 -
go语言 记录奇怪的写法--慢慢品味
package mainimport "fmt"type TestFunc func(*Bar, string)type Bar struct { Name string Alias string}func (t *Bar) SetName(name string) { t.Name = name fmt.Println("Name:", t.N原创 2017-08-04 19:06:17 · 670 阅读 · 0 评论 -
tcp是什么?深刻理解tcp协议-----------tcp协议总结
简析TCP的三次握手与四次分手TCP是什么?具体的关于TCP是什么,我不打算详细的说了;当你看到这篇文章时,我想你也知道TCP的概念了,想要更深入的了解TCP的工作,我们就继续。它只是一个超级麻烦的协议,而它又是互联网的基础,也是每个程序员必备的基本功。首先来看看OSI的七层模型:我们需要知道TCP工作在网络OSI的七层模型中的第四层——Transport层,IP在第三层——Net原创 2017-09-29 04:49:39 · 985 阅读 · 0 评论 -
go-micro讲解--Go Micro编写微服务
一、什么是go-micro Go Micro是一个插件化的基础框架,基于此可以构建微服务。Micro的设计哲学是『可插拔』的插件化架构。在架构之外,它默认实现了consul作为服务发现,通过http进行通信,通过protobuf和json进行编解码。我们一步步深入下去。Go Micro是:一个用Golang编写的包一系列插件化的接口定义基于RPcGo Micro为下面的模块定义了接口:服务发现编解...原创 2018-07-07 10:53:09 · 39912 阅读 · 5 评论