
架构
文章平均质量分 91
付江
关注软件开发和互联网业界
展开
-
FuzzyLog:偏序关系 shared log 系统
本文是滴滴云开源框架教程系列文章的一篇。摘要本文摘自 Joshua Lockerman等人发表的论文 The FuzzyLog: A Partially Ordered Shared Log 。The FuzzyLog 一文介绍了名为 FuzzyLog 的 shared log 设计。问题大规模系统往往依赖于控制服务(如文件系统中的 namenode)。这类服务从单节点走向分布式时,要想保...原创 2018-11-12 17:33:05 · 495 阅读 · 0 评论 -
滴滴 Elasticsearch 多集群架构实践
Elasticsearch 是基于 Lucene 实现的分布式搜索引擎,提供了海量数据实时检索和分析能力。Elastic 公司开源的一系列产品组成的 Elastic Stack,可以为日志服务、搜索引擎、系统监控等提供简单、易用的解决方案。一、滴滴 Elasticsearch 简介滴滴 2016 年初开始构建 Elasticsearch 平台,如今已经发展到超过 3500+ Elasticse...原创 2019-01-09 11:14:32 · 397 阅读 · 0 评论 -
Router-Based HDFS Federation 在滴滴大数据的应用
一、背景HDFS 的 Master/Slave 架构,使得其具有单点瓶颈,即随着业务数据的大规模膨胀,Master 节点在元数据存储与提供服务上都会存在瓶颈。为了克服 HDFS 单点瓶颈存在的扩展性、性能、隔离问题,社区提出了Federation(https://issues.apache.org/jira/browse/HDFS-1052 )方案来进行解决。但是使用该方案之后,暴露给客户的问...原创 2019-01-11 11:11:43 · 1888 阅读 · 0 评论 -
基于 SRS+NG 搭建 HLS 直播流媒体服务器
协议介绍SRS 支持 HLS/RTMP 两种成熟而且广泛应用的流媒体分发方式。RTMP 指 Adobe 的 RTMP ( Realtime Message Protocol ),广泛应用于低延时直播,也是编码器和服务器对接的实际标准协议,在 PC(Flash)上有最佳观看体验和最佳稳定性。HLS 指 Apple 的 HLS ( Http Live Streaming ),本身就是 Live...原创 2018-12-26 11:39:34 · 3199 阅读 · 2 评论 -
在滴滴云上搭建 Redis-Cluster 集群
Redis-Cluster 简介Redis 官方在 3.0 版本以后推出了 Redis-Cluster 集群版,该版本能够解决单机版 Redis 无法水平伸缩的问题,并提供去中心化、高可用的 Redis 集群服务的能力。Redis-Custer 主要提供以下功能:数据自动分片的能力当集群部分节点故障或者无法与其它节点通讯的情况下,集群整体能够正常提供服务的能力本文将主要介绍在滴滴云服...原创 2018-12-26 11:37:19 · 252 阅读 · 0 评论 -
在滴滴云上使用 Easy-Mock 进行前后端数据联调
Why Easy Mock前后端分离开发模式是目前常见的一种开发方式,双方在约定开发接口时,常见的约定方式一般有 Wiki 或 Markdown 文档约定,而请求的模拟数据则常常直接写在代码里,到联调时再更新接口请求 URL。或者利用 Charles、Fiddler 等代理工具拦截请求。上述联调方式各有优劣势,有代码入侵和配置繁琐等各种问题。Easy Mock 是一个可视化且能快速生成模拟数...原创 2018-12-24 10:49:07 · 900 阅读 · 0 评论 -
从零开始搭建 gRPC 服务 - Golang 篇(一)
gRPC:一个高性能、开源的通用 RPC 框架,基于标准的 HTTP/2 进行传输,默认采用 Protocol Buffers 序列化结构化数据。本文将介绍如何从零搭建一个 Golang 的 gRPC 服务。准备工作本文所述的搭建环境基于滴滴云售卖的 CentOS 7.2 标准镜像安装 Golang下载最新版本的 Golang 安装包gRPC 依赖于 1.6 以上版本,如果对其他版本有诉...原创 2018-12-12 13:11:33 · 6017 阅读 · 0 评论 -
基于滴滴云主机搭建 FTP 文件共享服务器(一)
FTP 简单介绍什么是 FTP 服务器?FTP 服务器(File Transfer Protocol Server)是在互联网上提供文件共享存储和访问服务的计算机,它们依照 FTP 协议提供服务。FTP(File Transfer Protocol: 文件传输协议)是一种 Internet 上用来传送文件的协议,支持这种协议的服务器就是 FTP 服务器。常见 FTP 服务器如下:Wi...原创 2018-12-13 11:26:27 · 1602 阅读 · 0 评论 -
搭建前端错误监控系统
当我们完成一个业务系统的上线时,总是要观察线上的运行情况,查看日志发现问题并进行优化迭代。因为测试永远无法做到100%覆盖,用户也不会总是按照我们所预期的进行操作,因此我们需要在系统异常时主动对其进行收集上报,以制定解决方案。当生产环境中产生了一个 bug 时,如何做到迅速报警,找到问题原因,修复后又如何在线上验证?此时我们需要一个高效的错误监控系统。前端错误监控后端有各种强大的监控服务,...原创 2018-11-29 12:59:20 · 801 阅读 · 0 评论