
apache doris
文章平均质量分 76
黄瓜炖啤酒鸭
黄瓜炖啤酒鸭 欢迎分享,欢迎交流,有不懂的可以加微信交流,拒绝红包等利益交流,不懂就问。
展开
-
转载,通过 Prometheus Alertmanager 模块发送 Doris 异常信息至钉钉报警群
基础环境1.Prometheus 版本:2.22.2下载地址:https://github.com/prometheus/prometheus/releases/download/v2.22.2/prometheus-2.22.2.linux-amd64.tar.gz2.Alertmanager 版本:0.23下载地址:https://github.com/prometheus/alertmanager/releases/download/v0.23.0/alertmanager-0..转载 2022-02-18 09:22:06 · 719 阅读 · 0 评论 -
Doris SQL日志审计部署,以及sql收集输出kafka,后续血缘分析
1,介绍 Doris 的审计日志插件是一个可选插件。用户可以在运行时安装或卸载这个插件,该插件可以将 FE 的审计日志定期的导入到指定 Doris 集群中,以方便用户通过 SQL 对审计日志进行查看和分析,这里的数据其实是Doris FE log目录下的fe.audit.log文件中的数据。 我们要做的是安装这个插件,然后我们可以通过dorissql去对应的表查询sql语句,也可以通过doris目录下的fe.audit.log文件将日志接出之后写入外部操作。 通过filebeat...原创 2021-10-09 14:01:04 · 2274 阅读 · 3 评论 -
spark sql读取hive数据直接写入doris,离线批量导入
一,sparksql读取hive表二,spark自定义输出三,通过streamload方式数据写入doris四,测试五,总结原创 2021-09-16 16:29:37 · 3115 阅读 · 5 评论 -
Doris Studio安装使用
一,页面效果二,安装部署 部署地址:http://palo.baidu.com/docs/%E4%B8%8B%E8%BD%BD%E4%B8%93%E5%8C%BA/DorisStudio%E9%83%A8%E7%BD%B2%E6%89%8B%E5%86%8C最简单安装:三,启动之后登陆web端,这里很多人不知道账号密码,默认是:Studio预置系统管理员账号用户名:Admin密码:Admin@123四,注册...原创 2021-09-01 10:51:19 · 795 阅读 · 0 评论 -
doris 错误代码表
| 错误码 | 错误信息 || :----- | :----------------------------------------------------------- || 1005 | 创建表格失败,在返回错误信息中给出具体原因 || 1007 | 数据库已经存在,不能创建同名的数据库 || 1008...原创 2021-05-28 15:52:55 · 2312 阅读 · 0 评论 -
Flink-doris-connector sql写入doris on zeppelin优化版
要是一,代码开发二,打包细节三,zeppelin执行四,总结原创 2021-05-28 15:31:51 · 2224 阅读 · 20 评论 -
Doris 0.14.7 版本发布啦
Doris 0.14.7 版本发布啦!作为 Apache Doris 社区的主要维护团队,百度Doris团队也同时维护了基于 Apache Doris 官方 Release 版本的3 位迭代版本(tags)。包括快速的 Bug 修复和新功能更新。这些 3 位迭代版本都在百度内部进行过测试和上线,推荐使用。点击文末原文链接可以前往下载。Change Log0.14.7版本是继0.14版本发布以来的第一个三位迭代版本。新增功能我们会在之后的公众号文章中逐一详细介绍。...转载 2021-04-08 11:22:54 · 1081 阅读 · 0 评论 -
Flink stream load方式写入到doris遇到的问题
1,Flinkstreamload写入数据到doris的时候,偶然发现be节点挂掉的时候,我的yarn任务也会跟着报错,然后询问了开发小姐姐:继续跟小姐姐沟通:通过查看跟确认,发现tablet没有问题,这有尴尬了,只有继续测试,结果如下2,这我就没办法理解了。我目前使用的是doris 0.13.15,遇到这个问题,是因为在通过http写入doris的时候,需要通过FE去查找BE节点的状态,还有个写入是直接写入到BE,但是如果BE节点挂了也会遇到类似的问题。...原创 2021-03-11 15:55:30 · 5877 阅读 · 5 评论 -
Doris-0.13.15扩容问题汇总--转载
1、环境Doris版本0.13.15(进去可直接下载binary tgz,解压即用,无需自己编译)现有节点,3个节点node1,node2,node3FE服务扩容observer节点:node4,node5,node6BE服务扩容节点:node4,node5,node6Broker服务扩容节点:node4,node5,node6supervisor挂载上面三个服务,保证服务不挂2、扩容2.1、扩容前准备检测Kafka连通性(保证后续RoutineLoad可以正常使用)检测HDFS连通性转载 2021-03-02 10:13:34 · 1511 阅读 · 0 评论 -
笔记:doris最新版本0.13.15 使用web新页面,以及http页面请求返回JSON
1,我们安装doris最新版本0.13.15发现web端页面是没有变化的,如下图所示:新页面展示(web更好看了,而且可以直接在web查询,不过好像要经常重新登录,可能有bug吧):2,我们想通过http或者API获取doris系统的一些相关参数,通过postman访问发现返回的是html页面具体这也页面:访问地址为:http://doris_fe:8030/system?path=//backends通过http请求结果为:显然跟我们想要获取为JSON...原创 2021-02-25 16:41:37 · 4005 阅读 · 1 评论 -
Flink stream load 方式写入doris
1,文档Name: 'STREAM LOAD'Description: NAME: stream-load: load data to table in streaming SYNOPSIS curl --location-trusted -u user:passwd [-H ""...] -T data.file -XPUT http://fe_host:http_port/api/{db}/{table}/_stream_load ...原创 2021-01-22 09:53:53 · 5013 阅读 · 10 评论 -
TwoPhaseCommitSinkFunction二阶段提交
1,什么是二阶段提交?TwoPhaseCommitSinkFunctionFlink 已经为我们提供了实现 Exactly-Once 的 FlinkKafkaProducer 类。如下图所示:它实现了TwoPhaseCommitSinkFunction类,并重写了其中的方法,通过 2PC (Two Phase Comit) 二阶提交的方式,实现了 Exactly-Once。使用关系型数据库 MySQL,开启 CheckPoint 机制的前提下,为了保证前一次 CheckPoint ...原创 2020-11-23 16:36:32 · 2451 阅读 · 4 评论 -
Flink-connector-sql写入doris on zeppelin 实践
目标:在Flink代码里面支持对doris的读写操作,Flinksqlondoris,将flinksql作为计算引擎。1,参考:https://ci.apache.org/projects/flink/flink-docs-release-1.11/zh/dev/table/sourceSinks.html#full-stack-example2,...原创 2020-11-11 14:27:17 · 4112 阅读 · 2 评论 -
记录apache doris使用过程中出现的问题
1,执行创建语句过程中出现:[Err] 1064 - errCode = 2, detailMessage = Failed to find enough host in all backends. need: 3原因:语句中指定了PROPERTIES("replication_num" = "3");结果BE只有2个:查看对应节点的日志:.==> ./be.WARNING.log.20200921-141304 <==W1026 18:13:39.1399..原创 2020-10-28 17:30:44 · 33243 阅读 · 5 评论 -
apache doris的一些重点笔记,参数实践调优
HELP ALTER TABLE;Name: 'ALTER TABLE'Description: 该语句用于对已有的 table 进行修改。如果没有指定 rollup index,默认操作 base index。 该语句分为三种操作类型: schema change 、rollup 、partition 这三种操作类型不能同时出现在一条 ALTER TABLE 语句中。 其中 schema change 和 rollup 是异步操作,任务提交成功则返回。之后可使用 SH...原创 2020-10-26 17:55:09 · 7314 阅读 · 1 评论 -
简单程序实现 mysql 表创建sql 转成 doris 表创建sql
1,导入依赖<dependency> <groupId>com.github.jsqlparser</groupId> <artifactId>jsqlparser</artifactId> <version>3.1</version></dependency>2,读取sql文件,sql转换package readsql;import net.sf.jsqlpars原创 2020-10-23 16:25:13 · 2153 阅读 · 3 评论 -
zeppelin Interpreter Yarn 模式 和 doris的 bitmap_union
1,记录一下zeppelin Interpreter Yarn 模式在上生产部署的路上,需要思考一下各组件的高可用,出现意外情况等情况,所以才发现zeppelin存在Interpreter Yarn 模式:首先需要声明的是这里的Interpreter Yarn 模式和 Flink的Yarn模式不是一个概念。Flink的Yarn模式是指把Flink集群运行在Yarn环境里,而这里的 Interpreter Yarn 模式是指把 Flink Interpreter 进程运行在 Yarn 环...原创 2020-08-21 14:36:16 · 1200 阅读 · 0 评论 -
Doris初步使用2
使用命令查看创建表语句:HELP CREATE TABLE;创建表完整语句: CREATE [EXTERNAL] TABLE [IF NOT EXISTS] [database.]table_name (column_definition1[, column_definition2, ...] [, index_definition1[, ndex_definition12,]]) [ENGINE = [olap|mysql|broker]] [key_des...原创 2020-08-14 18:01:19 · 1484 阅读 · 0 评论 -
doris初步使用
官网地址:http://doris.incubator.apache.org/master/zh-CN/installing/compilation.html#%E4%BD%BF%E7%94%A8-docker-%E5%BC%80%E5%8F%91%E9%95%9C%E5%83%8F%E7%BC%96%E8%AF%91%EF%BC%88%E6%8E%A8%E8%8D%90%EF%BC%891,编译安装过程就不说了,我没弄,让同事弄的。2,与zeppelin的整合,实际很简单,就是zepp..原创 2020-07-29 17:48:21 · 3249 阅读 · 0 评论